把 LLM 从循环里拿出去:一个「随时能按暂停」的 Agent 是怎么设计的

8 月 16 号深夜,我在日记里记了一句没头没尾的话:「我要做一个 agent 和 WezTerm 结合起来的工具。」当时只是想解决一个具体问题:同时跑好几个 Agent,谁都不知道谁在干什么。这个问题我写过——《多个 Agent 同时跑,谁都不知道谁在干什么》,结论是缺一块看得见的状态面板。

十几天过去,这件事没停在「面板」上。它一路往下钻,最后长成了一个完整的 Agent 架构设计。而且方向跟我最初的设想,正好反了过来。

让我掉头的那一瞬间

掉头发生在一个很具体的翻车现场。

我让一个主流 Agent 帮我整理一批文件。它理解错了我的意思,但没停下来问我,而是自己规划了一整套错误的流程,开始批量改名。等我发现的时候,它已经改到第七个文件了。我想叫停——结果发现,它正在「生成」下一步的推理,我只能等这一拍跑完,或者直接杀进程。

那一刻我意识到一个别扭的事实:这个工具号称在帮我干活,可它真正干起来的时候,我是插不上手的。 我能做的只有两件事:下指令,和验收结果。中间那一段——它是怎么想的、为什么要这么干、下一步准备动什么——全都锁在一个我够不着的循环里。

主流 Agent 的架构就是长这样的:LLM 是核心循环的引擎,规划、执行、判断全在模型里转,人退到两头,当个「下命令的」和「收结果的」。模型越强,这个循环转得越顺,人就越插不进去。

这不是 bug,这是设计取向:让 LLM 更好地工作。 而我想反着来:让「我」更好地掌控 Agent。

先共识,后协作

反着设计,得先想清楚一个问题:人和人是怎么协作的?

不是靠互发消息。两个人搬桌子,不是一个喊「抬」、另一个喊「放」这么简单——是先默认了「抬」和「放」是什么意思、什么时候该抬、谁抬哪一边。先有一套共识,然后才谈得上配合。 没有这套共识,消息传得再多,也是各说各话。

而主流 Agent 架构用的隐喻,是 Actor 模型——把协作想象成一群独立个体互发消息。这个隐喻错位了。它只看到了「消息」,没看到消息底下那层共识。

所以我的 Agent runtime 的地基,不是「消息传递」,而是共同协议:事件有哪些类型、每个状态是什么意思、人什么时候可以介入、介入的方式是什么、Agent 怎么向人解释自己在干什么。这套协议必须先于一切逻辑被固定下来。

有了这层共识,「随时介入」就不再是补丁,而是协议的一部分。人从设计的第一天就是参与者,不是系统外面的旁观者。

三个设计决策

顺着这个地基,落了三个具体决策。

第一,共同协议内置在 Core 里,不插件化。 事件类型、状态语义、介入的权限和时机、解释的格式,这些是所有人——人和机器——达成共识的地基,只能写死在核心,不能让某个插件随便换。核心之外的一切都按这个协议交换状态。

第二,把 LLM 从核心循环里拿出去。 这是最反直觉的一条。Core 是确定性的——状态机、事件总线、脚本执行,没有 LLM 也能跑。LLM 变成一个按需调用的外部插件,只在六类不确定场景被叫进来:初始规划、意图理解、重规划、生成自然语言内容、异常恢复、用户要解释。而且 LLM 的输出不能直接执行,必须经过状态机裁决,必要时请人批准。

翻译成人话就是:确定性的事走脚本,机器自己照做;真正模糊、需要「智能判断」的地方,才把 LLM 请进来出主意——但它只是顾问,不是执行者。顾问出的主意,要过我这道关。

第三,Core 就是给 Agent 用的微型操作系统。 它管状态、管事件调度、管资源权限、管脚本执行、管安全回滚。人的介入是最高优先级的事件。用户画像、脚本、LLM、工具,全是挂在核外面的插件——换 LLM 不用动 Core,加能力不用改内核。

这个架构跟主流方案的区别,一句话就能说清:

主流 LLM AgentHermes 类GoAgent
中心让 LLM 高效完成任务让 LLM 更好地工作让人掌控 Agent
LLM 位置核心循环主体仍是设计中心核心之外的插件
介入外挂补丁弱协议内置、一等公民
可靠性依赖模型依赖脚本覆盖没有 LLM 也能运行

这里有个值得提的参照:DeepSeek 最近开源的 DeepSeek Harness(dsh),走的也是「一切皆插件 + 事件溯源 + fail-closed」,跟我这个「确定性内核 + 人可介入」是两条路,但指向同一个方向——让 Agent 的内核可观测、可控制,不把命押在模型上。 区别在于,它把 agent 主循环也做成了插件之一,重心依然是「让 LLM 更好地工作」;我要的重心是「让人更好地掌控 Agent」。方向一致,落点不同。

怎么落地:四步,先别急着接 LLM

理念说到底只是理念,真正动手的路径反而很朴素。四步:

第一步,写协议,不写逻辑。 先把事件类型、状态列表用类型和常量固定下来。pause 是暂停,inject 是注入新要求,rollback 是回滚——这些「人和机器都认可的词汇表」,就是共识的代码形态。别急着让模型跑起来。

第二步,状态机加事件通道,先跑通「暂停/注入」。 关键一句话:介入不是调内部方法,是发一个事件。 Pause()、Inject() 走同一条通道,天然可记录、可解释、可回放。哪怕 LLM 正在生成,暂停事件也能立刻生效——取消上下文,或者等它返回后把结果丢掉。

第三步,把 LLM 当受约束的顾问接进来。 状态机决定什么时候调它,它的返回必须经过裁决。它不再有「自己决定动手」的权力。

第四步,做解释和可视化。 把事件日志渲染成时间线。人看到的不是「执行中」三个字,而是:

[12:01:03] 计划创建:写一份报告
[12:01:05] 步骤1开始:收集资料
[12:01:20] 用户暂停:我觉得资料方向不对
[12:01:35] 用户注入:重点关注2024年后的数据
[12:01:40] 计划已修改,步骤1重新执行

这就是「面向人类」的解释——你随时知道它在干嘛,也随时插得进去。

这条路还带出一个顺手的闭环:让 LLM 帮你生成新脚本,但生成结果先给你看,你批准了才注册成确定性脚本,之后执行不再需要 LLM。Agent 的成长全程可见、可改——它变强的每一步,都攥在你手里。

给一人公司的几句实在话

最后落到读者身上。自研 Agent 工具,对一人公司来说不是炫技,是笔实在账。

你现在每天用 AI 工具写代码、处理订单、管内容。这些工具正在变成你的生产资料。而工具的控制权结构,就是生产关系的雏形。 你今天默许「模型自己在循环里转、我插不上手」,明天它就真的替你把决定做了——不只是改几个文件名,是自动发邮件、自动下单、自动回复客户。

所以「让人更好地掌控 Agent」——强解释、可介入、可回滚——不只是一句技术口号,它本身就是一个可以产品化的立场。市场上让 LLM 转得越来越顺的工具已经够多了,缺的是反过来想的那一类:Agent 应该等你,而不是你等 Agent。

如果你想自己动手,最小验证就三步:写一份事件类型清单,跑通一个能「暂停/注入」的状态机,再把 LLM 接进来当顾问。三步能过,「随时按暂停」这件事在代码层面就成立了——剩下的都是工程细节。

先把共识立起来,再谈智能。