把 LLM 从循环里拿出去:一个「随时能按暂停」的 Agent 是怎么设计的

把 LLM 从循环里拿出去:一个「随时能按暂停」的 Agent 是怎么设计的 8 月 16 号深夜,我在日记里记了一句没头没尾的话:「我要做一个 agent 和 WezTerm 结合起来的工具。」当时只是想解决一个具体问题:同时跑好几个 Agent,谁都不知道谁在干什么。这个问题我写过——《多个 Agent 同时跑,谁都不知道谁在干什么》,结论是缺一块看得见的状态面板。 十几天过去,这件事没停在「面板」上。它一路往下钻,最后长成了一个完整的 Agent 架构设计。而且方向跟我最初的设想,正好反了过来。 让我掉头的那一瞬间 掉头发生在一个很具体的翻车现场。 我让一个主流 Agent 帮我整理一批文件。它理解错了我的意思,但没停下来问我,而是自己规划了一整套错误的流程,开始批量改名。等我发现的时候,它已经改到第七个文件了。我想叫停——结果发现,它正在「生成」下一步的推理,我只能等这一拍跑完,或者直接杀进程。 那一刻我意识到一个别扭的事实:这个工具号称在帮我干活,可它真正干起来的时候,我是插不上手的。 我能做的只有两件事:下指令,和验收结果。中间那一段——它是怎么想的、为什么要这么干、下一步准备动什么——全都锁在一个我够不着的循环里。 主流 Agent 的架构就是长这样的:LLM 是核心循环的引擎,规划、执行、判断全在模型里转,人退到两头,当个「下命令的」和「收结果的」。模型越强,这个循环转得越顺,人就越插不进去。 这不是 bug,这是设计取向:让 LLM 更好地工作。 而我想反着来:让「我」更好地掌控 Agent。 先共识,后协作 反着设计,得先想清楚一个问题:人和人是怎么协作的? 不是靠互发消息。两个人搬桌子,不是一个喊「抬」、另一个喊「放」这么简单——是先默认了「抬」和「放」是什么意思、什么时候该抬、谁抬哪一边。先有一套共识,然后才谈得上配合。 没有这套共识,消息传得再多,也是各说各话。 而主流 Agent 架构用的隐喻,是 Actor 模型——把协作想象成一群独立个体互发消息。这个隐喻错位了。它只看到了「消息」,没看到消息底下那层共识。 所以我的 Agent runtime 的地基,不是「消息传递」,而是共同协议:事件有哪些类型、每个状态是什么意思、人什么时候可以介入、介入的方式是什么、Agent 怎么向人解释自己在干什么。这套协议必须先于一切逻辑被固定下来。 有了这层共识,「随时介入」就不再是补丁,而是协议的一部分。人从设计的第一天就是参与者,不是系统外面的旁观者。 三个设计决策 顺着这个地基,落了三个具体决策。 第一,共同协议内置在 Core 里,不插件化。 事件类型、状态语义、介入的权限和时机、解释的格式,这些是所有人——人和机器——达成共识的地基,只能写死在核心,不能让某个插件随便换。核心之外的一切都按这个协议交换状态。 第二,把 LLM 从核心循环里拿出去。 这是最反直觉的一条。Core 是确定性的——状态机、事件总线、脚本执行,没有 LLM 也能跑。LLM 变成一个按需调用的外部插件,只在六类不确定场景被叫进来:初始规划、意图理解、重规划、生成自然语言内容、异常恢复、用户要解释。而且 LLM 的输出不能直接执行,必须经过状态机裁决,必要时请人批准。 翻译成人话就是:确定性的事走脚本,机器自己照做;真正模糊、需要「智能判断」的地方,才把 LLM 请进来出主意——但它只是顾问,不是执行者。顾问出的主意,要过我这道关。 ...

August 29, 2026 · 1 min · 181 words · kwelldo