自我改进」改的是哪一层,决定你按什么标准选基座
给一个"会自我改进"的 Agent 选基座,最容易犯的错,是从"哪个模型可训练"开始选。 我最近完整走了一遍:打算给自部署的 Agent 上本地模型,拉候选、比显存、查 LoRA 支持,算了一堆账,最后结论是——不上本地,继续用 API。 先划条线。我写过《35B 不等于 35B 显存》,那篇讲"下载前怎么算账":文件大小不等于运行成本。这篇讲"算完账之后怎么决策":本地没上,不是因为装不下,而是因为选型的第一问就问错了。再划一条:这也不是又一篇工具选型——Claude Code 还是 Crush、哪种编程哲学,是工具层的问题;把 LLM 从核心循环里拿出来,是另一个项目的架构理念。这篇说的是工具底下那一层。 自我改进有两种,先确认自己属于哪种 “自我改进的 Agent"这个词有歧义,它至少指两件完全不同的事: L1,改配置、记忆、插件。 把 llm.model 换掉、把轮询间隔调短、往长期记忆里写一条教训、装卸插件——改的是"机器怎么用模型”,模型本身一动不动。 L2,改权重。 拿运行轨迹当数据做微调、RL、LoRA——改的是模型本身。 只有 L2 才跟"可训练性"沾边。L1 什么都不训练,它只是在用一个现成的推理引擎。 关键动作是复盘,不是表态。我把自己的 Agent 过了一遍:它改的全部落在 L1——配置项、长期记忆、插件装卸,没有一处动权重。确认完这一条,选型问题立刻换了问法:基座等于推理引擎,那就只看三件可测的事——工具调用的 JSON 可靠性、长上下文、成本。“可训练性"对 L1 完全不相关。 但这恰恰是行业默认的第一问。本地 coding 模型的讨论里,“LoRA 吃不吃得下"“微调友不友好"是入场券式的问题。真走 L2 的人问它是生死题;走 L1 的人问它是白算的账——而且多数人没意识到自己在回答哪个问题,被"自我改进"四个字裹着,默认自己是 L2。这跟《83 个测试全绿,0 个用户》是同一个失败模式:拿便宜的近似指标替掉真实判据,那篇是测试绿灯冒充用户价值,这篇是可训练性冒充使用条件。 这个默认不是凭空来的。本地模型圈子的核心用户就是走 L2 的人——评测、教程、硬件推荐全围着微调转,判据在圈子里被同化。走 L1 的人进场,第一眼看到的全是别人的判据,于是把"我能微调它"当成"它适合我”。选型前先回答"我要用这个东西做什么动作”,否则你会直接继承圈子的默认答案。 顺手把 L2 的账晾一句,让"先确认层"从玄学变成省钱:真走 L2,消费级硬件直接出局——Unsloth 官方不建议对 Qwen3.5 做 QLoRA(4-bit) 训练,bf16 LoRA 在 9B 档要 22G 显存,27B 档要 56G。确认自己走 L1,等于省掉一整条错误搜索路径。 ...