自我改进」改的是哪一层,决定你按什么标准选基座

给一个"会自我改进"的 Agent 选基座,最容易犯的错,是从"哪个模型可训练"开始选。 我最近完整走了一遍:打算给自部署的 Agent 上本地模型,拉候选、比显存、查 LoRA 支持,算了一堆账,最后结论是——不上本地,继续用 API。 先划条线。我写过《35B 不等于 35B 显存》,那篇讲"下载前怎么算账":文件大小不等于运行成本。这篇讲"算完账之后怎么决策":本地没上,不是因为装不下,而是因为选型的第一问就问错了。再划一条:这也不是又一篇工具选型——Claude Code 还是 Crush、哪种编程哲学,是工具层的问题;把 LLM 从核心循环里拿出来,是另一个项目的架构理念。这篇说的是工具底下那一层。 自我改进有两种,先确认自己属于哪种 “自我改进的 Agent"这个词有歧义,它至少指两件完全不同的事: L1,改配置、记忆、插件。 把 llm.model 换掉、把轮询间隔调短、往长期记忆里写一条教训、装卸插件——改的是"机器怎么用模型”,模型本身一动不动。 L2,改权重。 拿运行轨迹当数据做微调、RL、LoRA——改的是模型本身。 只有 L2 才跟"可训练性"沾边。L1 什么都不训练,它只是在用一个现成的推理引擎。 关键动作是复盘,不是表态。我把自己的 Agent 过了一遍:它改的全部落在 L1——配置项、长期记忆、插件装卸,没有一处动权重。确认完这一条,选型问题立刻换了问法:基座等于推理引擎,那就只看三件可测的事——工具调用的 JSON 可靠性、长上下文、成本。“可训练性"对 L1 完全不相关。 但这恰恰是行业默认的第一问。本地 coding 模型的讨论里,“LoRA 吃不吃得下"“微调友不友好"是入场券式的问题。真走 L2 的人问它是生死题;走 L1 的人问它是白算的账——而且多数人没意识到自己在回答哪个问题,被"自我改进"四个字裹着,默认自己是 L2。这跟《83 个测试全绿,0 个用户》是同一个失败模式:拿便宜的近似指标替掉真实判据,那篇是测试绿灯冒充用户价值,这篇是可训练性冒充使用条件。 这个默认不是凭空来的。本地模型圈子的核心用户就是走 L2 的人——评测、教程、硬件推荐全围着微调转,判据在圈子里被同化。走 L1 的人进场,第一眼看到的全是别人的判据,于是把"我能微调它"当成"它适合我”。选型前先回答"我要用这个东西做什么动作”,否则你会直接继承圈子的默认答案。 顺手把 L2 的账晾一句,让"先确认层"从玄学变成省钱:真走 L2,消费级硬件直接出局——Unsloth 官方不建议对 Qwen3.5 做 QLoRA(4-bit) 训练,bf16 LoRA 在 9B 档要 22G 显存,27B 档要 56G。确认自己走 L1,等于省掉一整条错误搜索路径。 ...

October 15, 2026 · 1 min · 183 words · kwelldo

官方说的「稀疏注意力」,在我机器上根本拿不到——一次视频生成加速的三档实测

我在本地用 ComfyUI 跑视频生成,一镜到底 10 秒,20 步基线一次要 370 秒。为了提速,我去下了一个模型卡上标着「85% 稀疏注意力」的加速版。跑完三档对照,速度确实上来了:20 步 370 秒,8 步 170 秒,4 步 110 秒——最快那档 3.36 倍。但复盘的时候我发现一件反直觉的事:这次加速跟「稀疏注意力」一点关系都没有。标称的稀疏注意力,在我的工具链里根本不存在。 先做一句定位,避免跟我上一篇《35B 不等于 35B 显存》撞车:那篇算的是「能不能跑」,下载之前该算的显存账;这篇算的是「跑得值不值」,运行起来之后该算的时间账、收益账,外加一件事——标签上写的,和你机器上能调用的,是两回事。 一、标签上的能力,只存在于别人的运行时里 那个加速版我 sha256 逐字节比对过:1.96 GB,跟 HF 上完全一致,Apache-2.0 协议,货是真的。 但跑起来之后去查它的实现,才发现那个「85% 稀疏注意力」是 LightX2V 推理引擎里的运行时配置(attn_type: dynamic_sparse_attn)——它是那个特定引擎的开关。我用的是 ComfyUI,这个开关在我这边根本不存在。 所以结论很硬:我测出来的 3.36 倍加速,全部来自「20 步 → 4 步」的蒸馏,跟注意力稀疏无关。 这件事的教训比「踩了个坑」大。同一个权重文件,规格表上写的能力,取决于你用什么推理引擎去跑它。换一套工具链,那个能力就消失了——不是你买错了,是那份能力从来只存在于别人的运行时里,不在你手里的这份权重里。 顺带纠正一个误会:官方承诺的稀疏注意力(「初始开源版只给全注意力,稀疏实现后续单独发布」),到现在也还没发。真正的「Flash」是另一回事——9 月 27 日上线的 M3.1-Flash-Preview,那是文本/代码模型,跟视频生成无关。签到的双倍额度把它俩并列一提,就有人以为 H3 出了 Flash 加速版。没有。 二、跑得值不值,要记一本时间账 加速是真的,但值不值要算。我把三档数据放一起,反推出一个很干净的规律: 耗时 ≈ 固定开销 45 秒 + 每步 16.25 秒 8 步验算:45 + 130 = 175 秒,实测 170 秒,对得上。 ...

October 10, 2026 · 1 min · 143 words · kwelldo

35B 不等于 35B 显存——我只看文件大小下模型,装完才发现装不下

上次我在本机部署 Qwen3.8-27B,前后搭进去一晚上。下载 13 个 G,配 systemd,写 jinja 模板,接进 agent。全部弄完,重启服务,日志里跳出一行:显存不足,OOM。 我第一反应是"不可能"——文件才 13 GB,我显卡 16 GB 显存,怎么会装不下?直到我把账一笔一笔列出来,才发现自己犯了一个很蠢但很典型的错:我把文件大小当成了运行成本。 文件 13 GB,不等于跑起来只要 13 GB。 这句话听着像废话,但你翻一圈本地部署的教程和讨论,绝大多数人踩的就是这个坑:下载之前只看一个数字——模型多少 G,然后拿它跟自己的显存比大小。装完才发现不对,已经晚了:权重下好了,磁盘占了,一晚上搭进去了。 先说一句定位,避免撞车:我之前写过《83 个测试全绿,0 个用户》,那篇拆的是"拿一个便宜的近似指标替掉真实判据"这个失败模式——用测试绿灯冒充用户价值。这篇是同一个模式换了件马甲:用文件大小冒充运行成本。同一颗雷,不同的雷区。 一、能不能跑,不是一本账,是四五本账 以我这次为准,本机显存预算总共 15.34 GiB(16,311 MiB 总显存减去桌面占的 600 MiB)。真正要装进这个数里的,至少有四样东西: 1. 权重张量。 这是文件里最大的一块,但它不等于文件大小。一个 14.25 GB 的文件,真正要上卡的张量表只有 13.264 GiB——GGUF 文件里有元数据、对齐填充,不是每一字节都要进显存。反过来,Q8_0 那个 29.05 GB 的文件,上卡就是 27 GiB,直接出局。 2. KV cache。 这个完全不写在文件里,是运行时按你的上下文长度算出来的。27B 这个模型有 16 层全注意力,每层 4 个 KV 头、head_dim 256,算下来每个 token 要 32,768 个元素。64K 上下文、f16 精度,这就是 4 GiB;压到 q8_0 是 2.12 GiB,q4_0 是 1.12 GiB。KV 才是那个藏起来的大头。 ...

October 8, 2026 · 2 min · 285 words · kwelldo

它只告诉你,不替你动手——我把三条铁律写成了会让 CI 变红的测试

它只告诉你,不替你动手——我把三条铁律写成了会让 CI 变红的测试 先说一句定位,避免撞车:我之前写过一篇《边界不靠拦,靠不存在》,讲的是两个 Agent 之间到底该交换什么,核心动作是删掉通信面。这篇是同一个词根,但对象不同——不是一个工具和另一个工具之间的边界,是一个工具自己该不该长那只「执行的手」。这次删的不是值空间,是执行面。 一屏输出,暴露了一个没人设计过的问题 今天上午我打开 agent-manager 的实机输出,一屏 11 个工具: Crush 有两份:go 装的 v0.96.1,pacman 装的 0.75.0-1,差了好几个版本; Pi 有两份:npm 装的 0.87.1,pacman 装的 0.83.0-1; Qoder CLI 有两份:自更新器和 npm 各一份; OpenCode 缺失,Codex 过期(0.152.1 → 0.157.1)。 11 个工具里,3 个多份并存、1 个缺失、1 个过期。而「到底哪份在生效」这个问题的答案,是 $PATH 里谁先被命中——一个从来没人设计过的顺序。 你以为「我装的是哪个版本」是一个事实问题,其实它是一个先后顺序问题。而这台机器上,决定「权威」的那份顺序,是多年里各种安装方式随手写进去的。 到这里,一个「管理 AI 工具」的工具,最讨喜、最好做的做法是什么?是顺手帮你把多份清掉、把过期的升掉、把 PATH 理干净。我今天花了一整天做的,是反过来的事——把这只手绑起来,让这个工具在设计上就「做不了」任何事。 三条铁律,和它换来的三个推论 我给这个工具写死了三条不可协商的规矩: 只输出,不执行——不升级、不安装、不改配置、不跑任何变更类命令,执行权永远在用户手上; 管信息,不管配置——配置管理交给插件; 零执行面——核心不 fork、不 subprocess、不 os.system,一切事实来自文件系统读取和 HTTP 读取。 这三条看起来像洁癖。但每条都不是洁癖,是一个可执行的推论。我把它一个个拆开讲,因为拆开之后才会发现,最反直觉、也最值钱的那一条,藏在最不起眼的地方。 推论一:能不能共享,取决于它能不能不执行 第三条铁律(零执行面)有个副产品,是全文我最满意的一句: 因为读取规则不执行任何东西,所以它可以被学习、被共享、被社区贡献,而不构成信任风险。 原来的设计里,自定义探针 = 可执行代码,意味着别人贡献一段探针,你得先把它放进信任清单——不然就是放一段任意代码进你的机器。这一整块复杂度,在「读取规则变成纯数据」的那一刻,整条作废了。 这就是最反直觉的地方:一个东西能不能安全地共享出去,不取决于它多强大,取决于它能不能不执行。一旦它只会读文件、只产出文本,它就从「需要被审查的代码」降级成了「可以随便传的数据」。信任成本归零。 推论二:纯读,就一定有读不到的,所以「不知道」必须是一等输出 只要你不肯执行命令,就一定有些事实读不到——比如 go 二进制里内嵌的 buildinfo,比如运行期才能拿到的 --version。 ...

September 26, 2026 · 1 min · 200 words · kwelldo

会停手是技能——我把「该不该继续」从情绪挪进了文件

你打开那个后台,鼠标停在刷新键上,迟迟不点下去。不是网页卡,是你已经猜到下一页是什么:曲线还是平的,注册还是零。于是你跟自己说"这周太忙,下周再看",顺手把 tab 关了。 这不是懒。这是你已经知道答案了,只是还没准备好听。 我在自己的实验纪律文件里写死了一条,专门对付这个时刻:你开始回避看数据,是最灵敏的停手信号——回避说明你已经知道答案了。 先说一句定位,避免撞车:我之前写过一篇《我不会组织》,问的是"如何开始、如何找到第一个人";这篇是同一枚硬币的另一面——如何结束。市面上教你坚持的内容有百分之九十九,教你停手的几乎为零,而后者才是能练出来的技能。 为什么没人教停手 因为"坚持"讲起来体面。它有一整套现成叙事:熬过黎明前的黑暗、伟大是熬出来的、你的对手只是比你晚放弃。而"停手"听起来像认输,像半途而废。 但现实是反的。一人公司里,让我损失最多时间的从来不是"怎么做",而是"该不该继续"。一个功能磨了三周,上线没动静,于是再磨一轮,再没动静,于是说服自己"体验还不够好"——这个循环能吃掉一整年,而且每一次都显得很努力。 真正的问题不是努力不够,是判据没提前定。没有提前写死的标准,每一次临场判断都会被情绪接管:投入越多,越想翻本;越翻本,越不能客观。 判据外置:把裁判权交出去 这套东西的内核只有一个机制,其余都是它的推论。我把项目当成实验,编号 Exp-00X,然后做一件反直觉的事:把"过不过门"的判据提前写进文件,到期交给系统执裁,而不是交给当时的自己。 四道门,判据全部量化,且开始后冻结: 门 0 选题:至少 3 个真人在没听你推销时主动提过这个痛; 门 1 可用(2 周):3 个陌生人独立走完一次完整使用,不追问"然后呢"; 门 2 回来(4 周):至少 10 个真实用户里,3 人一周内主动回来两次以上; 门 3 付钱(6 周):至少 3 笔真实付款——1 元也算。 到期只有两种结果:过,或者不过。系统只输出这两个字,我不解释,它也不听解释。唯一例外是允许续期一次,但必须书面写下理由——写下来这个动作本身能筛掉九成情绪化续期,因为情绪化的理由落到纸上,连自己都读不下去。 为什么要把裁判权交出去?因为人最不可信的一刻,恰恰是判断自己的那一刻。 你回避看数据的那一瞬,就是自我说服开始接管判断力的一瞬。判据外置不是懒惰,是防止自我说服的最后一道工程:把规则在冷静时写死,把执行交给一个不受情绪影响的外部系统,让"到期当天"由机器核对数字,而不是由一个已经投入了六周感情的人来给自己打分。 这里顺便解决一个更深的坑:很多人把"主张"和"生意"塞进同一个载体。想表达的主张,应该写成文章、开源项目,它不需要别人接受,也不该拿市场检验;想赚钱的载体,必须过市场检验,且不许和身份绑定。两者混在一个东西里,最痛的是——市场否掉的是生意,你会误读成自己的主张被否定。 判据外置加上编号化(“假设 H1 未通过检验"不等于"我被否定”)干的正是这件事:把主体从产品里切开。 情绪不是判据,行为是判据 配套的是反馈分级。只把行为数据当判据——用不用、回不回来、付不付钱;陌生人的描述当素材;观点当噪音;熟人的鼓励当情感支持——正反都不算判据。 每条批评归进四个盒子:痛点不真、解法不对、文案不清、定价不对。归完之后你会松一口气:没有一条是"针对你"。 都是针对一个编号、一个假设、一条链路。72 小时冷处理再决定改不改,也是同一个目的——让情绪先过它的半衰期,再让行为数据说话。 这一推,接上了「批评与自我批评」 这套规则的落点,我自己写在文件末尾:集中兵力(不扩张)+ 批评与自我批评(反馈分级、先自我批评)+ 星火燎原(根据地 = 一个小而痛的场景)。但我想往前推一步,而不是复述它: 判据外置,本质上是把"批评与自我批评"制度化。 自我批评最大的 bug 是——它靠意志力运转,却恰恰在最需要它的时刻失效(大受打击、沉没成本最重的时候)。把它写成文件、交给机器执裁,等于给"批评"配了一个不受情绪影响的执行者:到期、核数、输出"过/不过",不给情感留插嘴的缝。 这一推还接住了另一个困境。在《真理是如何被商品交换生产出来的》里我写过:市场裁决会被内化成"我的价值约等于交换结果"。切断这种内化的办法,不是更强的意志——更强的意志正是内化发生的地方——而是提前写死的规则 + 外部执行。规则是你清醒时订的,执行是机器干的,两者都不经过那个"正在被打分、所以必然自我辩护"的你。 四条,今天就能抄 第一,到期日当天默认动作 = 停手。 继续需要书面证据,而不是默认继续、想停才停。把"继续"从默认项改成需要理由的选项,是最省力的自律。 第二,判据开始后冻结,唯一合法延期是砍范围,不延时间。 “再给我两周就能成"是不合法的;“我不做团队版了,范围砍一半,时间不变"是合法的。 ...

September 23, 2026 · 1 min · 78 words · kwelldo

AI 让「怎么学」便宜到免费,稀缺的是「为什么学

上周我导出过一段自己和 AI 的真实对话。我问的是:用 AI 学新领域时,“预设过载”——一上来一堆专业术语,把人砸懵——有没有现成解法。 AI 回得很漂亮,三大类:提示词层面(“解释得像讲给五岁小孩”、费曼式追问、强制降维模板),工具层面(划词解释插件、AI 闪卡、间隔重复),框架层面(苏格拉底式引导、螺旋式三轮学习、认知负荷自适应)。一条光谱,从轻到重,无懈可击。 然后我只回了一句: “我认为还有一个很重要,就是,为什么学习,和学习什么一样重要。虽然你说的全部都是怎么学习。” AI 立刻认了:“我上一轮确实默认了你已经知道为什么学、学什么,只谈了怎么学。但在 AI 学习场景里,这个默认恰恰最危险。” 然后它给了全篇最值钱的一句话:How 越来越便宜,Why 和 What 反而越来越稀缺。 这段对话就是本文的全部起点。AI 给了十几种"怎么学"的解法,而真正的问题根本不在"怎么学"。 为什么"预设过载"不是技术问题 先把机制拆开。为什么 AI 一上来就是术语洪水?表面是它"爱显摆权威",底层是一个更冷的东西: 没有 Why,你就没有筛选标准,AI 给什么你接什么; 没有 What,你就不知道什么重要,于是所有术语都显得重要; 最后,AI 的"完整、专业、全面",就变成了认知洪水。 注意这个顺序:过载不是 AI 的 bug,是 Why 和 What 缺位的症状。你缺的从来不是"让 AI 讲简单点"的技巧,是"我为什么碰这个、我要到什么程度就停"的标准。标准一立,术语里八成的词会自己变暗;标准不立,AI 讲得再简单你也照样被淹没——因为"简单"是相对的,没有"够不够",简单就没有止境。 这是通缩的迁移。AI 把执行层的成本压到接近零之后,稀缺性没有消失,只是挪了地方:从 How(怎么学)挪到了 Why(为什么学)和 What(学什么)。会写提示词、会查资料、会做闪卡,这些正在从"人的本事"变成"机器的默认能力"。 落到一句话:AI 是放大器。Why 清晰,它放大你的能力;Why 模糊,它放大你的焦虑和术语过载。在错误方向上高效奔跑,是最贵的一种浪费。 举个一人公司最常踩的场景。你想接一个新需求,客户说要"上向量检索",于是你去问 AI。它给你讲 embedding、召回、重排、ANN 索引,一页术语。你以为自己在"学 RAG",其实真正的问题早被术语盖住了:这个需求到底值不值得用 RAG 解,还是加个 grep 就够。没有 Why,你不会想到问"这个客户的数据量有多大"——而答案往往是"几百条,压根用不上向量检索"。目的没立住,学得越全,离钱越远。 这就是为什么"预设过载"的解法不是换一个更会降维的提示词,而是先把"我到底要拿它干什么"钉死。 再深一层,这也不只是个人学习习惯问题。当一项技能能被 AI 稳定、廉价地完成时,它就在被并入生产资料——就像当年织布手艺被并进纺织机。人剩下、不可外包的部分,从来不是"执行",是"判断":判断学什么值得、到什么程度该停、这个知识对我的问题到底有没有用。AI 是劳动资料,不是劳动主体;它替你干活,但"为什么干"必须是你自己的。所以"预设过载"骨子里不是技术现象,是没有目的的学习就是消费——你在为一个不存在的目标,消耗认知,也消耗 AI 那点"权威"。 三条能今天就用的 第一,先写"不学行不行"。 ...

September 22, 2026 · 1 min · 113 words · kwelldo

代码能 git,环境不能——把一整年攒的东西打包成 22 MB

先做个假设,会让人后背发凉的假设:明天这台笔记本丢了,或者你要换一台新机器,这一年攒的东西,你能带走多少? 答案很不对称。代码能带走——都在 git 仓库里,一条 clone 就回来了。但环境带不走:这一年里你给 agent 调出来的技能库、喂出来的记忆库、七个 agent 各自的配置目录、系统里那三百多个"当初为了跑通某件事装上的东西",全都不在任何仓库里。它们散落在 ~/.pi、~/.claude、~/.config、~/.ssh,以及你根本记不清装没装过的包管理器清单里。 一人公司真正的生产资料不是源码,是"跑起来的那套环境"。 源码是死的,环境是活的——换台机器重写一遍,等于把这一年的磨合归零。 这个不对称还有个更扎心的版本:git 管的是"你愿意公开、愿意版本化的东西",而一人公司最值钱的那部分,恰恰是最不可能进 git 的——记忆库里那些"上次为什么踩坑、下次别再犯"的判断,agent 配置里那些"这个项目用这套 prompt 才听话"的调校,会话记录里那些被一句话点醒的瞬间。护城河不在仓库里,在环境里。 等你意识到这点的时候,往往已经是灾难之后了。 所以别把这当成"备份"——备份是运维的活。这是把你一年攒下的思考底稿,做成一份能随身带走的快照。 我做了什么:把整屋子东西压成六个包 上周末我把这件事做了。现在这套环境,六个 tar 包就是全部: 包 内容 大小 是否加密 skills-pi pi 全部技能与扩展 176 KB 公开 skills-taxonomy .agents 技能 + 中文法律 38 + 商业 15 18 MB 公开 env-manifest pacman/npm/cargo 清单 + secrets 键名 8.6 KB 公开 pi-core memo/settings/models/memory/auth 222 KB AES-256 sessions pi 全部会话 74 MB → 22 MB AES-256 agents-config claude/codex/dsh/opencode/prime/hermes/shell/ssh 配置 1.4 MB AES-256 恢复是一条命令,任何联网机器上都能跑: ...

September 21, 2026 · 1 min · 160 words · kwelldo

边界不靠拦,靠不存在——两个 Agent 之间到底该交换什么

上周我花了一夜,做了一件后来看特别蠢的事:给两个 Agent 之间的通信协议写握手。 我当时的直觉很朴素——两个 Agent 要互相调用,得先确认"你在吗、你能做什么、你要什么",于是照着 TCP 的样子设计了一套旗标:SYN 表示发起交流,SYN-ACK 表示接受,PSH 表示交付,FIN 表示结束,RST 表示中止,再配上 seq/wnd 做去重和流控。 写完整张表之后我卡住了。A2A 协议底下跑的是 HTTP,而 HTTP 本身就有请求/响应、有超时、有分帧。我想加的每一个旗标,标准 A2A 里都已经有一个对应的原生对象:SYN 就是 SendMessage,FIN 就是 TASK_STATE_COMPLETED,RST 就是 TASK_STATE_FAILED。我想加的协议,A2A 早就全有了。 再实现一遍,只会破坏和标准对端的互通。 于是那一夜的方向整个掉了个头:从"给协议加东西",变成了"给代码做减法"。 边界不靠拦,靠不存在 大多数人(包括那天晚上的我)设计 Agent 通信安全时,第一反应是"加过滤器":出站前把敏感字段拦一遍,把私有信息过滤掉。 这个方向是错的,而且错得很隐蔽。过滤器靠的是"漏没漏",而漏的前提是"那个东西本来就在出站的值空间里"。prompt、记忆、对话历史、工具实现、模型配置、凭据——这些私有面的东西,一旦能被构造成一个 payload,你就是在赌过滤器永远不漏。而过滤器一定会漏,因为值空间里存在它。 真正稳的做法,是让它们根本不在出站的值空间里。我把这个 fork 的第一条硬规则写成: 私有面没有出站表示。不是"过滤器可能漏掉",而是值空间里根本没有它们。 具体怎么落:一个 skill 只能返回三种显式形态——text、data、file,或者由它们组装的 Artifact。别的任何东西,直接抛异常失败,不做 str() 兜底。因为对任意对象调 str(obj),正是内部状态泄到线上的那条路。 所以判据一句话就能说清:如果某段代码不是在回答一个对端,它就不该在这里。 LLM 集成、MCP 客户端、多智能体编排、Router、CLI——这五样跟"回答对端"没关系的东西,全删了,一共删了 2768 行(约 42%)。删完之后测试 427 个全绿,3 个跳过(那 3 个是要额外装 gRPC 依赖的用例)。 失败就是失败,别用 200 冒充成功 第二条硬规则更反直觉:崩溃就报 TASK_STATE_FAILED,主动拒绝就报 TASK_STATE_REJECTED,绝不用 200 + 一段文本冒充成功。 ...

September 18, 2026 · 1 min · 180 words · kwelldo