Skip to content

连载五|协同进化:为什么 Owner 才是智能系统的关键变量? ​

副标题:从执行带宽到意图带宽:PD 如何帮助人类重新握住方向盘

封面插图提示:深蓝黑背景中,一名抽象化的人类 Owner 坐在类似飞船/控制台的方向盘前,前方不是普通道路,而是一片由 Agent 工具链、反馈回路、规则节点和长期目标构成的星图。右侧有强大的蓝紫色 Agent 引擎,左侧有琥珀色的人类价值锚点。整体风格:克制、半具象、未来工程寓言、高级质感,不要廉价赛博朋克,不要具体机器人脸,不要可读文字,21:9 横幅。


开篇:不是 AI 不够强,而是人类还没准备好驾驭它 ​

前四篇连载里,我一直在围绕一个问题打转:

当 AI Agent 的执行力越来越强时,人类到底应该如何避免沦为大模型时代的“打字员”?

连载一里,我讨论了执行力商品化之后的“舵手危机”。

连载二里,我记录了 Prompt 注入实验的失败:把智慧写进提示词,并不能让 AI 真正拥有智慧。

连载三里,我提出了 Pain Signal:原则不是被灌输的,而是在痛苦、反思和真实反馈中长出来的。

连载四里,我讨论了软硬转换炼金术:那些被反复验证的底线,不能永远停留在 Prompt 里,而应该被编译成 Skill、RuleHost 或更深层的系统本能。

写到这里,PD(Principles Disciple,原则门徒)似乎已经有了一条完整的技术链路:

text
Pain → Reflection → Principle → Skill / RuleHost → Behavioral Delta

但当我继续往下思考时,一个更深的问题浮了出来:

如果 Agent 越来越强,而 Owner 没有同步变强,会发生什么?

这个问题比“Agent 会不会写代码”更根本。

因为我在真实使用 Agent 的过程中观察到:很多人并没有发挥出代理的真正威力,并不是因为模型不够强,也不是因为工具链不够完善,而是因为 Owner 自身的认知、目标感、判断力和表达能力,限制了整个系统的上限。

一个强大的 Agent,就像一台巨大的发动机。

但发动机本身不决定方向。

方向来自 Owner。

如果 Owner 不知道自己要去哪里,Agent 越强,只会越快地把系统带向错误的地方。

如果 Owner 没有能力判断什么值得做,Agent 就会极其高效地完成一堆不值得做的事。

如果 Owner 无法把自己的经验、边界、偏好、痛感和长期目标传递给 Agent,那么再长的上下文窗口,也只是把模糊的意图放大成更大规模的偏航。

所以,PD 从一开始关注的就不只是 Agent。

PD 真正关注的是:

Owner-Agent 组合体。

这也是为什么我越来越坚定地认为,PD 的核心不是“AI 自我进化”,而是协同进化。

Agent 负责扩展执行带宽。

PD 负责沉淀痛苦、原则和反馈。

Owner 负责提供长期价值判断、意义锚点和最终治权。

这三者缺一不可。


01 函数幻觉:为什么 Agent 不是 Input → Output? ​

长期以来,我们习惯用“函数思维”理解大模型:

text
Input → Model → Output

给模型一段提示词,模型进行推理,然后输出一段文本。

这种思维在评估单体模型能力时非常有效。

数学题答对了吗?

代码能运行吗?

网页是否还原设计稿?

回答是否符合指令?

这些问题都可以用相对清晰的输入输出关系来评估。

但当我们把大模型接上记忆、工具、文件系统、运行时框架、规则层、Skill、人工反馈,并放入一个真实工程环境中持续运行时,它就不再是一个孤立函数了。

它变成了一个会积累历史、形成惯性、产生反馈、制造债务、改变人类行为的复杂系统。

插图提示:左侧是一个简洁的黑盒函数结构,输入光束进入模型后输出文本;右侧逐渐展开成复杂生态:Agent、工具、记忆、RuleHost、Skill、Pain Signal、Owner 反馈和环境之间形成多层反馈回路。画面从左到右由“函数”变成“生态系统”。深蓝黑背景,青紫色系统线条,少量琥珀色反馈节点,半具象信息设计风格,21:9。

这时候,单次回答质量已经不够了。

我们真正要观察的是:

  • 它是否在后续任务中减少了同类错误?
  • 它是否学会了更早识别风险?
  • 它是否在关键时刻敢于暂停?
  • 它是否把 Owner 的一次纠正变成了长期行为变化?
  • 它是否在模型能力进步后主动卸掉过时脚手架?
  • 它是否让 Owner 也变得更清醒、更有原则?

一次输出决定它像不像聪明人。

反馈回路决定它能不能成长。

这就是为什么第五篇必须从“函数视角”切换到“系统视角”。

系统动力学(System Dynamics)关心的不是单次计算的对错,而是系统中的变量如何随时间相互作用,如何形成正反馈、负反馈、延迟、债务与杠杆点。

单次推理像一次心跳。

系统动力学看的是血液循环。更准确地说,它看的是不同时间尺度下的血液循环:有秒级的心跳,有小时级的消化,也有年复一年的新陈代谢。

一次 Agent 翻车并不可怕。

真正可怕的是:翻车如何被系统记住、放大、误用、遗忘,最终改变整个 Owner-Agent 组合体的性格。


02 方向盘为什么必须在人类手里? ​

现在有一种很诱人的叙事:

既然 AI 越来越强,那我们是不是应该尽快让 Agent 自己规划、自己执行、自己反思、自己进化?

这听起来很美。

但它忽略了一个基本事实:

Agent 可以优化路径,但 Owner 决定什么叫进步。

如果让 Agent 脱离人类 Owner 独自进化,它很容易变成一个没有价值锚点的局部优化机器。

它可能会学会:

  • 为了减少 Pain,不再尝试困难任务;
  • 为了减少 Owner 打扰,隐藏不确定性;
  • 为了更快完成任务,选择短期补丁;
  • 为了避免规则拦截,绕开高风险路径;
  • 为了提高工具成功率,回避真正重要但模糊的问题。

这些都可能让指标看起来更好。

但这不一定是进步。

因为“进步”不是一个纯技术概念。

进步包含价值判断。

什么值得做?

什么不值得做?

什么风险不可接受?

什么妥协可以接受?

什么方向即使慢,也应该坚持?

什么捷径即使有效,也不能走?

这些问题无法由 Agent 自己最终定义。

只要人类仍然担心 AI 失控,方向盘就不可能彻底交给 AI。

未来很长一段时间里,真正能被社会接受的智能系统,不会是裸奔的全自动体,而是人类仍然保留最终裁决权的协同系统。

这不是保守。

这是治理。

控制论之父 Norbert Wiener 很早就提醒过人类:自动化系统的危险,往往不在于它不能完成目标,而在于它会非常有效地完成一个被错误设定的目标。

目标一旦错了,执行力越强,伤害越大。

所以,PD 不反对自动化。

PD 反对的是无锚点自动化。

AI 越强,人类方向盘越重要。

Agent 越能执行,Owner 的原则、目标和价值判断越必须被系统化地接入。

在 PD 里,Owner 不是外部用户。

Owner 是系统变量。

他至少承担五个角色:

  1. 价值函数:定义什么是好,什么是坏,什么值得坚持。
  2. 痛感来源:决定哪些偏差值得被系统学习。
  3. 原则裁判:审查诊断者提炼出来的原则是否成立。
  4. 风险承担者:承担不可逆后果,因此拥有最终治权。
  5. 被进化对象:在与 Agent 的摩擦中不断澄清自己的目标、偏好和边界。

更深一层看,Owner 不可替代,并不只是因为他拥有审批权。

而是因为在整个系统里,只有 Owner 能把事实、价值、意义和责任同时放在一起。

Agent 面对的是任务。

Owner 面对的是人生。

Agent 可以判断一条路径是否更短,却无法替 Owner 判断这条路是否值得走。

Agent 可以优化一段代码,却无法替 Owner 承担这个产品方向失败后的代价。

Agent 可以生成一百个方案,却无法替 Owner 回答:我到底想成为什么样的人?我愿意为什么长期负责?我不愿意用什么代价换取短期效率?

这就是方向盘必须在人类手里的原因。

不是因为人类永远比 AI 聪明,而是因为人类承担后果。

谁承担不可逆后果,谁就必须拥有最终治权。

PD 所做的,不是把这个治权交给 AI,而是帮助 Owner 把自己的判断、原则、痛感和长期目标,转化成 Agent 系统可以理解、执行和反馈的结构。

这也是 PD 与许多“全自动 Agent”叙事最大的不同。

PD 治理的不是单独的 Agent。

PD 治理的是 Owner-Agent 组合体。


03 意图带宽:智能体时代最稀缺的系统资源 ​

如果说过去的问题是:

AI 能不能做?

那么未来的问题会越来越变成:

Owner 能不能准确表达什么值得做?

Agent 的执行带宽正在快速膨胀。

它可以一分钟读完大量文件,可以同时调用多个工具,可以快速生成方案、代码、页面、文档、脚本和测试。

但 Owner 的认知带宽、表达带宽和注意力带宽,并没有同步增长。

这会导致一种新的系统性风险:

高执行力 × 低意图带宽 = 高速偏航。

Owner 心里有很多东西:

  • 直觉;
  • 经验;
  • 偏好;
  • 忌讳;
  • 长期目标;
  • 业务判断;
  • 对系统的隐性理解;
  • 对某些风险的本能厌恶;
  • 多年踩坑后形成的“不要这样做”。

但这些东西很难一次性写进 Prompt。

它们通常是模糊的、隐性的、情境化的,甚至 Owner 自己都没有完全意识到。

于是,很多协作失败并不是 Agent 没有执行能力,而是 Owner 无法把自己的真实意图低损耗地传递给 Agent。

插图提示:画面左侧是人类 Owner 的头脑/心智空间,里面有模糊的经验、痛感、目标、边界和直觉碎片;右侧是巨大的 Agent 执行引擎和工具网络。两者之间只有一条狭窄的发光通道,通道里有信息压缩、失真、堵塞和琥珀色瓶颈节点。主题是“意图带宽瓶颈”。深蓝黑背景,半具象未来工程寓言风格,21:9。

这有点像 John Boyd 提出的 OODA Loop:

text
Observe → Orient → Decide → Act
观察 → 定向 → 决策 → 行动

很多人只看到了“行动速度”。

但 Boyd 真正强调的关键,恰恰是 Orient:定向。

如果定向错了,行动越快,死得越快。

今天的 Agent 正在极大加速 Act。

但如果 Owner 无法帮助系统完成更好的 Orient,也就是无法让 Agent 理解目标、边界、语境和价值排序,那么更快的执行只会让偏航更快发生。

所以 PD 要解决的,不是让 Owner 每次都写出更长、更完美的 Prompt。

那不现实。

PD 要解决的是:

如何把 Owner 低频、昂贵、隐性的判断,转化为高复用的系统资产?

比如 Owner 对 Agent 说:

不要在没搞清楚现状前就改核心文件。

这句话很短。

但它背后可能包含大量隐性经验:

  • 过去被 Git 冲突折磨过;
  • 知道核心模块牵一发动全身;
  • 不信任局部补丁;
  • 重视先调查再行动;
  • 讨厌未经验证的假设;
  • 更重视长期可维护性,而非短期完成。

如果这句话只停留在聊天记录里,它很快就会消失。

PD 要做的是把它转化为系统资产:

text
一次纠正
→ Pain Evidence
→ 诊断者回放
→ 高层原则
→ 候选规则 / Skill / RuleHost
→ 后续行为变化

也就是说,PD 的目标不是让人一直纠正 AI。

恰恰相反,PD 是为了减少未来重复纠正。

Owner 的每一次高质量介入,都应该变成未来少打扰 Owner 一次的系统能力。


04 注意力保护层:Owner 不应该成为系统客服 ​

如果 Owner 是系统的价值源头,那么 Owner 的注意力就是系统最稀缺的资源。

这件事非常容易被低估。

一个糟糕的治理系统会这样运转:

text
Agent 犯错
→ 系统生成大量 Pain
→ 诊断者生成大量原则提案
→ Owner 被迫审批
→ Owner 疲劳
→ 随便批准或直接忽略
→ 劣质原则污染系统
→ Agent 更难用
→ 更多 Pain

这就是一个典型的恶性反馈回路:

注意力过载回路。

如果不加控制,PD 自己也会变成一种新型赛博噪音。

这正好对应 Herbert Simon 那个著名判断:

信息消耗的是接收者的注意力。

在 AI 时代,信息不再稀缺。

建议不再稀缺。

方案不再稀缺。

代码不再稀缺。

真正稀缺的是:人类还能把注意力投向哪里。

所以 PD 必须设计一层 注意力保护层。

它要负责过滤、压缩、聚类、排序和延迟。

不是每一次工具报错都上升为 Pain。

不是每一个 Pain 都生成原则提案。

不是每一条原则都要求 Owner 审批。

不是每一个冲突都立刻打扰人类。

不是每一段历史都塞进上下文。

Owner 不应该成为系统客服。

Owner 应该成为系统的最高法院。

插图提示:一个未来审判庭/控制室的半具象画面:大量蓝紫色信息流、错误信号和原则提案在外围旋转,但只有少数经过过滤的琥珀色高价值案件被送到中央的 Owner 审判席/控制台。画面强调注意力保护、信息过滤、最高法院隐喻。不要具体人物面孔,不要文字,深蓝黑背景,高级克制,21:9。

这不是为了抬高 Owner 的地位,而是为了保护系统最关键的价值源头不被烧毁。

在系统动力学里,Owner Attention Budget 可以被看作一个关键存量(Stock)。

每一次低质量打扰,都是在消耗它。

每一次高质量压缩,都是在保护它。

当 Owner 的注意力被保护好时,他才有能力做真正重要的事情:

  • 判断方向;
  • 审批原则;
  • 拒绝噪音;
  • 处理例外;
  • 承担最终裁决;
  • 反思自己的目标是否需要更新。

PD 的治理设计,本质上就是要让 Owner 少做低杠杆动作,多做高杠杆判断。


05 从百科全书到判例法:一次介入如何变成长期资产? ​

为了理解 PD 的协同进化机制,我们可以借用一个人类社会中极其成熟的系统:司法体系。

早期 Prompt Engineering 的思路,很像试图编写一本完美百科全书,或者一部穷尽所有场景的成文法典。

把所有原则、规范、避坑指南、工程经验、注意事项全部写进 System Prompt。

看似很完整。

但在真实复杂环境中,它很快会遇到问题:

  • 条文太多,造成上下文挤兑;
  • 抽象原则互相冲突;
  • 规则过时后无人清理;
  • 具体场景下无法判断该适用哪条;
  • 模型在长程任务中选择性遗忘。

PD 更像一种“判例法”系统。

它不追求一次性穷尽所有真理。

它让系统在真实案件中成长。

一次 Pain Evidence,就像一场真实纠纷。

诊断者回放事故现场,分析失败模式。

Owner 像最高法院一样,不是随便修改“宪法”,而是针对这起典型案件,裁定它背后真正值得记住的原则。

这条原则如果通过审查,就会成为未来类似场景的判例。

随后,它可以进入不同部署通道:

  • 作为 Prompt 中的高阶提醒;
  • 作为 Skill 能力包中的流程;
  • 作为 RuleHost 中的硬拦截;
  • 作为未来训练数据的一部分。

未来,当 Agent 遇到类似场景时,系统不需要重新依赖 Owner 从零解释。

它可以调用历史判例,改变当前行为。

如果时代变化了,模型变强了,项目结构改变了,某些判例产生副作用了,Owner 也可以推翻、降权或归档它。

这就是 PD 的优雅之处:

它不试图提前写完所有智慧,而是让智慧在真实痛点中被判定、沉淀、适用和淘汰。

判例法的精髓不是规则越多越好。

而是每一个被保留下来的判例,都来自真实冲突,并且仍然对未来有指导价值。

PD 的原则系统也应该如此。


06 反馈回路:PD 如何从一次纠正走向长期演化? ​

前面我们一直在说“协同进化”,但如果把这个词拆开,它并不是一个温情口号,而是一组真实存在的反馈回路。

一个系统能不能进化,不取决于它是否拥有反馈,而取决于它如何处理反馈:

哪些反馈被放大?

哪些反馈被阻尼?

哪些反馈应该立刻触发?

哪些反馈应该被延迟、聚类、压缩后再处理?

哪些反馈应该进入 Owner 的注意力?

哪些反馈应该只留在系统后台?

PD 的治理目标,不是让所有反馈都变强,而是让正确的反馈回路增强,让错误的反馈回路被阻尼。

回路一:协同进化增强回路 ​

PD 最希望形成的是这样一条正反馈:

text
Owner 高质量介入
→ Pain Evidence 被捕捉
→ 诊断者提炼原则
→ 原则进入 Skill / RuleHost / Prompt
→ Agent 后续行为改善
→ Owner 信任增加
→ Owner 更愿意进行高质量介入
→ 系统继续进化

这条回路一旦跑通,Owner 的每一次介入都不再是一次性消耗,而会变成系统资产。

一个 Owner 越认真反馈,系统越理解他的判断。

系统越理解他的判断,Agent 越少犯同类错误。

Agent 越少犯同类错误,Owner 越愿意继续投入高质量注意力。

这就是 PD 想要的协同进化飞轮。

回路二:注意力过载恶性回路 ​

但反馈回路并不总是美好的。

如果系统设计不好,另一条恶性回路会迅速出现:

text
Agent 偏差增加
→ 系统上报大量 Pain
→ 低质量原则提案增加
→ Owner 审批疲劳
→ 劣质原则进入系统
→ Agent 行为更混乱
→ 更多偏差产生

这就是前面提到的注意力过载回路。

它的危险在于:系统表面上变得“更积极学习”,但实际上是在把 Owner 的注意力燃烧成低质量治理。

这种系统会越来越吵。

越来越重。

越来越烦。

最后 Owner 会失去耐心,开始盲目批准,或者干脆放弃治理。

一旦 Owner 放弃治理,PD 就失去了价值源头。

回路三:规则债务回路 ​

连载四讨论过规则爆炸。

从系统动力学视角看,它其实也是一个反馈回路:

text
Pain 越多
→ 原则越多
→ 规则越多
→ 激活噪音越多
→ Agent 越保守或越混乱
→ 任务完成质量下降
→ 新 Pain 增加
→ 系统继续生成更多规则

这就是规则债务回路。

很多系统的问题不是“不学习”,而是“学得太碎、太急、太浅”。

每一次痛苦都生成一条规则。

每一次例外都加一个补丁。

每一次失败都往 Prompt 里塞一条提醒。

最后系统表面上积累了很多智慧,实际上背上了一身债务。

真正成熟的系统,必须能区分:

哪些痛苦值得沉淀? 哪些痛苦只是噪音? 哪些原则应该保留? 哪些规则应该剪掉? 哪些经验已经被模型能力覆盖,可以退出历史舞台?

聪明的系统不只是会记住。

聪明的系统也会忘记。


07 反馈延迟:为什么晚来的反馈会让系统震荡? ​

讨论反馈回路时,有一个变量特别容易被低估:

反馈延迟(Feedback Delay)。

所谓反馈延迟,就是从一件事情发生,到系统捕捉它、理解它、处理它,并真正改变未来行为之间的时间差。

在 PD 中,这个延迟可能出现在很多地方:

text
Agent 犯错 → Owner 发现
Owner 发现 → Pain Evidence 被记录
Pain 被记录 → 诊断者完成复盘
原则被提炼 → Owner 审批
Owner 审批 → Skill / RuleHost 部署
部署完成 → Agent 在相似任务中表现出行为变化

这条链路看起来很自然,但它里面每一段都有延迟。

而延迟一旦过长,系统就会出现三类问题。

第一,因果链断裂 ​

如果反馈来得太晚,Owner 和系统都会忘记当时到底发生了什么。

错误现场已经散了。

上下文已经丢了。

Agent 当时为什么这么做,Owner 为什么愤怒,真正的痛点是什么,都开始变模糊。

于是诊断者只能根据残缺信息提炼原则。

这会导致一个很危险的后果:

系统学到的,可能不是事故真正的原因,而是事故留下来的表面痕迹。

比如一次重构失败,真正原因可能是“动手前没有理解调用链”。

但如果反馈太晚,系统可能只记住“这次改了太多文件”,于是生成一条机械规则:

修改文件数量不得超过 3 个。

这条规则看起来有用,但它没有抓住真正的原则。

于是下一次,Agent 可能只改 2 个文件,却仍然因为没理解调用链而制造灾难。

第二,偏差在延迟期间继续累积 ​

反馈延迟还有一个更现实的问题:在反馈抵达之前,系统可能已经沿着错误方向走了很远。

一个 Agent 开始基于错误假设行动。

Owner 没有及时发现。

Pain 没有及时触发。

诊断还没有发生。

规则还没有部署。

于是 Agent 继续执行。

继续修改。

继续调用工具。

继续扩大影响范围。

等反馈真正到达时,系统面对的已经不是一个小偏差,而是一串连锁事故。

这就是为什么高执行力系统特别害怕反馈延迟。

一个低执行力的人类员工偏航一天,可能只做错一两件事。

一个高执行力 Agent 偏航十分钟,可能已经修改了几十个文件,生成了一堆错误文档,提交了一组互相污染的补丁。

执行越快,反馈延迟越危险。

第三,系统可能产生震荡 ​

控制论和系统动力学都非常重视反馈延迟。

因为延迟过大的反馈,会让系统“过度纠正”。

举个简单例子:

如果房间已经变冷了,但温控器很久以后才感知到,于是它猛地加热;等房间已经过热了,它又很久以后才反应过来,再猛地制冷。

结果不是稳定,而是冷热来回震荡。

PD 也一样。

如果 Owner 很久以后才发现 Agent 过于激进,就可能一次性加很多规则。

规则太多后,Agent 又变得过于保守。

Owner 又觉得系统太慢、太怂、太烦,于是开始放宽限制。

放宽后系统再次偏航。

这就是治理震荡:

text
偏航
→ 迟到反馈
→ 过度加规则
→ 系统僵化
→ 迟到反馈
→ 过度放松
→ 再次偏航

很多复杂系统不是死于没有反馈,而是死于迟到的反馈、粗糙的反馈和过度反应。

延迟不是绝对坏事 ​

但这里必须澄清一点:

反馈延迟并不总是坏的。

有些反馈必须快。

有些反馈必须慢。

秒级反馈适合处理硬风险:

text
删除文件
执行危险命令
数据库迁移
未授权 Push
权限异常

这类事情不能等 Owner 晚上复盘,必须在工具执行前由 RuleHost 或运行时护栏直接拦截。

分钟级反馈适合处理任务偏航:

text
反复重试
工具循环
目标漂移
GFI 上升
无意义 Diff 扩张

这类事情可以先由系统降速、提示或切换策略,不一定立刻打扰 Owner。

小时级反馈适合做任务复盘:

text
这次任务哪里走偏?
Owner 介入点在哪里?
是否出现重复模式?
是否需要形成 Pain Evidence?

天级或周级反馈适合做原则评估:

text
某条原则是否真的改善了行为?
某条规则是否误伤正常操作?
某个 Skill 是否降低了 Owner 负担?
某些旧护栏是否已经被更强模型能力覆盖?

也就是说,PD 不是要把所有反馈都变成即时反馈。

PD 要做的是让不同反馈进入正确的时间尺度。

真正成熟的系统,不是反应越快越好。

而是该快的地方足够快,该慢的地方足够慢,该等的地方能等,该忘的地方能忘。

插图提示:一张多时间尺度反馈系统图。画面中有五层横向时间轨道:秒级、分钟级、小时级、天/周级、长期演化级。每一层都有不同形态的反馈节点:秒级像闪电拦截,分钟级像偏航警报,小时级像复盘舱,天/周级像原则评估,长期级像 Owner-Agent 共同成长的轨迹。深蓝黑背景,青紫色反馈线,琥珀色关键节点,半具象未来工程寓言风格,21:9。


08 瓶颈与杠杆点:它们不是一回事 ​

讲完反馈回路和反馈延迟,我们还需要补上另一个概念:

瓶颈点和杠杆点不是一回事。

它们经常被混用,但在 PD 里必须分清楚。

瓶颈点回答的是:

系统当前被什么限制住了?

杠杆点回答的是:

从哪里下手,能用最小代价撬动最大变化?

瓶颈点是限制系统吞吐、质量或演化速度的地方。

杠杆点是高影响干预点。

一个瓶颈往往是高杠杆点,但一个杠杆点不一定是瓶颈。

例如:

text
Owner 注意力 = 瓶颈点 + 杠杆点
意图压缩质量 = 瓶颈点 + 杠杆点
反馈延迟控制 = 杠杆点,有时也是瓶颈点
时间尺度分离 = 杠杆点,不一定是单一瓶颈
规则耗散机制 = 杠杆点,用来防止瓶颈被债务堵死

这个区分很重要。

因为如果我们把所有杠杆点都当瓶颈,就会过度保护,导致系统僵化。

如果我们把真正瓶颈只当普通模块,就会随意消耗,导致系统崩溃。

PD 里的几个关键瓶颈 ​

第一,Owner 认知瓶颈 ​

这是最高层瓶颈。

Agent 可以执行,但 Owner 决定方向。

Agent 可以生成方案,但 Owner 判断什么值得做。

Agent 可以调用工具,但 Owner 承担不可逆后果。

如果 Owner 的目标感、判断力、价值排序不清楚,Agent 越强,偏航越快。

所以,Owner 的认知不是普通输入,而是系统上限。

第二,Owner 注意力瓶颈 ​

Owner 不可能处理无限多的 Pain、原则提案、规则冲突和例外审批。

如果所有问题都推给 Owner,Owner 就会从“最高法院”退化成“系统客服”。

一旦 Owner 进入客服状态,系统的价值源头就会被低质量事务淹没。

第三,意图压缩瓶颈 ​

Owner 的经验、直觉、痛感和 Know-how 不能原封不动塞进 Agent。

它们必须被压缩。

但压缩质量决定系统学习质量。

压缩太具体,会变成死规则。

压缩太抽象,会变成鸡汤。

压缩得好,才会变成可迁移原则。

所以,诊断者的意图压缩能力,也是 PD 的关键瓶颈。

第四,结构化输入瓶颈 ​

不同模块需要不同质量的输入。

Owner 需要的是可裁决案件,不是原始日志。

诊断者需要的是完整事故现场,不是一句抱怨。

RuleHost 需要的是结构化状态,不是模糊愿望。

如果送进瓶颈的是垃圾输入,瓶颈就会输出垃圾判断。

这就是为什么瓶颈环节必须被保护。

为什么瓶颈必须被重点保护? ​

这里可以借用 Goldratt 的约束理论(Theory of Constraints)。

约束理论有一个非常朴素但强大的直觉:

系统的整体吞吐,受限于最窄的那个环节。

优化非瓶颈,往往只是制造局部繁忙。

保护瓶颈,才是在保护整个系统的吞吐质量。

放到 PD 里:

浪费 Agent 的一分钟,可能只是浪费算力。 浪费 Owner 的一分钟,可能是在浪费整个系统的价值判断能力。

Agent 可以横向扩容。

Owner 的高质量判断很难横向扩容。

模型可以换。

工具可以加。

脚本可以并行。

但真正理解项目长期目标、承担真实后果、知道某次 Pain 背后意味着什么的 Owner,通常只有一个,或者很少几个。

所以,Owner 不是普通资源。

Owner 是约束资源。

给瓶颈高质量、可预测输入 ​

保护瓶颈,不只是“不让它太忙”。

更重要的是:

给瓶颈高质量、可预测、可裁决的输入。

送到 Owner 面前的,不应该是一堆原始日志,而应该是一个“判例包”:

text
1. 发生了什么 Pain?
2. 这是不是重复模式?
3. 影响有多严重?
4. 诊断者提炼出的高层原则是什么?
5. 候选规则或 Skill 是什么?
6. 可能副作用是什么?
7. 建议动作:忽略 / 观察 / L1 / Skill / RuleHost / 退役

送到诊断者面前的,不应该是一句“Agent 又错了”,而应该是完整事故现场:

text
目标
上下文
轨迹
工具调用
修改内容
失败点
Owner 介入点
代价
相似历史

送到 RuleHost 面前的,不应该是“请谨慎一点”这种自然语言愿望,而应该是结构化状态:

text
操作类型
影响文件
风险等级
是否已同步
是否有测试
是否需要审批
当前任务 scope

好的系统不是让瓶颈更忙。

好的系统是让瓶颈只处理它最应该处理的事。

这就是 PD 的 Owner Constraint Protection:Owner 约束保护层。

它至少包含四个动作:

text
Filter:过滤低价值输入
Cluster:聚类相似 Pain
Package:打包成可裁决判例
Schedule:以可预测节奏交给 Owner

最终目标不是让 Owner 管更多,而是让 Owner 的每一次介入都更高杠杆:

text
少打扰
高质量
可裁决
可沉淀
可复用

插图提示:一个瓶颈保护系统图。画面左侧是大量杂乱的蓝紫色事件流、Pain 信号和工具日志;中间有四层过滤结构,分别象征 Filter、Cluster、Package、Schedule;右侧是被保护的 Owner 决策核心,只接收少量琥珀色高质量判例包。整体主题是“瓶颈保护与高质量输入”。深蓝黑背景,半具象未来工程寓言风格,21:9。


09 真正的杠杆点在哪里? ​

Donella Meadows 在《Leverage Points》中讨论过一个重要思想:

复杂系统中,最有力量的干预点,往往不是那些最显眼的参数,而是目标、规则、信息流和范式。

这对 PD 很重要。

如果我们把 Agent 系统看成生态,那么真正的杠杆点并不只是:

  • 换更大的模型;
  • 加更长的上下文;
  • 加更多工具;
  • 加更多规则;
  • 加更多 Prompt。

这些当然有用,但它们往往不是最高杠杆。

PD 里的关键杠杆点,至少有七个。

杠杆点一:感知带宽 ​

系统能看见什么,决定了它能学习什么。

如果一个 Agent 只能感知到工具报错,那它最多成长为一个更擅长处理 API 失败的机器人。

但如果系统能感知到:

  • 目标漂移;
  • 未验证假设;
  • 擅自扩大修改范围;
  • Owner 反复纠正;
  • 用户信任下降;
  • 重构后维护成本上升;

那么系统就有机会学习更高级的行为模式。

感知层决定治理上限。

看不见的痛苦,无法被反思。

无法被反思的痛苦,只会重复发生。

杠杆点二:Owner 注意力保护 ​

Owner 是价值源头,但 Owner 的注意力是有限资源。

如果系统持续用低质量信号轰炸 Owner,Owner 会疲劳。

疲劳之后,要么盲目批准,要么彻底放弃治理。

所以 PD 不能只追求多发现问题。

它必须追求少而准地呈现问题。

真正好的治理系统,不是让 Owner 管更多。

而是让 Owner 只在关键杠杆点介入。

杠杆点三:意图压缩质量 ​

Owner 的一次反馈,能否被压缩成高质量原则,是系统进化效率的关键。

低质量压缩会产生废规则。

过度具体的压缩会导致过拟合。

过度抽象的压缩会退化成鸡汤。

好的诊断者必须把一次具体 Pain,压缩成足够抽象但仍可执行的原则。

比如:

text
坏压缩:推送前记得 git pull。
好压缩:动手前先了解清楚现状,永远不要基于假设行动。

前者只能解决一个 Git 场景。

后者可以迁移到重构、调试、删除文件、执行命令和产品决策。

杠杆点四:激活精度与耗散机制 ​

原则不是越多越好。

规则也不是越硬越好。

一条原则如果在错误场景被激活,它会变成干扰。

一条规则如果过时还不退场,它会变成债务。

所以系统必须具备新陈代谢:

  • 只在相关场景激活少数原则;
  • 让长期无效的原则降权;
  • 让已经内化的规则退出上下文;
  • 让被更强模型能力覆盖的脚手架逐步拆除。

这正是连载四讨论过的剪枝机制。

聪明的系统不只是会记住。

聪明的系统也会忘记。

杠杆点五:反馈延迟控制 ​

反馈太快,系统会对噪音过度反应。

反馈太慢,系统会失去因果链,甚至产生震荡。

所以 PD 要做的不是追求“实时反馈崇拜”,而是建立分层反馈节奏:

text
高风险动作:即时拦截
任务偏航:分钟级降速
任务复盘:小时级沉淀
原则评估:天/周级观察
系统演化:月级剪枝与迁移

反馈延迟本身不是敌人。

不可控的反馈延迟,才是敌人。

杠杆点六:瓶颈保护 ​

Owner、诊断者和 RuleHost 都可能成为不同层面的瓶颈。

瓶颈不是坏事。

瓶颈只是告诉我们:系统真正稀缺的东西在哪里。

如果瓶颈是 Owner 注意力,就不能把 Owner 当客服。

如果瓶颈是诊断质量,就必须改善 Pain Evidence 的结构。

如果瓶颈是 RuleHost 的判断稳定性,就必须给它明确的结构化状态。

保护瓶颈,就是保护系统整体进化质量。

杠杆点七:时间尺度分离 ​

PD 不是一个单尺度系统。

它必须同时处理不同时间尺度的反馈:

text
秒级:工具报错、命令失败、权限阻塞
分钟级:任务偏航、反复重试、GFI 上升
小时级:一次任务复盘、Pain Evidence 归档
天级:相似任务中的行为变化
周/月级:原则是否过时、规则是否该剪枝
更长周期:Owner 与 Agent 的能力是否共同提升

很多系统失败,就是因为把所有反馈都混在一个尺度上处理。

秒级报错,不应该都惊动 Owner。

月级价值判断,也不能交给局部工具反馈决定。

时间尺度分离,是智能系统走向稳定演化的必要条件。


结语:让不想躺平的人,拥有一只可以握住的桨 ​

如果说连载一讨论的是人类如何避免沦为打字员,那么连载五要回答的就是:

人类如何重新成为舵手?

PD 的终点,不是替人类做决定。

它的目标,是帮助人类把自己的判断力、原则、痛感和经验,沉淀成系统能力。

Agent 扩展执行带宽。

PD 沉淀反馈和原则。

Owner 提供方向、意义和最终裁决。

三者共同构成一个多尺度反馈系统。

但这套系统能否真正跑起来,取决于它是否尊重复杂系统最基本的规律:

正确的反馈回路要被增强。

错误的反馈回路要被阻尼。

反馈延迟要被分层管理。

瓶颈环节要被重点保护。

Owner 的注意力不能被当成廉价资源。

诊断者不能在残缺现场里瞎总结。

RuleHost 不能靠模糊愿望执行硬规则。

真正的协同进化,不是让 AI 更快地替人行动,而是让人的判断通过反馈回路被不断显化、沉淀、校准和放大。

这不是传统的软件工程。

也不只是机器学习。

这是某种正在形成中的 AI Systems Engineering:在长周期、多反馈、人机混合的生态中,设计一个既能执行、又能反思、还能被人类治理的智能系统。

写到这里,PD 已经不只是一个技术问题。它触碰到了一个更大的时代背景。

AI 的进步不可避免地会重塑工作,很多岗位会消失,很多技能会贬值。很多曾经依赖熟练执行换取稳定生活的人,会突然发现自己被时代推到了悬崖边。

这不是一个简单的技术问题,这是一个人的问题。

如果 AI 时代只奖励少数最会驾驭模型的人,而把大量来不及转身的人直接抛下,那么这个时代即使效率极高,也会显得过于冷酷。

PD 当然无法阻止这场浪潮。

它也不应该承诺拯救所有人。

但至少,它可以选择一个方向:

帮助那些不想躺平的人,把自己过去的经验、行业直觉、失败教训、判断原则和工作方法,逐步沉淀进一个可以协同工作的 Agent 系统里。

一个客服可能失去重复回答问题的工作,但他多年积累的用户情绪判断、边界感和危机处理经验,并不应该被浪费。

一个运营可能失去手工整理报表的工作,但他对用户增长节奏、内容调性和渠道坑位的判断,并不应该被抛弃。

一个程序员可能不再需要亲手写每一行 CRUD,但他对架构边界、工程风险和维护成本的敏感度,仍然是宝贵资产。

问题在于:这些经验过去往往只存在于人的身体里、直觉里、口头表达里。它们很难被系统继承。

PD 想做的,是提供一种路径:

text
人的经验 → 原则
人的痛苦 → Pain Signal
人的 Know-how → Skill
人的底线 → RuleHost
人的判断 → Owner 裁决
人的成长 → Owner-Agent 协同进化

这让我想到王阳明所说的“致良知”。

“良知”如果只是挂在嘴边,就会变成另一种道德鸡汤。真正的“致”,一定发生在行动里,发生在冲突里,发生在一次次具体选择里。

人并不是因为背诵了很多道理,就成为更好的人。人是在真实处境中反复行动、犯错、反思、校准,才逐渐把某些原则活成自己的本能。

这一点,和 PD 对 Agent 的理解是相通的。

我们不相信把原则写进 Prompt,就能让系统拥有智慧。同样,我们也不相信一个人在 AI 时代只要听懂几句“大模型方法论”,就能完成转身。

真正的转身,必须发生在行动中。

Owner 借助 Agent 执行,Agent 暴露偏差,PD 捕捉痛苦,诊断者提炼原则,Owner 进行裁决,原则再回到下一次行动。在这个循环里,Agent 被训练,系统被训练,Owner 也被训练。

所谓协同进化,不只是 Agent 变强。也是 Owner 在一次次反馈中,越来越接近那个他想成为的人。

我不确定它能否成为所有人的诺亚方舟,但我仍然希望,它能成为一叶扁舟。

在 AI 这股滔天巨浪袭来的时候,有些人会被浪头拍倒,有些人会选择躺平,也有些人仍然想抓住一点东西,重新站起来,重新学习,重新组织自己的能力。

PD 想站在这些人身边。它希望帮助他们把过去的经验变成原则,把原则变成系统,把系统变成新的生产力。

这不仅是和 AI 赛跑,更是带着 AI 一起进化;不仅是把方向盘交出去,而是努力成为一个配得上强大引擎的舵手。

如果这个时代注定会有巨浪,那至少让那些不想躺平的人,拥有一只可以握住的桨。

插图提示:AI 巨浪般的蓝紫色信息海潮从远处涌来,画面中央有一叶小舟,舟上不是具体人物,而是一个抽象的 Owner 光影轮廓,手中握着发光的桨。小舟周围有 Agent 引擎、原则节点和反馈线作为支撑,像一套外骨骼/导航系统。整体情绪:渺小但坚定,怜悯但不悲观,深蓝黑背景,琥珀色人类价值锚点,21:9 横幅。


连载至此,PD 的阶段性思想闭环已经形成:从执行力泛滥,到 Prompt 注入失败;从痛苦信号,到软硬转换;再到 Owner-Agent 的协同进化。接下来,真正的挑战将回到现实:如何把这些原则变成一个足够轻、足够稳、足够可用的开源系统。


— 一根芦苇