内容
过去一年里，围绕 代理式工程（agentic engineering） 的讨论，已经转向了 支架（harnesses）、循环（loops）、舰队（fleets） 和 软件工厂（software factories）。我的浅见是，工程师需要 掌控外循环（outer loop） ——也就是对这些系统的 责任（accountability）。随着像 Fable 和 GPT-5.6 这样的强大模型逐渐可用，这一点只会变得更加真实。
智能体有杠杆效应，而杠杆会带来义务。必须有人能够准确解释，究竟改了什么、为什么安全，以及如果判断有误会发生什么。 否则，它们的行为就无法被证明正当。那样一来，组织甚至都不太可能一开始就想要它们。
所以我想谈三个术语。第一个是 质量（Quality），指的是在放任系统运行之前我们安装的所有检查。这些检查会产生证据，而我们则根据这些证据得出一个裁定。
第二个是 裁定（Verdict），指的是工作进入我们的下游依赖系统之前所做的最终决定：我是这类内容的总制片人。我的团队产出的工作，会以我的名字交付。模型也许会写出那一行，但裁定属于我。我的团队的工作，未经我的决定，不会进入我们的依赖系统。裁定就是生产决策：是发布、阻止、重定向、缩小响应范围、加一道防护栏，还是直接拒绝？
第三个是 可答责性（Answerability），指的是这样一种保证：如果有人来问，我能解释原因。
换个说法：我们的智能体（我将其定义为“模型 + 支架”，这个支架由文件、工具、记忆、技能、沙箱、权限、可观测性和恢复机制组成）负责运行我们的循环（我将其定义为调查、实施、验证，然后重复）。而它也构成了我们的软件工厂。
模型只是引擎。支架——工具、记忆、权限、沙箱、测试——则是围绕它打造的汽车，让它能够安全地完成真正的工作。
把这个支架包进一个可重复的循环里：调查、实施、验证、重复。循环让一次好的运行，变成一个你可以信任它再次运行的流程。把这个支架包进一个可重复的循环——调查、实施、验证、重复——由独立检查，而不是模型自己的“自我保证”，来决定工作何时完成。
现在同时运行很多个循环。工厂，就是规模化的循环——智能体在里面交付工作，而人类在边界上掌控决策。
而 这座工厂的核心，是系统内部与系统外部之间一条严谨的边界。在系统内部：我们收集输入（来自产品团队的意图、已发布工作的知识、近期事故的经验，或来自用户的具体反馈）。智能体循环会调查任务、实施方案，并验证结果。然后，证据穿过这道边界。一个拥有下游系统责任的人类，看到证据后，决定是否继续推进。
朋友们，这就是我们想要实现的转变。过去，我们的智能体只做执行循环里的内循环。现在，它们运行的是内部执行循环。工程师掌控外循环。
在系统内部，我们的智能体其实只是在做一类事：能力（capability）。即调查任务、实施计划、测试结果并回传。这就是模型的能力。而正如我们所说，这个未来其实早已到来。
在系统外部，只有一类事：能动性（agency）。即决定、验证、批准并负责。
你看，我们谈的仍然是代码。它只是需要存在于一个合适的位置，并由真正懂行的人来执行。
AI 代码的潜力，已经不再只是边缘现象。根据 Sonar 2026 年的一项调查，我们询问团队，提交代码中有多大比例是 AI 辅助生成的。比例不高，但也绝非可以忽略。并且，一些受访者表示，他们预计 AI 辅助提交的占比会显著增长。
Sonar 2026 年《代码现状报告》 发现，42% 的提交代码是 AI 生成或得到显著 AI 辅助的，而且他们预计这一比例会继续增长，而不是趋于平稳。
换句话说，创造的成本正在下降。变得更稀缺的资源，是审查、验证、理解和维护。
我们提升了生成速度，却没有同步提升控制速度。因此，我们出现了一个信任—验证鸿沟。我们交谈过的很多人，仍然对 AI 代码抱有一定程度的不信任。然而，似乎较少有人能持续地把这种不信任真正纳入自己的验证流程中。
这很危险。我们需要更便宜、更清晰的方法，来验证 AI 代码是否值得信任。
如果你看看 GitLab 2026 年 6 月的报告，就会发现治理问题已经发生了变化。
GitLab 2026 年 6 月 AI 责任研究 显示，审查和验证是当前使用 AI 时的瓶颈；更令人担忧的是，治理通常发生在代码创建之后，也就是我们已经接受风险、并失去所有权控制之后。如今，问题不只是控制，而是我们对系统设定了什么约束。是如何用证据来检查工作，以及如何让团队承担责任。是由谁来拥有 AI 生命周期中的哪一部分。
所以，这一系列论述中的最后一个区分，是 流程（process） 与 质量（quality） 之间的区别。质量是“背压（back pressure）”的概念。我们是字面意义上这样理解的。我们不想赋予智能体它们所能施展的全部自主权。 我们只希望赋予它们刚刚足够的自主权，以便我们拥有足够的背压，能够制止它们、约束它们、检查它们的工作，并确保我们的人性仍然存在。
普通工程会保留大量信号，用来指示正在完成的工作是否走在正确方向上。类型检查、测试、钩子、沙箱限制、审计日志、监控器。我们的工程系统充满了这类信号，而它们的设计目的，就是提供足够的背压，让系统保持诚实。
因此，只要我们的智能体也发出这些相同的信号，我们就可以相信普通工程机制会提供合适的背压。
相信我们的系统，并不意味着我们不需要人类介入。 这只是意味着，人类不必在内循环里。我们希望人类处在约束循环（constraints loop）（应该设定什么输入、架构、指令或不变量？）、抽样循环（sampling loop）（应抽样和审查多少输出？）、审计循环（audit loop）（应保留哪些证据，如何确保审计日志有效？）、以及所有权循环（ownership loop）（生产边界的哪一部分应由我们负责）。
但人类不需要处在内循环中。
智能体能交付的速度，可能超过你能审查的速度。
而稀缺资源，是你自己的核心人类判断力，它会受到日志、测试等质量信号的支持与校正。
AI 2026 年 6 月的报告显示，在实验环境中，按小时级时间跨度进行的代理式委派，基本已经到来。OpenAI 今年关于智能体与工作未来的研究 是这些想法的重要来源。因此，当我们的系统开始交付的内容超过我们能够审查的范围时，我们就需要开始思考如何建立这道所有权边界。
而这就是可答责性发挥作用的地方。
因为对于长周期智能体来说，在小时级时间跨度上做出的决定，本质上就是决定。而且并非所有决定都会被记录下来。你不可能把它们全部追溯回输入 token。如果你只是相信你得到的输出就是当前问题的正确选择，那么为了重建导致该结果的一连串决定，你可能需要数百甚至数千小时的人力，这将变得不可能。因此，再说一次，可答责性必须成为我们系统设计的核心。
三个隐性成本
这里有三个隐性成本：
认知投降（Cognitive surrender）~ 盲目接受 AI 给你的东西。 当你把工作委派给智能体时，这项工作表面上看起来像是智能体的工作。但实际上，那是你的工作。那是你的声誉。那是你的责任。并且，输出中的缺陷所伤害的，是你的软件；需要根据该输出进行更改的，也是你的软件。所以，智能体的输出就变成了你的答案。随之而来的，是全部责任。把这些内容串起来的 Wharton 研究 在 AI 正确时令人安心。但当 AI 出错时，情况就不妙了。AI 出错时，近四分之三的人依然接受了它，而且与没有 AI 时相比，他们感觉自己更有信心。
认知债务（Cognitive debt）~ 你对如何解决问题的理解和记忆逐渐被侵蚀。 当你把工作委派给智能体时，你把所有思考工作都卸载给了它。自己从头思考当然要花时间和精力，但在一个庞大代码库里把问题彻底想明白，需要的是你在学习曲线上攀升时未必拥有的资源。因此，你最终得到的结果，常常是你自己无法轻易达到的。并且，智能体规划的时间跨度越长，智能体生成的代码与你对它的理解之间的鸿沟就越大。这种鸿沟会复利式扩大。债务会不断累积。攀登学习曲线的成本几乎呈指数级增长。Anthropic 有一项 随机对照试验
研究工程师借助 AI 编写代码时，是否还能像自己写代码那样理解它。结论很不乐观：在理解测验中，依赖 AI 完成工作的工程师，比不依赖 AI 的工程师低了 17 个百分点，分别是 50% 对 67%。
然后是 编排税（orchestration tax）~ 现在虽然很容易启动大量智能体，但你的认知带宽并不会以同样方式并行扩展。 把你的智能体从最糟糕的行为中拉回来，对智能体产出的工作进行排序以找出需要你关注的部分，指挥它优先处理你最在意的工作，在让它运行之前先验证最重要的约束和最危险的假设……
所有这些都需要工作，而且无法自动化。
没有什么能替代人类判断。
在 brownfield 系统中，这一点尤其危险，因为你需要审计的系统行为，并不住在代码里，而是住在那些伤痕里。
怎么修补？在架构决策中，把注意力放在优先级上。使用 worktree、scope 和证据，减少初始计划与其衍生工作之间的耦合。给那些无法采取行动的步骤设定时间上限。并且，把软件中的变更严格设为“主动授权”权限。
Alpha、衰减与品味：这三种核心模式塑造了跨领域的职业生涯与表现。
Alpha 是在竞争中，由最优秀者在你所采取的最高价值动作上拿到的领先部分。衰减（decays）是每个人通过重复和观察他人学会的既定模式（如果你愿意，也可以把它们看作平台期）。品味（taste）则是我们最早能够感知 alpha 领先或衰减变化的能力。它是我们在任何证据出现之前，对“接下来会发生什么”的判断。
Paul Graham 的观点 是，当任何人都能做任何事时，选择做什么就更重要；而 Mitchell Hashimoto 的定义则更具操作性：在尚不存在客观指标时，做出高质量的定性判断。从现在起，品味驱动一切：alpha 的转移就是品味的变化；而衰减之所以消退，是因为我们开始品出别的东西。
下一步？把你的品味操作化。怎么做？给它起一个能反映你想从“边缘系统（limbic）”转向“有意识”的名字。在批评和案例中练习它。把它的理由说清楚。
并且，持续推动那个能在你的行业中带来最持久竞争优势的转变。那是什么？继续把边界从“只是完成任务”，往上推进到“教会它、把它系统化、决定何时该做，以及对结果负责”。
每个人都是开发者，但不是每个人都是工程师。工程，是开发者在接受一种更严格的工作纪律后才会变成的东西：严谨且逻辑自洽的推理、对约束与取舍的考量、对风险与暴露面的识别，以及切实的责任担当。
未来，人们会离开工程中的行政性工作，转而拥抱随着工程要求变得更高而出现的新角色。这些角色从工艺精神中被拆分出来，但又清楚说明每个人在做什么。会有负责原型的人。会有负责构建的人。会有负责清理的人。会有负责扩展的人。会有负责维护的人。
人类也会从另一个方向，持有系统的边界。把另一方向上的 alpha 提高：选择什么值得做，定义它应在何种约束下完成，决定证据是否足以继续推进，并负责结果。无论是一支团队还是一百支团队，这都是只有人类才能守住的边界。
责任会让工厂规模化。 和注意力、品味一样，责任也是让一切运转起来的三元对立之一。没有责任，就没有规则。 没有与质询者周旋。没有取舍。没有风险。没有安全网。如果没有人对某个决定的后果负责，那么高能动性只会带来混乱。
一个边界的半衰期是一次发布，而签名的半衰期是一整个职业生涯。签名，就是你的名字出现在工作上，以至于你觉得自己能为交付的内容站得住。技能让你拥有杠杆；责任把杠杆转化为信任。
只有人类可以做选择。只有人类承担后果。智能体可以在策略内被要求去选择、路由、合并并安全升级处理，但它们不能继承后果。
也许每个代码库都应该附带某种责任契约，明确写出：该变更被接受时所理解的检查清单、用于决策的证据、谁对该变更负责，以及当变更被阻止后系统的状态。比如：
- 你的注意力与品味
- 你的证据、裁定与所有权
- 你的 alpha、衰减与品味
高能动性
在典型的代理式工作流中，高能动性（high agency） 是一种知道何时委派、何时检查、何时停止、以及何时对流程结果负责的能力。能动性的阶梯从低到高依次是：标记潜在问题、调查问题、执行处理、诊断问题、提出方案、建议修复，直到解决问题。能动性阶梯上的高一层，是判断力：发现了，但不值得修，继续前进。
支撑软件工厂的十二根支柱
brownfield 是希望规模化的工厂所面对的前沿战场。那些看起来聪明的小创新，起初也许并不起眼，但生产环境的复杂度是很高的。在构建全新系统时，因为你拥有完全控制权，所以更容易规划并实施足够的背压机制。然而，当你把智能体加入一个遗留系统时，情况就完全不同了。
遗留系统包含了全部生产行为、客户未来的预期、迁移历史、发布与预算周期的时长、未明说的假设、边缘案例、数据怪癖、运行手册流程，以及所有那些在没人愿意照料系统时积累下来的伤痕。
要成为 brownfield 的守护者，就需要一种持久的工程能力。必须投入工作，把隐性知识转化为显性约束，在不同团队之间以及跨代际地保持一致，把这些知识形式化为测试流程和功能规格，并将其与客观证据关联起来。与此同时，还要把失败不断转化为更多学习。因为如果系统得不到它一直以来所获得的照料，一切都会崩塌。
新工作就是真工作
随着规模扩大，工作会变得更有趣。因为当其他一切都建成之后，人们就会想要去建造新东西。 他们会想运用通过工艺积累起来的 alpha 和品味，去设计可以嫁接到软件工厂上的新循环。或者，他们会想构建 greenfield 系统，把软件工厂中积累的全部知识，化作一个优雅、善意、原则清晰的努力。人们会想设计并实施新的证据形式，使之达到新系统所需的验证标准。他们会想照料那些如今已经复杂到需要专门关注的 brownfield 系统。他们会想设计和管理新的背压机制。他们会想设计新的智能体。而且，他们会想构建能动性。
而且，随着这一切展开，他们会意识到，这些都是真正的工作。这是好事。
自动化会创造瓶颈。那些值得被负责的生产瓶颈，因为自动化让我们获得了工业级规模的控制力。但与此同时，工业级规模也会带来新的瓶颈。瓶颈会从“我们能不能做出来？”转变为“这东西应不应该存在，我们能为它负责吗？”
我所建议的，是一种可实际操作的代理式工程扩展模型。这里有内循环和外循环。内循环是工作真正完成的地方。循环的设计应尽可能独立。把所有质量保证和验证都放在循环内部。等你把循环本身设计并验证完成后，剩下要做的，就是通过设置背压机制来授予自主权——这个机制负责控制循环运行的速度及其运行范围。并把人类放回他们应在的位置：负责正确的决策。 不要把理解当作交接或发布门槛，而应把它看作一个决策点：人类在这里提供他们的洞见。然后，对于每一个存在并反馈回生产和新团队、新工程师的工件，都留下更好的工件。
建起工厂；保持灯亮；让工作可读、可验证、可负责。
智能体可以写出它。但在它到达用户之前，必须有人解释，为什么它应该存在、为什么它已经足够安全到可以成为生产的一部分，以及当它出错时他们会怎么做。
这就是外循环上的代理式工程——这就是现在的工作。
Pangram 已将这篇文章判定为 100% 人类撰写。本文亦被转发至 Twitter/X。
