智能体运行时原则

第三部分限定了单个动作可以做什么。一条轨迹将数百个这样的动作串联起来,持续数分钟、数小时乃至数天;运行时间越长,就越容易遇到单个动作中不会显现的故障:循环始终处于每次调用的限制之内,却毫无进展;工具始终不响应;宿主在第四十轮时崩溃;某个步骤失败,而此前的步骤已经改变了外部世界。第四部分构建支撑一条轨迹跨越这一时间跨度的运行时,从而为 H·S·A 中的长时域暴露建立闭环保障。长时域也会重塑另外两种暴露。它将状态转化为持久性问题,因为轨迹所掌握的信息必须在承载它的进程终止后仍然存续;它还将权限转化为排序问题,因为一旦后续步骤依赖某些效果,这些效果便无法撤销。本部分最后对所构建的单智能体系统进行测量,因为在证明系统有效之前,不应对其进行训练或扩展。

Principle 11: 轨迹级封装
不变量:运行时调度、分配预算并保护的单位是整条轨迹,而非模型调用。轨迹的标识、状态、预算与已测量的消耗、授权与租约,以及待处理工作,都存放在同一份轨迹记录中;该记录由运行时拥有,模型从不写入。轨迹只能通过运行时守卫条件允许的状态转换向前推进。

含义:模型输出从不直接改变生命周期状态。运行时会拒绝非法转换,例如已取消轨迹的工具迟到回复,或在轨迹等待审批时派发的工具调用。等待工具或人员响应的轨迹只保留其记录,因此其服务端状态可以被回收(保留、驱逐、重计算或卸载)。

拥有记录赋予运行时停止轨迹的权利。但它仍需要一种机制来判断何时应当停止。

Principle 12: 带外抢占与进展看门狗
不变量:不能依赖轨迹主动让出控制权、停止运行,或察觉自身已不再取得进展。陷入循环的模型可以始终保持活跃、输出格式正确,并处于每次调用的所有限制之内,却毫无进展。

含义:运行时必须在模型之外掌握控制权。它在轮次边界执行操作人员的控制动作和预算控制动作,只允许强制终止打断一个轮次。它为每次模型调用设置输出上限与截止时间,并以多维预算约束整条轨迹;它依据环境状态判断进展,而非依据心跳或模型自身的报告。

仅保存在内存中的记录会随承载它的进程一同消失。

Principle 13: 先记录意图,再产生效果
不变量:轨迹的权威状态是其仅追加日志,记录运行时提出、授权、派发和观察到的内容。实时轨迹记录是该日志的投影,重新调用模型无法重现其中的任何内容。

含义:在授权某项外部效果的记录被持久化之前,该效果不得离开宿主。恢复过程从最新检查点及其后的日志重建轨迹,不调用模型或工具。未记录结果的意图在得到明确处理之前始终处于未决状态,绝不能假定它已失败而再次派发。

日志使运行时自身的状态能够恢复。环境状态则是另一回事。

Principle 14: 枢轴边界与补偿式 Saga
不变量:每个动作都属于可逆、可补偿或不可逆三类之一。可逆动作,例如局限于沙箱内的写入,可以通过恢复工作区快照精确撤销。在共享外部系统上执行的可补偿动作,可以通过另一个动作恢复环境的不变量,但无法恢复其历史。执行不可逆动作后,运行时只能继续向前完成流程。

含义:运行时必须在派发每个可补偿步骤之前,为其登记一个补偿动作;每条轨迹最多允许一个不可逆的枢轴动作,并将其安排在所有可补偿工作之后;同时通过确定性检查,并在策略要求时通过人工审批,控制枢轴动作的执行。一旦枢轴动作提交,恢复机制便从补偿切换为幂等重试或升级处理。

具备这四项原则后,面向单个智能体的运行时便已完整。但这些原则都没有说明智能体是否完成了自身任务,而随机性智能体也无法仅凭一次运行来评判。

Principle 15: 因果与统计发布证据
不变量:退出码和状态响应等活动信号无法证明随机性系统有效。有效性的证据是经验证的环境状态变化:在许多独立任务上测量这种变化,明确给出不确定性,并通过一条因果追踪链将其与产生该变化的模型调用、工具效果及权限授予关联起来。

含义:运行时必须跨越每个进程、沙箱和智能体边界传递追踪上下文,保留每条失败轨迹,并通过重放已记录的观测来诊断故障,而不能指望重新生成的模型输出与原输出一致。只有分阶段门禁以明确给出的置信水平证明某项变更不劣于它所替代的版本,该变更才能进入生产环境。

第四部分的四章依次构建这些原则,每章都以前一章为基础。智能体运行框架 为每条轨迹提供一份记录和一个智能体运行框架,使其无需模型配合即可暂停轨迹、审批、分配预算并停止轨迹,实现轨迹级封装以及第二项原则中的抢占部分。持久执行 将该记录变为仅追加日志的投影,使轨迹能够在崩溃后存续、在另一个工作进程上恢复,并可通过重放进行调试。故障恢复 利用日志修复中途失败的轨迹所影响的外部世界,将其唯一的不可逆动作排在最后,并补上第二项原则中的进展部分。随后,智能体评估 对已完成的单智能体系统进行测量,定义可接受的任务以及发布所需的证据。第四部分完成后,实时运行循环便已完整且经过测量;无论模型权重如何,其提供的每项闭环保障都成立。第五部分转向这些权重,而评估中经过验证的轨迹和发布门禁将为其提供训练信号。

回到顶部
← 三卷书架