负责任集群原则

第一至第三部分构建了机器学习集群、协调其训练并优化其部署。第四部分确立负责任集群：决定集群是安全地服务用户还是损害用户的工程层。安全、隐私、鲁棒性和可持续性是与带宽、功耗或延迟具有同等物理和数学效力的工程约束。

集群中最困难的工程领域是社技反馈回路。偏见无法通过单个算法修复，模型也无法通过单个算法获得保障。负责任运行需要围绕集群的监控、验证与治理系统。忽略这些约束的系统会在运行层面失败：表现为监管关停、安全事件或环境资源耗尽。这些原则界定了大规模负责任工程的边界。

第一条边界是集群能够揭示什么。

Principle 17: 信息泄漏不变量

不变量：隐私声明必须指明受保护单元以及攻击者可用的观测。设 \(R\) 为某受保护个体的训练记录，\(O\) 为可观测的模型输出。当 \[ I(R; O) > 0, \] 时，该记录存在泄漏；但模型自身的有用性并不蕴含这一条件。此处，\(I(\cdot;\cdot)\) 表示互信息。

推论：隐私是一种预算，而非开关。对输入记录的事后匿名化无法移除已经固化在模型权重中的敏感信息。需要形式化记录级隐私保证的系统，应在适当时采用差分隐私（DP）等机制：DP 将添加或删除一条受保护记录对数据分析或训练过程的影响加以限定；交互式查询系统必须考虑合成效应，并可能在系统耗尽已分配的隐私预算后停止回答。

隐私界定集群可以揭示什么；鲁棒性界定其在输入被选择以利用其弱点时行为有多可靠。

Principle 18: 鲁棒性计算代价

不变量：获得内在对抗鲁棒性往往需要在扰动上进行训练。PGD 风格的对抗训练会引入大量计算，因为每个批次要运行多个内层攻击步骤；其成本取决于攻击强度与训练过程。

推论：不存在“免费”的鲁棒性。构建安全模型在计算上代价高昂。对许多应用而言，依赖外部护栏（输入过滤、输出验证）比将内在鲁棒性训练进模型权重更有效。

效率本身在集群规模下会成为陷阱。

Principle 19: AI 的杰文斯悖论（效率陷阱）

不变量：降低资源成本的效率改进，往往会增加而非减少该资源的总消耗。 \[ \text{Efficiency} \uparrow \implies \text{Cost} \downarrow \implies \text{Demand} \uparrow\uparrow \]

推论：将模型效率提升 10\(\times\) 倍，可能使总使用量增加得足以抵消甚至超过预期的节能收益。可持续性策略必须聚焦于绝对上限（碳预算、可再生能源来源），而不能仅依赖速率效率（每瓦 FLOP/s）。

负责任运行还要求明确社会目标，因为即使每个指标都定义良好，统计保证之间仍可能相互冲突。

Principle 20: 公平性不可能律

不变量：对于作用于具有不同基础率的群体的非完美分类器，校准、均等机会与人口统计公平无法同时满足。 \[ \Pr(Y=1 \mid A=a) \neq \Pr(Y=1 \mid A=b) \implies \text{Trade-off Required} \] 此处，\(Y\) 表示结果，\(A \in \{a,b\}\) 表示群体属性。

推论：在该定理条件下，公平性需要明确的权衡；不存在无准则的最优解来在互不相容的指标之间进行选择。工程师必须像对待延迟预算一样对待公平性指标：由利益相关方明确选择权衡、由系统强制执行，并监控违规。 责任人工智能 完整说明了不可能性结论何时适用，包括平凡分类器的边界情形。

这些权衡无法一次性评估并冻结，因为已部署的系统会改变其后续观察到的数据与激励。

Principle 21: 社技反馈不变量

不变量：当已部署模型的决策会影响其环境时，未来数据的概率分布 \(p_{t+1}(X)\) 依赖于模型的既往决策 \(f_t(X)\)。 \[ p_{t+1}(X) = g(p_t(X), f_t(X)) \] 此处，\(g\) 表示此类表演性设定中环境对模型的响应函数，将当前数据分布与模型决策映射为下一个数据分布。

推论：其决策会影响环境的系统需要闭环治理。在静态测试数据上最大化准确性的模型，仍可能恶化其运行所依赖的未来数据分布、放大使下一轮数据产生偏见的激励，或 destabilize 被监控的环境。此类设定下的可靠性要求对 反馈回路 进行建模，而不能仅建模 前馈推理。

第四部分遵循与全书其余部分相同的约束驱动逻辑。安全与隐私使集群抵御攻击并保护训练数据免受泄漏。鲁棒性追问模型性能在输入、环境或对手发生变化时是否保持稳定。可持续性将行星尺度基础设施视为能源与碳系统，而不只是性能系统。负责任 AI 随后将这些技术控制连接到机构治理。这些章节共同完成了将能力集群转化为可信集群的工程学科。