749 字
4 分钟
负责任扩展政策 v3

原文:Responsible Scaling Policy Version 3.0(2026-02-24);全文见 RSP v3.0。

一句话#

RSP 是“如果能力超过阈值,就必须加上对应防护”的 if-then 框架;v3 的主要变化是承认阈值模糊、把做不到的行业级要求单独列出来,并改用“公开目标 + 定期风险报告”来施加压力。

基本逻辑#

  • 能力每跨过一个级别(ASL-2、ASL-3……),就触发一套更严格的防护。
  • 早期级别写得细,后面的级别故意留白,等看清能力再说。
  • ASL-3 防护在 2025 年 5 月正式启用。

v3 的三个变化#

1. 把公司计划和行业建议分开。 一部分是 Anthropic 无论别人怎么做都会执行的;另一部分是“如果全行业都这么做,风险就能管住”的雄心地图。

2. 前沿安全路线图(Frontier Safety Roadmap)。 公开列出安全、对齐、防护、政策四方面的目标,定期自评进度。不是硬承诺,而是“公开打分”。

3. 风险报告 + 外部评审。 每 3–6 个月发布一份风险报告,说明能力、威胁模型、缓解措施和总体风险水平;某些情况下引入外部专家评审。

文章自己承认的问题#

  • “模糊地带”:模型能力经常“逼近但没确定越过”阈值。生物风险就是例子——能通过快速测试,但不足以证明风险高;湿实验室试验又太慢,等结果出来模型已经换代。
  • 阈值没能促成共识:原本希望跨过阈值能推动行业一起行动,但实际外部论证很弱。
  • 政府行动慢:政策环境更偏向竞争与增长,安全议题在联邦层面进展有限。
  • 更高的 ASL 可能无法单边实现:文章引用 RAND 对模型权重安全的评估——“SL5”标准“目前不可能”,需要国家安全部门协助。

和 RSI 的关系#

RSP 不直接谈 RSI,但它是 RSI 讨论的“安全阀”:

  • RSI 让能力阈值更快到来,阈值触发防护的速度就成了关键变量。
  • 风险报告里包含“模型在多大程度上加速 AI 研发”的证据,这与 02 的指标是同一套思路。
  • 03 的“嵌入式评审”可以看作把 RSP 的外部评审再往前推一步:从“看报告”变成“常驻看过程”。

值得追问#

  • 如果阈值本身模糊,那“触发防护”实际上靠谁判断?文章承认是公司自己判断,并采取预防性措施。
  • 公开目标没有约束力,靠什么保证不降级?
  • 外部评审的权限、独立性、能否公开负面结论,v3 只给了原则,没有给可执行的争议解决机制。

系列导航#

← 上一篇:2028 两种情景 · 下一篇:RSI 术语与指标 →

负责任扩展政策 v3
https://f1yingwhite.github.io/posts/ai/rsi/07-负责任扩展政策v3/
作者
F1yingWhite
发布于
2026-11-10
许可协议
CC BY-NC-SA 4.0