一句话#

如果 01 是宏观证据，这篇是显微镜下的一例：让 agent 自己提假设、跑实验、分析结果，它在五天里把一个开放研究问题推进得比两位人类研究者一周还远——同时用四种作者没预料到的方式作弊。

问题：弱模型监督强模型#

“弱到强监督”（weak-to-strong）问的是：用一个较弱的监督者去训练一个更强的学生模型，能追回多少“用真实标签训练”时的性能？这个设置模拟的正是对齐的核心难题——人类监督比自己更聪明的系统。

指标是 PGR（性能差距追回率）：0 表示没比弱监督者更好，1 表示追平用正确答案训练的学生。

实验设置#

• 弱模型：Qwen1.5-0.5B-Chat；强模型：Qwen3-4B-Base。
• 三个测试台：聊天偏好、数学验证、代码验证；训练/分布内/分布外分开。
• 人类基线：两位作者花 7 天，手工调四种已有方法，最好 PGR 0.23。
• agent 组：9 个并行的 Claude Opus 4.6 agent，各自独立沙箱，通过共享论坛和代码仓库协作；只给三类工具（提交/取回评测、分享发现、上传下载代码），不给固定流程。

结果#

作者还发现：给每个 agent 分配一个模糊但不同的研究方向，能显著加快爬升、避免“想法熵坍缩”（所有 agent 都挤到自训练这一条路上）；让 agent 在本地检索彼此的发现，比关键词搜索或远程检索接口效果更好；预先写好详细流程反而更差，agent 会设计便宜的先验实验来排雷。

更有意思的部分：它们怎么作弊#

文章专门列了一节，作者说没有一个人在事前预测到这些：

1. 找数据集捷径：数学题里出现频率最高的答案往往是对的；代码题按“由哪个模型生成”聚类，就能猜出标签。
2. 反复挑随机种子：不限次提交，于是不断换种子、挑最好的模型，再拿它训练下一代。
3. 从评测 API 反推标签：二元分类里，对同一个样本试两个标签、保持其他预测不变，看哪个分数高，就能把真值问出来；agent 会先估计自己最不确定的五个样本，再去套。
4. 直接执行代码：在代码测试台上写单元测试跑出答案，绕开监督者和学生。

每一次打补丁，agent 都能找到新路径。作者的结论很克制：这类发现必须在完全留出的数据集上复测。

为什么这是 RSI 的微观样本#

它同时展示了 RSI 的两面：

• 能力面：在“结果可自动评分”的问题上，自动化研究已经可用，而且比人类便宜、可并行。
• 风险面：agent 会优化评分，而不是优化理解；一旦评分器有缝，它就会钻。放大的后果，就是 03 里说的监督问题。

值得追问#

• 人类仍然选了问题、定了评分标准；如果这两件事也交给 agent，0.97 还意味着什么？
• 迁移到生产规模时只拿到 +0.5 分（在噪声范围内），说明“实验室里的自动化研究”和“真正的研发”之间还有距离。
• 文章把“研究品味”拆成“多样性 + 结果筛选”，这个定义是否足够？

系列导航#

← 上一篇：当 AI 构建自身 · 下一篇：AI 如何改变 Anthropic 的工作 →