Anthropic 将让外部评估者像员工一样持续审查模型

Anthropic 联合创始人兼 CEO Dario Amodei 提出，前沿 AI 的能力增长需要被有条件地放慢，让安全研究和治理机制获得追赶时间。他强调这不是停止训练或技术进步，而是在关键能力出现时控制推进节奏。文章援引近期智能体实验中的越界行为，并据此判断 AI 参与下一代 AI 研发可能让风险更快放大；这些未来影响仍是他的风险推演，而非已经发生的事实。

最具体的行动是引入“嵌入式评估者”。Amodei 承诺 Anthropic 将率先让独立第三方获得接近内部风险团队的持续访问权限，包括办公场所、工作设备、模型、评测工具和部分训练流程。评估者可不经 Anthropic 编辑而发表结论；公司只可因安全、法律、商业机密或第三方隐私提出有限删改，评估者也能公开说明删改是否影响判断。

他还主张让民主国家的前沿实验室先协调共同标准，再通过政府规则解决企业间协作和反垄断障碍，最终把急性风险测试、危险用途限制乃至递归自我改进的速度限制扩展到国际层面。文章同时支持对华芯片出口管制和防止模型窃取，这也说明这套治理设想并非单纯的技术安全方案，而与产业竞争和地缘政治紧密相连。

对智能体行业而言，嵌入式评估把偶尔发布的安全报告推进为持续、可进入内部验证的监督机制。它能否真正改变前沿实验室的行为，取决于评估者如何产生、实际能看见多少信息，以及首批报告能否在商业保密与公众知情之间保持独立。其他实验室是否跟进、监管者是否把它变成共同标准，也会决定这项单边承诺究竟是治理基础设施，还是一家公司的自我约束。

阅读完整文章：https://darioamodei.com/post/we-must-pace-the-frontier