Anthropic CEO Dario Amodei 发新文,放弃自愿透明立场,主张对高风险模型实施强制第三方测试、政府有权叫停部署。他指出四年前模型写不出连贯代码,如今 Claude 已承担大公司大部分编程工作,强调“已经晚了一年”。以 Mythos 搅乱网络安全为例,预测威胁蔓延至生物与自动化研发。此举引发争议:支持者称其直面风险;反对者指责其拉护城河——仅对 10^25 算力模型强制测试,全球仅三四家公司能负担,且时间点恰在 Claude 新模型 Fable 5 发布后。文章标志 AI 安全从技术问题转向政治与公共政策问题。
Dario今天这篇长文,直接把 AI 安全辩论的遮羞布给撕了。
他终于不说什么自愿透明度报告之类的的屁话了,讲真以前那套根本没啥用,现在就应该搞强制第三方测试,政府有权直接叫停高风险模型的部署。
文章里印象特别深的一句话是他说,四年前模型还写不出连贯的代码,现在 Claude 已经在大公司里承担大部分编程工作了。
他的原话是"我们现在讨论的不是该不该管,是我们已经晚了一年。"
这话从他嘴里说出来,分量真的完全不一样。
Anthropic 过去一直站自愿透明那一边,自己报风险自己设护栏。
这次是 CEO 公开说那套不够了,
两个月前 Mythos 已经搅乱了全球网络安全格局,攻击者比防守者快。
他顺着往下推--网络之后是生物,生物之后是自主性失控和自动化研发,每一步都在缩短和前一步的距离。
但不得不说这篇文章的争议也大到离谱, 支持的人说这是第一个敢直面真实风险的大厂 CEO,