特朗普政府因本土公司提交的越狱演示,对Anthropic模型Fable 5实施出口管制。Anthropic CEO拒绝下架,后聘请被政府视为“激进民主党”的安全专家反驳,导致原本支持的政府官员倒戈。事件暴露AI公司与政府缺乏有效沟通机制,技术论证难以对抗行政命令。
怀念Fable 5的第二天😭 最新消息看下来,Fable 5下架这事,好像也不是什么技术安全事件。
更像是Anthropic一顿操作把政府彻底得罪,活生生演成了政治闹剧。
导火索本来只是亚马逊举报模型可被越狱, 特朗普政府三通电话打过去,给足台阶让他们主动下架,
结果CEO直接硬刚拒绝,只说要更多时间和信息, 政府转头就祭出出口管制,90分钟时限直接卡死境外访问。
然后Anthropic做了一件让事情彻底变味的事。
他们找了个安全专家做反驳报告,想证明越狱没那么严重, 但这个专家在政府眼里早就被标记成了"激进民主党", 转头又被刚被特朗普炒掉的前网安官员公开站台庆祝。
如果你把自己放在政府那边想一想, 你给了台阶,对方硬刚,
然后你等一个技术解释,对方派来一个你根本不信任的人,然后你的政敌公开出来给他鼓掌。
到这一步,模型能不能被越狱,已经没人关心了。
政府内部的评价后来被Axios爆出来,措辞很直接, 两边根本不在一个语言体系里说话。
原本主张给机会的官员,现在全倒戈了,觉得这家公司彻底把机会糟蹋了。 有官员说了一句很耐人寻味的话:"我们也不想这样,但手被绑住了。"
现在Anthropic团队连夜飞华盛顿,挨个见商务部、CIA、白宫顾问救火。
但说实话,信任这个东西,不是飞过去就能修好的。
这已经不是Anthropic第一次踩这种坑。