美国政府首次动用出口管制下架AI模型,Amodei被边缘化,这件事暴露了安全护栏的根本性脆弱,是所有前沿模型公司都面临的监管预演。
美国商务部6月12日以国家安全为由对 Anthropic 的 Fable 5 及 Mythos 5 模型发出出口管制令,禁止外国公民访问,迫使 Anthropic 对全球用户关闭。导火索是亚马逊研究团队声称找到绕过 Fable 5 安全护栏的方法。这是美国政府首次用出口管制下架 AI 模型。白宫与 Anthropic 谈判中,因 CEO Amodei 沟通困难,改由联合创始人 Tom Brown 及公共政策负责人 Sarah Heck 主导。国会两党四名众议员联名致信商务部长要求解释法律依据及恢复标准,回复截止6月26日。Fable 5 重新上线暂无时间表。
据 WIRED 报道,在围绕 Fable 5 模型解禁的谈判中,Anthropic 联合创始人 Tom Brown 已经取代 Amodei,成为与特朗普政府对话的主要代表。一位直接了解通话内容的人士说:"Tom Brown 不像 Dario 那样拧巴,他能正常沟通。"
事情的起因要回到 6 月 12 日。当天美国商务部以国家安全为由,对 Anthropic 最新发布的 Fable 5 和 Mythos 5 两款模型发出出口管制令,要求禁止任何外国公民访问,包括 Anthropic 自己的外籍员工。由于无法按国籍筛选用户,Anthropic 被迫对所有用户关闭了这两款模型。
触发这一切的导火索是有公司(据报道是亚马逊的研究团队)声称找到了绕过 Fable 5 安全护栏的方法,可以释放底层 Mythos 模型的网络安全能力。Anthropic 认为这只是一个狭窄的漏洞,不构成全面的越狱,但政府没有被说服。