美国政府向 Anthropic 发出的执法信函,实际上迫使该公司在周末前将其最新 AI 模型下线,这对任何美国科技公司——无论是否是 AI 实验室——都应是一记警钟。
为你梳理一下这波新闻:周五下午,美国商务部向 Anthropic 发函,援引一项晦涩的出口管制指令,以未具体说明的国家安全关切为由,禁止非美国公民(包括 Anthropic 的员工)访问 Fable 5 和 Mythos 5。Anthropic 表示,它认为这封信与模型防护措施的绕过有关,但无法确定,因为信中未提供具体细节。该信函尚未公开。
作为回应,Anthropic 将其两款顶级模型对所有客户关闭,以确保遵守该指令。结果是,美国政府通过一项迅速且单方面的行动,成功迫使一家科技公司将其模型下线,而这一行动似乎无需法院批准。
特朗普政府周五的干预表明,AI 行业并非不受政府干预。这也是对整个科技行业的警告:要么合规,否则我们可以关闭你和你的产品。
据 Axios 援引消息人士称,周末两大主要参与者之间的局势紧张,并表示 Anthropic 与特朗普政府之间的“个性差异”导致了这项出口指令,而非 AI 产品的技术问题。
周末浮现的关于该问题的新细节,进一步加剧了人们对政府本就站不住脚的理由的质疑。
网络安全资深人士、Luta Security 创始人 Katie Moussouris 在一篇博客文章中表示,Anthropic 最近与她分享了一份由安全研究人员撰写的论文的私人副本,该论文描述了 Fable 5 中所谓的防护措施绕过。(《华尔街日报》报道称,该论文的作者是亚马逊的安全研究人员。)Moussouris 表示,Anthropic 曾联系她,征求她对这篇论文的看法。
穆苏里斯在博客文章中描述了研究人员如何触发护栏绕过,但表示这种绕过本身“绝不应触发出口管制”。其区别主要在于,是要求 AI 模型“审查代码的安全问题”,还是要求它“修复这段代码”。即使提问方式略有不同,最终结果也大致相同。
“论文中描述的行为无法得到有意义的修复,任何尝试都只会削弱模型在防御方面的能力,”穆苏里斯批评道,他认为这项出口管制指令是仓促、强硬且错误的。
穆苏里斯与数十位顶尖安全研究人员和专家随后呼吁特朗普政府撤销这项出口管制命令,称从美国网络防御者手中夺走先进网络安全能力的举动是“危险的”。
历届政府都曾对知识差距做出过草率的决定。例如,美国政府在 2010 年代用于修订涵盖可能被用于网络攻击的网络安全工具的出口法律时,其措辞过于宽泛,以至于无意中几乎将合法的安全和漏洞研究也定为非法。
然而,特朗普政府的指令似乎带有报复性质。
《科技政策报》编辑贾斯汀·亨德里克斯表示,特朗普政府的举动“可能会在国外首都引发对美国 AI 在关键应用中可靠性的担忧”。其传递的信息是,不能指望美国的 AI 公司能在不受美国政府干预的情况下运营。
特朗普政府尚未确认其为何启动出口管制指令。是官员们误读了报告并感到恐慌?是亚马逊 CEO 安迪·贾西出于谨慎或恶意,向政府高级官员说了什么从而引发了这一反应?是翻译过程中出现了偏差,还是这是向本就关系紧张的人择公司施压的一种方式?白宫可能并未意识到这封信函要求所带来的深远影响,官员们正忙于弥补自己造成的损害。
引用亨德里克斯的话说,“现在的氛围充满猜疑,认为高层官员正基于个人和政治因素偏袒某些对象。”其后果是,政府就其对美国制造软件发布意图施加多大控制,树立了一个危险的先例。
这次政府与 Anthropic 产生了分歧;明天它可能与任何其他公司产生分歧。