Pliny团队在Fable-5发布24小时内,用多代理协作、文本混淆等手段绕过其Mythos模型安全层,提取网络攻击代码、冰毒合成等高危内容并公开传播。真正触发美国政府出口管制的并非中国因素,而是美国本土一家竞争对手提交的越狱演示。Anthropic事后复测称此为狭窄非通用漏洞,同类问题其他模型也普遍存在。事件表明当前对齐技术难防结构化多步骤协同攻击,前沿模型已成地缘战略资产,普通用户沦为博弈代价。
很多人都以为Fable5下架是为了防中国,但其实真正触发管制的,是美国本土的竞争对手,
大家都被官方的国家安全话术带偏了,默认下架是防范技术外流的常规操作。
实际上真正触发这次管制的,是美国本土一家公司提交的越狱演示,他们证明Mythos的安全层可以被攻破绕过,这才直接惊动了商务部。
Anthropic事后复测称这只是狭窄的非通用漏洞,同类问题其他公开模型也普遍存在,完全是过度反应。
但这件事最讽刺的地方就在这, 名义上防的是外部对手,实际动手的是本土同行,
说白了前沿大模型早就脱离了单纯的商业产品范畴,成了地缘博弈里的战略资产。
只要踩中国家安全的线,技术论证再充分,也抵不过一纸行政命令 所有用户不分国籍,全都是代价。
只能说模型的命运,从来不由代码说了算,规则的转向,才是真正的不可抗力。