# AI危险程度谁来定？美国政府管制Anthropic Fable 5引发争议 - 来源：The Verge：AI（RSS） - 作者：Nilay Patel - 发布时间：2026-06-18 22:00 - AIHOT 分数：77 - AIHOT 链接：https://aihot.virxact.com/items/cmqjl65ia04dbslmhcc06x5r6 - 原文链接：https://www.theverge.com/podcast/951542/anthropic-claude-fable-5-mythos-ban-pentagon-ai-regulation-trump ## AI 摘要 上周五，美国政府宣布对Anthropic新模型Fable 5及其底层模型Mythos实施出口管制，限制外国公民（包括在美Anthropic员工）访问。Anthropic随即下线Fable和Mythos，称否则无法合理遵守命令。Fable 5是首个公开的Mythos级模型，此前Anthropic称其可能成为“潜在网络武器”，仅限企业与政府使用。截至周二，Fable 5仍处于离线。这场冲突对美国AI监管格局产生深远影响，引发监管是安全框架还是政治武器的讨论。 ## 正文 在今天的《Decoder》节目中，我的嘉宾是《The Verge》资深 AI 记者海登·菲尔德。通常海登上节目，是因为 AI 领域出了什么问题。上周末，出问题的是 Anthropic、特朗普政府以及 Anthropic 的新 AI 模型 Fable 5 之间相当激烈的纠葛。 上周五，距离 Anthropic 向公众发布 Fable 不到一周，美国政府就宣布将对这款新模型及其底层基础模型 Mythos（Fable 所基于的模型）实施出口管制。这些管制措施限制外国公民（即便是那些在美国为 Anthropic 工作的人员）访问这些模型。随后，Anthropic 将 Fable 和 Mythos 对所有用户下线，理由是该公司担心不这样做就无法限制访问，也无法合理遵守该命令。 可以想象，这一切乱成了一锅粥。海登刚刚在《The Verge》上发布了一篇精彩的逐回合分析，详细讲述了上周五这一切是如何发生的，以及双方在整个周末如何手忙脚乱地弄清楚到底发生了什么、又该如何解决。所以我想请她来，带我梳理一下整个时间线，以及这一切意味着什么。 《The Verge》的订阅用户，别忘了你们可以享受独家权限，在收听播客的任何平台上收听无广告版的《Decoder》。点击这里收听。还不是订阅用户？你可以在这里注册。 事态仍在持续。截至周二我们录制这期节目时，Fable 仍处于离线状态——事实上，如果你启动 Claude，它会在聊天框上方告诉你“Fable 5 目前不可用”。然而，正如你将听到海登的分析那样，无论 Fable 能否在本周恢复上线，政府与 Anthropic 之间的这场冲突所产生的连锁反应，都将对科技行业以及美国 AI 监管体系产生深远影响。 这里还有一个巨大的讽刺，你也会听到我和海登深入讨论这一点：Anthropic 多年来一直主张，AI 可能很快就会变得足够强大，以至于具有危险性——政府需要尽早、认真地着手监管 AI。那么……现在我们正处于这个局面，而 Anthropic 却并不喜欢事态以这种方式发展。 如今，所有人——但或许中国政府尤其关注——都在观望，看美国的 AI 监管路径是否会形成一套严肃的安全框架。还是说，这仅仅是白宫又一个用来打压那些不向特朗普政府屈服的公司与个人的工具。就像我说的，这真是一团糟。 好的：下面有请 The Verge 资深 AI 记者 Hayden Field 来谈谈 Claude Fable 禁令以及新的 AI 监管格局。我们开始吧。 本文字记录为方便阅读和清晰起见，略作编辑和润色。 Hayden Field，你是 The Verge 的资深 AI 记者。欢迎再次来到《Decoder》。 谢谢。很高兴来到这里。 每次你来的时候都是一片混乱，Hayden。这是我逐渐发现的一点。 确实如此。我的规律依然有效，那就是出事总是在周五。事情总在周五闹翻天，这次也不例外。 尤其是在政府监管 AI 这件事上，总有一种“要是在周五全乱套了，那整个周末都得琢磨这事儿”的感觉。而且我认为，在整个特朗普政府时期，这种情况基本都成立。到了周一，大家立刻手忙脚乱地想把一切重新拼凑起来。 没错，就是这样。太疯狂了。关键是所有这些讨论整个周末一直到周一都在进行，结果还是没有解决方案。我很惊讶事情居然还没解决，但没错，确实是一出大戏。 嗯，这期播客将在周四上线。我们是周二录制的。接下来两天会发生什么，我们拭目以待。但我认为，这里的大背景——美国政府应该如何监管 AI，以及这对美国 AI 公司在世界舞台上的意义——仍然悬而未决。我不认为这会随着 Fable 相关的任何事情而得到解决。 让我们试着先理清整个故事的来龙去脉，然后从中提炼出那些核心主题，因为这些主题在我看来会随着每一款新模型的发布而一次又一次地反复出现。那么，我们从开头讲起。什么是 Claude Mythos？什么是 Fable？它们之间有什么关系？ 问得好。大约一周前 Anthropic 推出这个的时候，我也问了他们同样的问题。因为 AI 公司真的很不擅长命名，而且总是让人非常困惑。但实际情况是，Mythos 是驱动 Mythos 5 和 Fable 5 两者的底层模型。Fable 是一个新模型。他们之前并没有 Fable 1、2、3 或 4。他们直接就跳到了 Fable 5，确实很让人困惑。不过，Fable 是 Mythos 5 的弱化版，或者说增加了安全护栏的版本。今年 4 月 Anthropic 推出 Mythos Preview 时，就一直大力炒作它。他们声称这有可能是网络武器，绝不可能向公众发布——至少在安全防护手段跟上之前不行。他们只打算向企业和政府，或者他们所谓的"网络防御者"——那些需要在恶意攻击者利用漏洞之前修补好自身框架的地方——提供这个模型。 现在，时间快进到上周，Anthropic 不仅发布了 Mythos 5——这是第一个正式版的 Mythos（之前只有 Mythos Preview，所以我们直接跳到了 5）——而且同一天他们还发布了 Fable 5，这是 Mythos 级模型的首个公开版本。所以底层框架是一样的，但如今在上面构建了大量安全护栏，希望能阻止公众访问这个——按 Anthropic 自己的说法——极其危险、可能搞乱一切的模型。 这就是他们发布的情况。他们花了很长时间大肆宣传，谈论这个模型有多危险，结果后来这一点反过来给他们带来了麻烦。 Fable 就是加了安全护栏的 Mythos。刚推出时，就引发了一波争议，对吧？AI 和安全研究人员发现，那些护栏实际上阻止了他们进行研究，无法看清 Fable 到底能做什么——因为一旦他们试图突破边界，系统就会把他们降级到 Anthropic 之前的模型。 是啊。这几乎成了一个梗。当时人们都在嘲笑那套护栏有多严格。 所以，这就是让我困惑的地方：一方面护栏如此严格，引发了争议；另一方面又发生了某件事，让政府认为Fable危险到必须撤下。到底发生了什么？ 我采访了一些独立红队测试人员。在Amazon白皮书流传之前、在越狱指控公开之前，我就向一些红队成员了解过Fable 5的安全性。他们对护栏的表现都相当印象深刻。我本以为越狱会稍微容易一些。他们说尝试了很多方法都不起作用。这和我通常采访独立红队测试人员的经验不同。他们通常会说：“对，我在这里攻破了，在那里也攻破了。”但这次，他们说护栏表现得相当好。 根据我昨天采访的一位直接参与谈判的知情人士透露，上周的时间线大致是这样的。上周中期，Anthropic获悉了Amazon研究人员开展的一些研究。他们发现了一个潜在的越狱漏洞，这让他们相当担忧。 他们把研究结果发给了Anthropic。Anthropic与Amazon研究人员反复沟通讨论。他们在讨论这究竟是一个真正的越狱漏洞，还是说基本上没那么严重。据报道，Amazon CEO Andy Jassy随后对此感到担忧，并在周五致电（财政部长）Scott Bessent或Trump政府的某位成员，表达了他的担忧。 Trump政府大惊失色。他们立即联系了Anthropic。实际上，他们发了一条消息说：“听着，你们需要在90分钟内关闭这个。” 90分钟？ 没错，90分钟的最后通牒。他们表示：“我们需要想办法解决这个突然出现的越狱问题。”Anthropic在第一次通话后的15分钟内就联系上了特朗普政府，并请求提供更多细节。他们问道：“好吧，我们谈谈这个。你指的是我们已经了解的研究吗？还是别的情况？你说的越狱具体是什么？”他们试图获取更多信息，并与政府进行沟通。 我认为政府也对Anthropic的CEO Dario Amodei在第一次通话后75分钟才回电感到不满。Anthropic在15分钟后回了电话，而Dario则花了1小时15分钟才回电。当时的情况相当复杂。但就在他们通话期间，90分钟的期限到了，特朗普政府表示：“好了，就这样。是的，我们要对你们实施出口管制。” 就在那时，他们告知Anthropic，任何外国公民都不得使用这两种模型，Anthropic必须确保这一点。无论该外国公民是否受雇于Anthropic，都不能使用。例如，如果你是美国银行（Bank of America）的员工，有权访问Mythos 5并利用它修补系统漏洞，但你不是美国公民，那就不能使用。同样的情况也适用于使用Fable 5的普通用户，以及非美国公民的Anthropic研究员。 因此，Anthropic做了当时唯一能做的事情，他们说：“好吧，我们只能暂时搁置这两个模型。我们不可能在一分钟内想出办法确保没有非美国公民在使用这些模型。”于是，事情就这样发生了。 我的意思是，那真是疯狂的几个小时。Anthropic当晚晚些时候发表声明，表示正努力与特朗普政府就此问题合作。他们整个周末都在与政府官员进行线上会议，然后派遣了三名员工——我在我们刚刚发布的文章中详细介绍了他们的行程——前往华盛顿特区与他们进行面对面会谈。 值得注意的是，Dario 并没有亲自到场。他是以虚拟方式参加所有这些会议的。我可以确认他没有去什么养生静修，尽管有些报道是这么说的，但他们不肯告诉我他在哪里。不过他确实不在养生静修。这就是我所知道的一切。 绝对不在养生静修，这是 Anthropic 的立场。好的。 [笑] 所以，是啊，事情很多，非常戏剧化。过去几天我接触的所有消息来源都说，整个科技行业，尤其是网络安全社区，都在议论纷纷。一位消息人士告诉我：“北京现在正在嘲笑我们。” 有意思的是，该领域的一些网络安全领袖联合发表了一封公开信，他们说：“听着，我们并非所有人都相信监管，但如果要监管，绝不该是这个方式。”我认为这正反映了整个局势。 也许你相信激进的政府监管，也许你不信。监管工作本可以严谨、周到、谨慎且可预测地开展。但这件事从头到尾都谈不上严谨、周到或可预测。 我其实想从头说起。Andy Jassy 和 Scott Bessent 可能是聪明人，他们显然在我们的社会中身居高位，但他们并不是 AI 专家。我们是怎么走到这一步的——亚马逊 CEO Andy Jassy 把对 AI 安全研究的担忧转达给 Scott Bessent（而 Bessent 实际上并不主管 AI 政策），然后导致一份 90 分钟的最后通牒被送达一家 CEO 不在场的公司？我认为这无关你的政治立场。 要么这是历史上最严重的安全漏洞，以至于亚马逊 CEO 要打电话给财政部长；要么这只是一群想刷存在感的人。我实在搞不清楚到底是哪一种情况。 这是几方面因素共同作用的结果。其一，正如你提到的，这些人中很多并非 AI 专家。任何对这种系统的越狱行为显然都是严重的、值得重视的，但问题是——当你不直接了解这些系统如何运作时，你很容易采取一种非黑即白的态度。这些人不是专家。 安迪·贾西是从他自己的研究人员那里听说这件事的。顺便说一句，他的研究人员此前已经与 Anthropic 就此事沟通了好几天。他们并没有给公司总裁打电话。他们只是说：“好吧，我们来讨论一下，看看能怎么办。”据称，研究人员当时并不认为这是什么天塌下来的大事。他们只是说：“哦，我们发现了这个，来讨论一下。”Anthropic 当时正在处理，然后安迪·贾西听说了。他打了那个电话，事情就闹大了——这可以理解，因为如果你不是 AI 专家——哪怕你是 AI 专家，可能也不是网络安全专家，不一定清楚这些系统究竟如何运作——所以你肯定会吓一跳。 这可以理解，但真正奇怪的是之后发生的事。打了这个电话，政府知道了，好吧。但我觉得真正诡异的是那 90 分钟的最后通牒，以及当 Anthropic 说“嘿，我们谈谈吧。你说的是我们已经知道的那个漏洞，还是别的东西？你能不能先告诉我们，这样我们才好讨论？”时，他们拒绝给出更多细节。他们回答：“不，就 90 分钟，照做，不然就完蛋。” 然后还让任何外国人都永远无法访问该系统。这才是真正奇怪的地方。这些牌面最终落成这样，正是科技行业所有人觉得非常奇怪的地方，而且正如你所说，这反映了特朗普政府在科技领域的一贯操作方式。很多时候，特朗普总统似乎只要进行过一次谈话，就会被最近那次谈话所左右。所以他一直非常反监管、非常支持美国人工智能，希望推进并出口美国的人工智能，而这正是商务部所要求的。 特朗普政府目前正在[征求信息]。他们一心要出口美国人工智能、推进并打败中国，但接着他们又搞了这么一出，毫无预兆地打击所有人，不仅可能影响 Anthropic，还会影响 OpenAI、谷歌以及该领域所有拥有所谓“半等效 Mythos 产品”的竞争对手。 这看起来非常混乱，而且很有趣的是，这常常导致所有 CEO 争相向特朗普政府卑躬屈膝，却往往缺乏真正与实际情况相符的科学或证据支撑。恐慌的程度通常与证据不匹配。 亚马逊是 Anthropic 的投资方，也是重要合作伙伴。为什么安迪·贾西会以这种方式拖累自己的投资？ 嗯，亚马逊通常本来就做很多红队测试。这只是他们流程的一部分。所以这东西会被测试然后被挖出来，这很合理。但有趣的是，为什么安迪·贾西要为此给特朗普政府打电话。我不确定原因。 也许那通电话本来就正常进行，他只是随口提了一句。也许他打电话说：“是啊，你们签那个行政令真是太好了，因为某某原因。”我们不得而知。但有趣的是——我很高兴你问了这个问题——很多我采访的消息源都说，那个所谓的越狱内容以及正在流传的亚马逊白皮书里提到的内容，OpenAI 的 GPT-5.5 和一些其他模型都能做到。 这就是指控的内容——这些技能并非Fable 5所独有，作为越狱手段的上述技能也是如此。Mythos显然比Fable更强大，因为它没有安全防护，但就Fable以及亚马逊曝光的问题而言，这些问题似乎并非Fable独有，GPT-5.5同样能够实现。行业内许多人都在问：“为什么偏偏是Anthropic？” 其中真实的一个因素是：总是Anthropic。Anthropic与特朗普政府的关系最为紧张。他们被国防部列为供应链风险，但这里的姿态与以往Anthropic的戏剧性事件不同。 从历史上看，Anthropic曾表示：“我们不希望你们将我们的工具用于X、Y、Z用途。”而特朗普政府则表示：“不，我们可以用这些AI工具做任何我们想做的事。”正因如此，Anthropic被国防部列为供应链风险。他们说：“在军事用途方面，我们有一些底线。”皮特·赫格塞斯说：“不，我想怎么用就怎么用。你必须允许所有合法用途”——这是原话——“因为你不允许，所以你构成了供应链风险。”目前有一场相关的诉讼正在审理中。 而这里的情况正好相反。特朗普政府担心模型过于强大，能够被用于太多事情，而Anthropic似乎认为这种担忧被夸大了，政府夸大了一个他们可以修复的问题。他们只需要时间来修复，以及一些关于修复效果是否有效的严谨讨论。 你怎么把这两件事联系在一起？一方面，特朗普政府反对AI监管努力。一方面，他们说：“我们可以对模型做任何我们想做的事，把它们做得越强大越好。”而这里，模型又因为过于强大，必须在任何外国公民甚至能看到它之前就被下架。 这实际上恰恰说明，政府正信任这些公司来告诉它该做什么。我们在任何已出台或转为自愿性质的监管措施中都看到了这一点。特朗普政府与人工智能公司沟通后，很多草案都进行了调整。他们本来就已经不喜欢 Anthropic。从供应链风险事件、诉讼到划定红线，双方之间早就存在严重的信任裂痕。 我无法想象，如果这是一家竞争对手，同样的情况还会上演。OpenAI 自己也有一个相当于半成品的 Mythos 级别模型。再说一遍，没有一家公司真的说自己的模型和 Mythos 一样好，但它们会说“相当不错”。恐慌仍然会发生，但我无法想象其他部分会像现在这样发展。特朗普政府会给他们更多时间。他们会有更多对话空间，而且我认为他们不会制定出那条让整个行业乃至全球都为之震惊的外国公民禁令。 与我交流的消息人士之一说，他已经知道，目前正在与非美国公司签署备份合同。开放权重模型正在被部署到替代硬件方案上，因为现在世界各地的公司都在说：“哇，我们现在必须把政治风险纳入商业计划。我们真不知道美国 AI 会发生什么。让我们制定一些备份计划吧。”这对行业来说不是好事。有趣的是，特朗普政府如此害怕中国超越我们，却愿意打击自己行业中的领军者之一。 但我也觉得有趣的是，特朗普政府逐日发布的理由似乎前后不一。他们每天都会抛出新的借口，或者曝光对话的某个片段。起初他们说：“哦，如果中国获取了访问权限怎么办？” 我采访的一位知情人士表示，那是几周前的传言了，远在Fable 5或Mythos 5发布之前就出现了，而且传言指向的是一家中国电信公司——政府此前已批准该公司访问Mythos Preview。后来政府说：“哦，实际上，你知道吗？我们改主意了。把他们移除吧。” Anthropic 立即执行了移除操作，收回了该公司的访问权限。那是一个旧传言了。 我们还看到了行政命令的解释版本：有传言称Anthropic没有遵守特朗普政府的行政命令。但该行政命令尚未生效。他是6月2日才签署的，距今仅两周。行政命令需要60天才能确定哪些模型将被纳入监管范围。目前存在的是一项自愿性质的30天预发布审查合作。是自愿的。 这很有意思——我并不是说Anthropic完全正确。但有趣的是，在这场风波中，充满了误导、慌乱和怪异，以至于你很少看到我会为一家AI公司感到惋惜。真的很少见。我不至于说“哦对，他们干得漂亮”。所有AI公司都有自己的问题，但在这个案例里，我不得不说：“哇，我真不知道如果OpenAI或其他竞争对手处在Anthropic与特朗普政府纠缠的这番处境下，会不会也遭遇同样的事。” 我们知道特朗普政府可以很小心眼，而且我认为他们会对任何处于这种局面的公司都感到抓狂，但我无法想象竞争对手会以完全相同的方式经历这一切。 难道原因仅仅是Dario Amodei不去白宫？他不给特朗普送礼？我的意思是，Sam Altman会与唐纳德·特朗普一起开新闻发布会。Sundar Pichai参加了就职典礼。 扎克伯格去了UFC格斗赛现场。 [笑] 值得关注的 AI 赢家马克·扎克伯格现身 UFC 比赛现场，试图用金钱买通成功之路。这背后真的只是性格冲突这么简单吗？ 部分报道正是这样解读的。这肯定是原因之一。有报道称，达里奥不知道如何与政府打交道，也不那么卑躬屈膝。他不会玩这套游戏。这就是一部分原因。 另一部分原因在于，特朗普政府自己也不太确定要如何监管 AI，而特朗普总统正被各方力量左右拉扯。有时他觉得 AI 需要加强监管。有时他又觉得应该减少监管。如果他正在和一位 AI 公司 CEO 交谈，他大概会表现成：“没错，你知道吗？我信任他们。我们很好。让他们放手去干吧。我们必须打败中国。” 而在其他情况下，他看到公众正处在一个相当反 AI 的时期。AI 民粹主义正在抬头，他就会说：“哦，好吧，其实普通人不喜欢 AI。也许我该管管它了。” 过去好几年里，我们在政府身上多次看到这种摇摆，但现在它体现在了 AI 监管上。目前根本没有什么章法可循。我认为 Anthropic 与政府的沟通也没什么帮助。如果你不在他们打电话的下一秒就接听，如果你不飞到白宫去共进晚餐，那么在这样一个很多时候似乎非常依赖关系的总统任期内，这很可能就有损你们之间的关系。 我会把这与上一届政府做对比，上届政府几乎毫无个性可言。拜登政府以缺乏个性和人情味著称，其风格非常技术官僚化、非常循规蹈矩，以至于人们常认为它缺乏人情味。 但拜登政府确实推出了一项行政命令，其中包含对前沿模型进行透明度审查和研究要求等内容。特朗普一上台，就把这些都废除了。他说：“我们不会监管这些公司。”而现在看来，我们似乎又要回到那个状态了。 如果你要发布一个超强模型，政府希望掌控它。当然，他们会用手中最粗暴的工具——出口管制，但我们也会回归更精细、更严格的方式来管理这些模型的部署、使用以及谁能使用它们。废除拜登框架是个错误吗？我们是否会回到那个框架？接下来会走向何方？ 我认为我们有可能回到那个框架，因为当时我采访了大量行业人士，涵盖了各种不同的观点，其中大多数人都认为拜登时代的行政令还不够。有些人认为那是一个不错的第一步，正因如此，我才会觉得我们可能回到那个框架——因为它并不被视为极端激进。 如果说有什么看法，那就是它被认为是在正确方向上迈出的良好第一步，但真的只是阶梯上的一级。这也是为什么我认为现任政府可能回到那个框架——因为它其实没那么远。但我得说，AI公司会游说反对，哪怕只是这么一小步。 他们确实这么做了，而且对此相当不满。 他们确实做了，而且反对得很深。但从我们刚才看到的行政令来看，我认为有可能回到那个框架，不过会更多一点自愿性质——当然，这类事情通常都会被稀释。就像他们一开始强势出击，然后跟一些AI的CEO们谈过之后，就说：“哦，好吧，那咱们稍微收一收。”所以老实说，谁知道呢。 但我之所以成为一名AI记者，是因为我觉得这个领域缺乏真正的监管，这甚至在ChatGPT出现之前就是如此。新闻业是照亮行业现状的一种方式。然而，六年过去了，我们并没有看到多少监管，而任何已经发生的监管也被撤销了。也许我们会朝着那个方向走回去，我确实看到我们在往某个方向走，但可能连第一级台阶都不如。 感觉上，行业似乎需要推动一种更审慎的监管方式，对吧？他们需要说：“这太混乱了。我们不能这样运作。不能每一款新模型都不得不在周末应付恐慌的电话。” 如果你想要更严格的审查流程，你会构建怎样的系统？是让公司把模型提交给政府，由政府来判断哪些危险、哪些不危险？还是更多基于行业自身？目前提出了哪些解决方案？ 这是个好问题。最近由于本届政府，并没有提出太多真正有力的解决方案。他们对监管一直采取轻触式态度，所以没人真正提出那些方案。现在情况可能有所变化，我们将会看到更健全的框架被提出来。 我只希望它们不是自愿性质的。AI 公司已经做了大量自愿披露。如果要监管，就真正去监管。关于监管应该轻触还是重手，有很多不同看法，但我确实认为自愿框架被稀释得很厉害。你明白我的意思吗？我们已经有这些了。 那么接下来呢？重要的是要记住公众的感受，因为归根结底，AI 真正影响的是他们。反 AI 的民粹主义正在抬头，人们感到不满。各地都在发生数据中心抗议活动。极端情况下，人们甚至攻击或至少试图袭击 AI 公司 CEO 的住处。这里存在大量不安，人们觉得自己正在被取代，觉得自己的工作正在被取代。我最近听了一场西雅图市议会的听证会，许多 AI 工程师作证说他们因为 AI 被裁员了，而他们本身就是工程师。 无论是 AI 领导者还是政府，往往都与公众对这种技术的感受相当脱节，这一点值得注意。我们可以看看在多大程度上会影响即将出台的监管。我对本届政府能出台多少监管不抱太高期望，因为他们很容易摇摆不定。吃一顿饭，事情就可能发生一点变化。平心而论，很多政客都是这样，但我们拭目以待。也许在这项行政命令的 60 天期限结束后，会出现一些让我惊讶的变化。 这其中最奇怪的一点是，Anthropic 本身恰恰是那些最积极推动监管、最频繁拉响警报、在所有公司中最具"末日倾向"的一家。Anthropic 的联合创始人之一杰克·克拉克最近发布了一项研究，他的结论是："我们认为，让世界拥有放缓或暂时暂停前沿人工智能发展的选项，以便社会结构和安全对齐研究能够跟上技术进步的步伐，这对世界是有益的。" Anthropic 一直站在最前线，宣称"哦，我们可能会毁灭所有人。天哪，我们应该停下。" 但他们也同样站在模型能力的最前沿。不论从哪个角度看，Mythos 都是当下存在的最强大的模型。Anthropic 这是在给自己惹麻烦吗？还是说这只是他们的一种营销策略，结果却适得其反了呢？ 这是两者兼而有之。营销话术确实在反噬。如果你说某样东西非常危险，然后某位研究人员又挖出了某项或许本不该被实现的能力，那么没错，人们肯定会吓坏了。这就是为什么我认为这种事最先会发生在任何人身上。而后续的发展走向，我则无法预见会按现在的局面演变。 但也确实有一部分原因在于他们自己——这最终反过来困扰了他们。在炒作方面，他们自己也要负一点责任，但我也认为他们在某种程度上正试图诚实地描述这项技术可能带来的风险。如果一个系统能够标记出我们使用的全球基础设施——比如你的银行系统或政府网站——中的高级别漏洞，而它恰好可能被恶意行为者利用，那将非常糟糕。如果它落入别有用心的人手中，确实，那是相当严重的。 这说到底还是沟通的问题。谈论风险很重要，也不应该轻描淡写，但如果你这样做了，然后自己又犯了个错误，或者发生了意想不到的事情，你就必须承担后果。这其中的确有很多值得细细品味的。同时我也认为，很多公司确实在淡化不同系统的风险。我们已经看到不少人工智能公司的CEO们，包括Anthropic的CEO，都在说工作岗位不会全部被取代，一切都会好起来的。 我对所有这些说法始终持高度怀疑态度。说到底，无论你谈论的是哪家 AI 公司，无论是 Anthropic 还是其他公司，它们都有不惜一切代价盈利赚钱的动机——尤其是当它们即将成为上市公司时。人们喜欢把 Anthropic 描绘成一种形象，把其他竞争对手描绘成另一种形象，但它们都在追求同一个目标，只是做法略有不同。 有没有这样一种可能：我们从一开始就把 AI 当作军事技术来对待，而公众只能得到该军事技术的削弱版？因为这似乎正是特朗普政府所处的风险框架。也就是说，这本质上是一种进攻性技术。我们可以用它来对付敌人，也可以用它来攻击银行。每个人都在担心其中的安全影响。 有没有这样一种世界：我们从这个起点出发，然后说，“要想向公众、向消费者部署，你必须大幅削减能力。我们不会向公众出售 F22 战斗机，但可以向公众出售福特猛禽。存在某种类似的版本，对吧？其中技术会大幅降级后提供给公众，而最前沿的技术则完全保留给军方使用。 几十年来我们经常看到这种情况，现在 Mythos 也开始出现了。Fable 是削弱版，而企业和政府能够访问更强大的版本。对此存在许多不同看法。OpenAI 目前最大的营销宣传之一就是：“哦，Anthropic 希望最强大的 AI 只掌握在精英手中，而我们想把它带给公众。” 现在市场上有一大波营销攻势。每个人都在利用一切手段来抹黑竞争对手，Anthropic 也不例外。这场竞赛正在急剧升温，以至于处于最前沿的 AI 公司不惜一切代价想要获胜。对某些公司来说，这是因为它们自认为是最优秀、最道德的赢家——正如我们在每部科幻或奇幻电影里看到的那样，这种想法往往会酿成大问题。“为了更伟大的利益”这套哲学，在故事里通常是由反派来实践的。 眼下正在上演一场激烈的竞赛，我完全同意 Jack Clark 的观点——或许放慢一点节奏是件好事。前提是各方能达成一致（这本身希望渺茫，尤其要让其他国家也同意更难）。但不可否认的是，我们开发这项技术的速度，远远快于我们思考其影响的速度，而且这种情况已经持续很久了。 我觉得这是《Decoder》节目历史上第一次有人直接把 Dario Amodei 比作灭霸，这太棒了。 （笑）公平地说，我说那话的时候脑子里想的其实是《哈利·波特》里的反派——格林德沃。 天哪。好吧。那么 Dario，如果你想上节目来回应这些指控，我们非常欢迎。 我还得说一句，不只是 Dario。所有 AI 公司的 CEO 都在说同样的话，所有人。这太疯狂了。 这事最终会走向何方？下一步是什么？本周正在举行会议。人们将在周四听到这个消息。有可能 Anthropic 只是重新回到市场上，也有可能不会。但在这之后，似乎每个人都想要一个流程。你觉得这事最终会如何收场？ 很难预测本届政府会如何行动——正如我们在供应链风险事件中看到的那样。尽管很多政府机构都是 Claude 的忠实用户，我原以为那件事最终会被推翻，但他们却和其他七家公司签了合约，然后说：“行了，我们搞定了。就算你们之前是 Claude 的粉丝，那也没关系，这里有七个其他选择给你们。” 现在谁也说不准。我确实认为那个针对外籍人士的规定会被撤销。我简直无法想象，在政府制造了这么多关于"美国AI必须赢"的舆论喧嚣、又有了1月9日Hegseth那份主张"不惜一切代价追求速度"的备忘录之后，他们还会继续执行那条规则。我认为这届政府如此专注于在AI领域取胜，他们绝不可能继续维持那条规定。我预计接下来几天这可能会变成一场个人性格博弈。Anthropic做出某种妥协，努力改善沟通方式。然后过几天这个规定就会被撤销。 但我也看到一些传言，说特朗普政府正试图收购Anthropic和OpenAI的股权——也就是所有权股份。所以这方面可能有多种不同的"解决方案"。我们拭目以待，但我可以肯定地说，目前这种局面不可能再持续超过几天了。整个行业对此都感到无比震惊。 Hayden，等这件事尘埃落定时，我们显然得尽快再请你来一次。非常感谢你参加本期Decoder节目。 非常感谢。 有问题或评论？请发送至 decoder@theverge.com。我们真的会阅读每一封邮件！