# Fable模型被美国临时关闭，AI安全管控时代来临 - 来源：Steve Yegge：Medium（RSS） - 作者：Steve Yegge - 发布时间：2026-06-19 11:31 - AIHOT 分数：74 - AIHOT 标记：精选 - AIHOT 链接：https://aihot.virxact.com/items/cmqkf2fp305pcslhiws2ydp1j - 原文链接：https://steve-yegge.medium.com/the-flat-curve-society-36c8b01eb33b ## 精选理由 Steve Yegge这篇判断很冷也很实：多数人能接触的模型智能将停滞，但背后指数仍在跑，SaaS反而因此安全。他抛出的AI素养三阶模型，对正头痛如何推动团队用AI的leader是现成框架。 ## AI 摘要 美国政府短暂关闭了Mythos类中的Fable模型，标志着AI模型已越过危险门槛。作者预测最多两三代模型后，超级智能将像核武器一样被管控，大多数Fortune 500企业无法访问或仅受控使用。开源模型落后前沿约七个月，且面临算力和政府锁定的双重壁垒。人类的“辨别地平线”使许多人感觉模型进步停止，但实际指数增长未停——只是用户缺少足够困难的问题。Fable类已能解决此前Opus 4.8无法完成的复杂任务（如React客户端），AI将彻底改变编程和知识工作，但多数人只能使用当前等级模型。 ## 正文 嗨，我们终于到了这一刻——在这部我们都在 X 上共同观看的电影里，模型智能已经变得危险。Dario 多年前就预测过，这种情况会在今年发生。随着 Fable 被美国政府（短暂）关闭，这是第一个非常明显的迹象，表明我们已经进入了危险水域。 这真的很可惜。我原本希望，在遇到一个构成安全问题的模型之前，我们还能再经历几代模型升级，强大到足以说服所有剩余的怀疑者。但 Mythos 级别（Fable 是他们上周发布的、护栏设置得很马虎的版本）已经让所有人都感到恐慌。 既然我们知道模型正在变得危险，我们就可以做一些推演了。 AI 竞赛不会放缓，AI 的能力将继续呈指数级增长。不幸的是，你们中的大多数人将再也看不到它的进展了。 我现在属于这样一个阵营：我们距离 AI 最终像核武器一样被管控，最多只差两到三代模型。只有少数人能够接触到超越今年我们所看到的模型级别的超级智能。据我所知，大多数财富 500 强公司将要么根本无法获得访问权限，要么只有公司内部的一小部分人能在严格管控下使用。而且这一切都将受到监督。 我认为，那些能够访问强大前沿模型的公司，会像自动售货机一样出售智能：你向他们发送一份软件规格说明或一个待解决的问题，他们的模型就在他们的服务器上，用你的钱为你实现它。而且，由于大多数公司并不想把他们的代码和问题发送给模型供应商，我认为世界将学会适应我们确实能够访问的那些模型。 被锁起来的超级智能 每个政府都会自行采取行动，限制访问权限。核武器之所以稀缺，是因为获取浓缩铀非常困难。人工智能正走向同样的道路，其瓶颈在于供应链——这正是政府能够真正管控的环节。中国会像美国政府一样，将超级智能封锁在自己的国境之内。如果中国最终占据了前沿领先地位，那只是改变了权力集中的地点，而不会改变我们未来所处世界的整体格局。 平庸模型的世界 我们中的许多人曾希望开源模型能让我们继续沿着指数曲线前进。它们落后于前沿模型大约七个月。但它们之所以能留在这条曲线上，是因为其训练所依赖的计算资源，正日益需要通过国际关系级别的复杂谈判才能获得。或许知识蒸馏或某种巧妙的点对点训练方案能让它们继续参与竞争。但要超越寓言级，它们就必须在硬件和软件供应链像核供应链一样被全面封锁的情况下做到这一点。而前沿实验室本身也将拒绝协助训练下一个危险的开源模型。 如果开源模型明年无论如何都能达到寓言级，那对世界来说是件好事。但开源模型不可能超越寓言级，尤其是在巨大的算力壁垒和政府封锁即将来临的情况下。 所以，再次强调，今天的模型差不多就是我们所能达到的最好水平了。 尽管在某些方面我觉得这令人失望，但我发现这仍然有很多值得高兴的积极面。因为今天的模型，特别是寓言级模型，已经足够好了。它们仍将彻底改变编程和知识工作。只是这不会是一帆风顺的。要实现转型，需要付出多年的大规模努力。 在本文的剩余部分，我将假设我们都能重新获得寓言级模型，并且甚至可能再获得一个更高等级的模型，之后进一步的进展将只有极少数人才能触及。 你们中的许多人一直预期人工智能的曲棍球棒式发展曲线很快就会趋于平缓，拒绝相信它确实处于一条可能导致其比人类聪明得多的指数曲线上。你们曾预测人工智能无法取代人类工程师。 从某种意义上说，你确实是对的。而且是非常实际的那种对。 实际上，在幕后，曲线根本没有变平；指数级增长仍将持续，你将能看到其外在的明显迹象，例如数据中心的扩张。 但对你而言，这条曲线会通过两种不同的现象，看起来像是变平了。 第一个原因我们已经提到过：他们会把最聪明（因此也最危险）的模型控制在我们手中之外。所以我们大多数人永远没有机会试用它们。如果我们用不了那些模型，它们当然也不会取代工程师。 另一个原因有点意思，我花了一段时间才意识到，它其实和第一个原因是同一回事，只是换了个说法。 平庸用户的世界 有些人已经在报告说，他们分不清 Opus 4.8 和 Fable 5 之间的区别。我一直把这种现象称为“辨别力地平线”：每个人类对模型智能都有一个上限，超过这个上限，所有模型感觉起来都差不多。 但实际上存在两个上限，它们都是理解当前状况的有益视角。 第一个我称之为需求地平线。它由你带来的最难问题所决定。如果你手头只有简单问题，它们就不会给更聪明的模型留出拉开差距的空间——输出看起来一样，因为问题本身从未让任何一个模型感到吃力。需求地平线就是，你之所以分不清两个模型，是因为你没有足够难的问题。 我把自己的难题称为“口袋评测”，并且一直在收集它们。每当我把一个项目交给模型，而它无法完成时，我就把这个项目加入我的口袋评测列表。然后每次新模型发布，都像过圣诞节一样。我会用我所有的口袋评测去测试它，看看它现在能解决哪些问题。 口袋评测 具体例子：没有任何 Opus 级别的模型能够为我的游戏编写 React 客户端；它实在太复杂、太琐碎了。Fable 则完全胜任了这项工作。这让我很容易看出它与 Opus 的区别。但我还有其他一些对 Fable 来说也过于困难的问题。当它处理我的工作时，我会热切地收集这些问题。你只需要有雄心，就能创建自己的口袋评测集。 所以我的需求边界极高，而且至少还会持续三到四代模型迭代——前提是我能设法接触到那个级别的智能，但这看起来不太可能。我并不抱太大希望。但至少，我能用我的评估方法判断它是否真的那么聪明。 需求边界本身是无害的，甚至有点恭维的意味：它只是说明你当前的工作还不够难。但有一天，当你遇到一个异常棘手的问题时，你的边界会瞬间拓宽——就像我的 React 客户端那样，你会亲眼看着便宜的模型在某项任务上笨手笨脚，而昂贵的模型却能完美搞定。 还有一种更暗黑的边界，我称之为真正的辨别边界。它不由你能提出的最难问题决定，而由你能判断的最难答案决定。越过这条可怕的分界线，你就无法判断模型是否正确，因为验证其工作本身已经超出了你的能力范围。 从我的“醉后狂言”时期开始，我就一直在琢磨这个问题——那时我写过文章，讨论面试一个比你聪明的人有多难。如果对方声称精通某个你一无所知的领域，你怎么知道他不是个骗子？你其实无法判断。 每个人都有辨别边界，就连 Dario 也不例外。当能力超过某个水平后，世上就没有活人能验证模型的输出了。 辨别边界 这让我们回到了原点——为什么他们开始封锁模型。你不能把一个无人能监督的智能引擎随便交出去。拥有它毫无意义，因为你不知道它是在帮你，还是把你引向悬崖。超人类意味着不可验证。 所以，安全人士看到的是潜在武器，而我们其他人看到的是一件无法有效监督的工具。在这两种情况下，你都不需要、也不想要更强大的模型。你想要的是更安全的那个，哪怕它的能力稍弱。 公司也同时面临这两种边界。对很多公司来说，Fable 已经超出了需求边界——它能够处理它们遇到的所有问题，更聪明的模型也不会改变任何它们能衡量的指标。对于难度更高的公司而言，制约因素是辨别边界：AI 产出的工作无人能够评判。这是一个糟糕的结果，除非你打算把业务完全交给 AI。 这一切的结果是，对我们大多数人来说，曲线正在趋于平缓。我认为商品化智能很快就会停止指数级增长，或者至少，表面看起来会是这样，而我们所有人都会按照这个假设来行事。 我以前从未花太多时间考虑智能曲线会趋于平缓的可能性。但现在这似乎正在发生，让我们来看看这对行业的一些显而易见的影响。 SaaS 回来了，宝贝 显然，重建金字塔顶层的所有 SaaS 成本太高了。是的，会有模型能够做到这一点，但访问权限和成本都将令人望而却步。 事实上，在过去一年的大部分时间里，SaaS 一直处于困境，受到内部重写威胁和 Claude 接管一切的恐惧的四面夹击，但在过去一个月里，它自己就强势反弹了。 然后，各公司通过惨痛教训了解了 token 效率，大型企业在几个月内就烧光了全年的预算。几个月前，每个人都在计划告诉他们的 CFO，可以取消一堆 SaaS 订阅，把依赖项迁移到内部。现在不行了。如今，购买与构建的决策已严重倾向于购买。如果你足够讨厌当前的 SaaS，那么当然，你可能有动力用 AI 重写它。但购买 SaaS 的成本是可预测的，而且通常已在预算之内，而用氛围编码来替代则可能是一场昂贵的赌博。 如果我们看到可访问的模型能力进入平台期，那么我们对 AI 在 SaaS 中的其他梦想也会破灭：不仅仅是取代它，还包括通过智能体行为和监控来改造它。如今的模型还不足以取代一个人（可越狱、易混淆等），所以你无法简单地将一个智能体替换成 SRE 或训练有素的客服代表。而那些能够可靠地取代人类的模型，可能又太危险，不适合交给大多数人。 所以，SaaS 看起来可能没问题，即使没有智能体行为。它只需要为你节省内部构建和维护的成本。 SaaS 仍然有其问题：用户补贴着他们不用的那 80% 的功能，资金从本地经济中被抽走以滋养硅谷，劣化现象正沿着金字塔向上蔓延。但它本质上仍然是关于知识的结晶。一群人构建出那些棘手的、你自己不想去做的复杂东西，然后租给你使用。那些强大到足以“轻松”取代其中大部分工作的 AI 模型，要么无法获取，要么贵得令人望而却步。 在我看来，SaaS 模式将会继续存在。 AI 素养入门 如今的模型虽然能力相当强，但使用起来仍然非常困难。即使是 Fable 可能也难以应对大型单体应用和其他复杂的遗留代码结构。很难持续达到高质量的标准。当然，效率也是一个巨大的问题。 我一直希望模型能足够聪明，以至于人们不需要太多培训就能使用它们。但对于如今的模型，你不能指望人们天生就具备 AI 素养。他们需要帮助才能使用当今的编码智能体和工具框架。 在下一节中，我将给出一个相当精确且可衡量的 AI 素养定义。这并非我的原创，但我认为它足以满足你我的规划需求。 不过，首先，为什么你的员工是否具备 AI 素养很重要？答案有点复杂，但归结为两个因素。一是你的公司将不得不转向使用 AI。另一个是，你所有的员工都对 AI 感到焦虑。这种紧张局势正在全球所有公司中真实上演。 转向 AI 至少会改变每个人的工作一点点，并且很可能会极大地改变你公司的形态。这反过来又会加剧焦虑，形成一个循环。 如果你在推动公司变革时，没有首先以一种量化且充满深度共情的方式解决 AI 素养问题，那么你就是在助长焦虑、怨恨和抵触情绪。你的组织将会抗拒变革。 AI 应用是 2026–2027 年关键的文化挑战。如果你能设法让（持抵触态度的）员工跨过这道坎，真正激发他们对利用 AI 加速自身工作的热情，那么奇迹就会发生。他们会自动开始共同重塑你的业务流程，朝着使用受监督的智能体工作流方向演进。 我在各处都看到了这种情况，但具体来说，我和 Gene 在四月份于 Arkana Labs 亲眼目睹了这一点，当时是在他们的工程副总裁 Owen Parker 的指导下。Arkana 提供世界一流的夜间肾病诊断服务，并且拥有完全独特的业务流程。但这些流程都可以通过 AI 在各个环节得到加速。鉴于 Arkana 在文化上对快速、准确交付的执着，员工们自身也对这些机会感到兴奋，并积极推动探索智能体可能实现的功能。 在见识了足够多的案例后，我坚持认为，一旦大多数人“理解”了 AI，你只需要引导他们，他们就会开始为你的团队广泛地做正确的事情。 相反，只要你的团队成员仍然不熟悉 AI，他们就会抵制 AI。这意味着，在你带领组织跨过这个难关之前，你将面临阻力、焦虑，甚至可能出现士气问题。 那么，我们该如何解决这个问题？我们如何让人们“理解”AI？ 事实证明，Netflix 已经给了我们答案。谢谢你，Netflix！ AI 素养：初级学习小组 氛围编码工作坊 我在四月份观看了一场来自 Ezra Savard 的令人震撼的演讲，他从十二月到三月在 Netflix 进行了一项培训研究/实验。他在 Gene Kim 于圣何塞举办的 AI 峰会上做了这个演讲。该研究的目标是培训 Netflix 的工程师进行智能体编码，并衡量其影响。 Ezra 的演讲全程严谨且附有免责声明（例如针对轻微的选择偏差），但他们相当确信结果在方向上是对的，所以我就不赘述那些细节了。 请注意，我会将这一概念称为“AI 素养”，但这是我自己的说法，并非埃兹拉的原话，他在演讲中从未提及“素养”一词。他谈论的是从非用户到用户，再到高级用户的旅程。但AI正在成为现代知识工作的一项基础技能，因此我将在本文中论证，我们正在讨论一种全新的素养形式。 埃兹拉分享的第一个重大发现是，他们找到了三个群体，我将其称为AI素养的初级水平。埃兹拉根据他们在“合格”使用AI的日子里（即大量使用AI的日子）的平均模型token消耗量来划分这些群体。他们每周至少需要3天达到该标准才能被归入相应群体。 以下是根据消耗量划分的三个初级群体： 0M tokens/天：在日常工作中不使用编码智能体的开发者 4M tokens/天：在整个工作日内同步使用单个智能体 12M-15M tokens/天：让2到4个智能体在无人监控的情况下工作 所以：无智能体，然后是单智能体，再到多智能体。我认为这是对基础AI素养的一个可靠的工作定义。如果你的整个组织至少没有达到单智能体素养水平，那么他们将会在引入更多AI时与你对抗，即使只是消极抵抗。 埃兹拉分享说，他课程中的一些高级用户毕业生确实消耗了更高的量，每天超过50M。 但他也警告说，超过每天15M这个门槛后，模型token消耗量就不再是一个有价值的衡量指标了，因为到那时人们已经足够聪明，会想出各种理由来消耗token。（在那之后，你就需要转而衡量成果，我将在下文讨论这一点。） 然而，精彩之处在于，在此之前（每天15M tokens），粗略地衡量员工的模型token消耗量，可以为你提供有力的洞察，了解你的组织在AI素养方面处于什么位置，以及还有多少培训工作要做。 幸运的是，埃兹拉在这方面有好消息告诉你：人们可以在5小时内跨越群体。在正确的培训环境下，人们从AI文盲转变为AI精通者所需的时间就是这么多。而且他们会保持这种状态。这就像拨动一个开关。96%的受训者在课程结束后的六周内仍保持在第二个群体中，且没有表现出放缓的迹象。 你问什么样的训练设置才合适？埃兹拉的团队花了大量精力来打磨这套方案。训练必须按团队分批进行，每批 5 到 10 人，包括他们的经理。经理必须在正常工作时间将团队纳入，作为“受认可的”公司时间。受训者必须带上自己的实际工作，而讲师会帮助他们学习如何借助智能体来完成这些工作。 他们发现，如果在任何环节偷工减料——比如缩短课程时长、扩大听课人数、允许个人自愿报名——就得不到同样的效果。训练成果无法“扎根”。 至于第三批学员：一旦某个经理的团队全员都成了单智能体用户，他们就可以让团队报名参加多智能体课程。这又是 5 个小时的课程，教给他们驾驭多个异步智能体所需的额外技能，同时保持高质量标准。这门课程同样获得了很高的接受度，绝大多数人开始使用多智能体工作并坚持了下来。 因此，每位员工大约需要 5 小时的集中训练才能达到基本熟练水平。经过几周的实践后，再花 5 小时就能让他们成为高级用户。 至于影响，埃兹拉报告了一些令人惊讶的发现，比如使用智能体编程的开发者所生成的代码量存在巨大差异。但深入挖掘后，他们发现这完全归因于这些开发者额外编写的测试代码。总体而言，他们发现这门课程对参训者的生产力产生了显著的积极影响。 如果你想在公司内部开启关于向 AI 转型的对话，那么我强烈建议你从 AI 素养评估开始，然后至少让每个人都接受单智能体阶段的训练。 高级阶段 帮助人们克服恐惧、不确定性和怀疑的心理障碍，并教会他们通过消耗模型 token 来加速自身工作，这能解决你的第一个文化问题。而且，这将在你讨论如何引入 AI 时极大地帮助你，而不会遇到太多阻力。 Netflix 为我们提供了一种应对 FUD 高峰的优化方案。你可以培训一批“配菜厨师”级别的讲师，由他们来教授入门课程。埃兹拉告诉我，他们是从我们的书开始入手的，这还挺酷的。不过具体用什么课程内容其实并不重要；你可以按自己喜欢的方式去教。然后你就能让所有人都通过这门课，每次五小时、十个人一批。 一旦你教会了所有人如何消耗 token，第二个文化问题就浮现出来了，那就是教会人们如何不消耗 token。Token 效率是一个相当高级的话题。模型可能把你带偏的方式非常多，而最高效的智能体编程者，会专注于在给定的 token 预算内最大化自己的产出。 这时候我应该分享一个皮埃尔·拉茨讲的笑话。他是 Genetec（全球最大的物理安防监控公司之一）的创始人兼 CEO，非常聪明。他更喜欢手写代码，当我描述这些度量方式是如何运作时，他揶揄地评论道：“这么说来，不是我不用 AI，只是我 token 效率极高罢了。” 这是个有趣的笑话，但其中也蕴含着一个道理：如果你能轻松用手工完成一项任务，那就用手工去做！久而久之，只要多动动脑筋，你就能省下大量 token。输入 `!git push` 而不是让智能体去做这件事，这个习惯每次推送大概能帮你平均省下 10 万 token。 你知道那个钟形曲线的梗图吗？最底端是穴居人，最顶端是绝地大师，而他们做着同样的事情。在这里，绝地大师所精通的初学者行为，就是低 token 消耗。 从初学者到大师的旅程 Token 消耗量只在上升阶段标志着熟练程度。这是一项你逐步构建的技能。但随后情况会反转，你需要开始衡量的东西变成了 token 浪费。如何将其最小化，则是另一套技能。 你会发现，你那些初学者群体简直就是 token 饕餮，但这没关系。鼓励他们去探索和学习。他们需要先掌握“消耗”这项技能，然后才能专注于“节省”。 你会发现，人们并不会自动知道如何节省模型 token。他们可能在对话中已经用掉了 20 万 token，然后问 AI 现在几点了。唉！或者问某个特定文件是否存在于他们的主目录中。这也是一项需要训练的技能。 所以，在某个时候，你可能需要开设第三门培训课程，内容是关于效率技巧和良好的 token 使用习惯。 然后，给你那些刚掌握 AI 技能的人设定预算。让他们通过实际成果来争取预算增加。无论你如何操作，衡量成果都将变得至关重要，这样你才能区分出哪些是有效的建设者，哪些是徒有其表的建设者。 我们已经讨论了初级素养群体（基于支出）和高级群体（效率、浪费管理）。在 AI 素养曲线的顶端，你的思考会变得更具战略性。你关心的是在实现预期成果的同时，节省大量的模型 token。 每个人遇到的第一个例子就是“购买 vs 自建”。你是让你的工程师尝试重写随机的 SaaS 产品，还是直接续约并沿用已知的支出？你必须开始对智能体项目的分配采取战略性思考。 你面临的另一个有趣挑战是：你将如何把每个任务路由到能够处理它的最“笨”的模型？你需要能够用智能层级来标记工作，并构建一个路由器。这个路由器就是被编码为基础设施的辨识能力边界。大多数工作都处于这条线以下，交给廉价模型处理，偶尔有任务超出这条线，就会被升级到昂贵的层级。 在最高层面上，AI 素养变成了一种以最低成本实现卓越成果的艺术。 一门手艺需要一个平台期 我们正在目睹智能的“平台期”。这是人为的：指数级的增长仍在幕后继续，但被挡在了你的视线之外。在某个时候，即使你能看到它，你也无法分辨它是否在变得更好。智能曲线就像地球是圆的一样真实，但站在你的位置看，它就像地球表面一样平坦。欢迎来到“平坦曲线协会”。 Mythos 这一届毕业生将成为大众在能力与风险之间普遍接受的权衡方案。我们将看到针对边缘案例行为进行修补的渐进式更新，但不会再出现过去几年那种飞跃式的进步。 平台期并非坏事。平台期让我们能够扎营并开始建设。我们一直处于不稳定的境地。想想看，最近作为初创公司创始人有多难，你构建的一切都会随着每个模型版本的发布而变得过时。这种情况终于开始放缓，这将为我们提供坚实的基础。 我们面前有一个工程问题。Opus 和 Fable 虽然出色，但也有其局限性。我们都需要学习任务分解和拆分软件单体架构的艺术，使它们保持在这些限制之内。我们仍然需要工程师和工程能力。我们将拥有超级智能的助手，但整体格局与今天仍将非常相似。 我有点喜欢即将到来的平台期。稳定性感觉像是用这些超级智能助手构建软件这门新手艺的先决条件。这是一门只会随着模型能力越弱而变得越困难、越有价值的手艺。Sonnet 级别和 Opus 级别的模型将在未来几年内保持相关性，因为它们能节省成本，并且即使前沿模型继续发展，它们也仍然广泛可用。那些会让今天来之不易的工艺技术过时的模型，显然对我们来说过于危险，无法交付。 世界目前正在尝试建立 24x7 全天候自主智能体，而我们今天在这方面面临的困难，似乎明天仍将存在。目前正在进行一项庞大的工程工作，以构建能够使当今模型运营当今大型企业的控制平面。这同样是一门手艺，或者至少，它是行业工具集的一部分。 培训你的“平坦曲线论者” 这里的关键要点（如果你是一家 SaaS 供应商，先别急着切腹自尽）是，我们面前有一个巨大的 AI 培训和素养问题。但它是可以解决的。只是需要时间和努力。 我们现有的模型，以及今年即将推出的模型，都无法一次性搞定你们《财富》100强企业的全部代码库。它们能完成令人惊叹的事情，但仍然需要成年人类进行监督。 这意味着你们需要工程师。我们之前聊到的所有酷炫趋势——即兴组建的“双披萨团队”形成、2到3人团队成为最佳规模、以及角色开始模糊化（或者至少是彼此沟通更多）——很可能会持续下去。但每个人都需要培训、时间、耐心和精心的预算管理。 AI 素养并非免费得来。你唯一能免费得到的是 AI 焦虑。但教人们如何消耗模型 token 还算容易。教他们节省模型 token 呢？嗯，那才是新的“元技能”。祝你好运。先确保他们能按 Pierre 的方式做到这一点。 这就是我今天要分享的全部内容。希望你喜欢。月底在旧金山举行的 AI 工程师大会上见！ 按回车键或点击查看完整尺寸图片 露营地工艺 作者：Steve Yegge Steve Yegge 曾任职于 Geoworks、亚马逊、谷歌、Grab 和 Sourcegraph，拥有超过 30 年的科技行业经验，编程总时长 40 年。