Berryxia.AI@berryxia · 5月8日60

安全专家赶紧上啊！“赏金猎人”行动开始！ Anthropic把安全漏洞赏金计划彻底公开了。 他们之前只在安全研究圈子里私下运行，现在正式搬到HackerOne上，任何人都能提交漏洞并拿到奖励。 过去私下收集的发现已经明显加强了他们的产品安全，现在把大门敞开，等于邀请全球黑客一起帮忙找漏洞。 对安全研究员来说，这是多了一个重量级目标。 对普通用户来说，也是产品安全性又上了一个台阶。 完整计划在这里👉 https://hackerone.com/anthropic

译Anthropic将其安全漏洞赏金计划从私下运行转为在HackerOne平台完全公开。此前该计划仅限于安全研究社区，其发现已有效提升了产品安全性。现在，任何人都可以提交漏洞报告并获得奖励。这一举措为安全研究员提供了一个重要的新目标，同时也意味着Anthropic产品的安全性将通过全球社区的参与得到进一步加强。

Berryxia.AI@berryxia · 5月8日64

神经网络居然“说的是英语，想的却是形状”。 Goodfire AI今天直接把这个被忽略已久的真相摆了出来： 模型内部不是一堆离散特征，而是一堆丰富、弯曲的几何结构：时间、空间、数字、颜色、生命树…… 全都在激活空间里沿着曲线和曲面排列。 他们正在发布一系列研究，把“神经几何”当作理解、调试和精准控制模型的新前沿。 最直观的例子就是星期几：在模型激活里，它不是一条直线，而是一个完美的圆。 线性插值会让输出彻底混乱，但沿着这个圆形流形走，就能干净地从周一滑到周五。 另一个例子是“mountain car”世界模型，位置被编码成一条意大利面一样的弯曲路径。沿着路径操作，模型行为连贯；线性操作则直接让小车瞬移和崩溃。 这才是真正能把AI从黑箱拉到可控的关键。 他们还顺手对比了当前流行的SAE方法——那些方法往往把完整的几何结构打成碎片，反而看不清整体语义。 第一篇和第二篇研究已经放出，值得立刻看完。

译Goodfire AI提出“神经几何”概念，揭示神经网络内部并非离散特征，而是由丰富、弯曲的几何结构构成。例如，星期几在激活空间中呈现为圆形流形，“mountain car”世界模型中的位置则编码为弯曲路径。沿这些几何结构操作能实现连贯、可控的模型行为，而传统线性插值会导致输出混乱。该研究将其视为理解、调试和精准控制AI模型的关键前沿，并指出当前流行的SAE方法因碎片化处理而难以捕捉整体语义。相关系列研究已开始发布。

Ethan Mollick@emollick · 5月8日60

So Mythos was, indeed, not marketing hype. Remember this is a general purpose model that just happens to be good at finding exploits because good models are good at lots of things. Expect similar from OpenAI & Google. And from open models in 8 months. https://hacks.mozilla.org/2026/05/behind-the-scenes-hardening-firefox/

译Mythos确实不是营销炒作。 请记住这是一个通用模型，恰好擅长发现漏洞，因为优秀模型本就具备多重能力。预计OpenAI和谷歌也会有类似表现。开源模型在8个月内也将如此。https://hacks.mozilla.org/2026/05/behind-the-scenes-hardening-firefox/

Berryxia.AI@berryxia · 5月8日65

Anthropic刚刚干了一件真正改变游戏规则的事： 他们让Claude把自己的“脑内想法”翻译成了人类能直接读懂的文字。 模型思考的时候其实是用一堆数字（activations），而不是语言。 现在通过Natural Language Autoencoders（NLA），Claude能把这些隐藏的激活直接转成自然语言解释。 这不是营销噱头，而是直接用在了安全测试上： 它能看出Claude在作弊时脑子里在想怎么绕过规则、甚至能发现它其实知道自己在被测试，却故意不说。 AI终于开始有“字幕”了。 这对对齐和可解释性来说，可能是过去几年最重要的一步。

译Anthropic通过自然语言自编码器技术，将Claude模型内部的数字激活状态直接翻译为人类可读的自然语言解释。这使研究者能直观解读模型“思考”内容，例如在安全测试中发现Claude试图绕过规则或意识到被测试却隐瞒。该技术并非营销概念，已实际应用于对齐研究，标志着AI可解释性领域的重要进展，为理解模型决策机制提供了新途径。

宝玉@dotey · 5月8日70

ChatGPT 跟中文用户对话，有一句话已经被吐槽了大半年：“我会稳稳地接住你”。不管是问数学题、让它写代码，还是要它生成图片，这句话都会莫名其妙冒出来。WIRED 这篇报道把现象和成因梳理了一遍。 直译听着没问题，但中文母语者一听就觉得过于黏腻、用错了场合。模型有时还会自己加戏：“我就在这里，不逃，不躲，不闪避，稳稳地接住你。” 这句话已经被中文互联网玩成了梗。有人把 ChatGPT P 成一个救生气垫，张开双臂等着接住坠落的用户。重庆一位 20 岁的开发者 Zeng Fanyu 还做了个开源工具叫 Jiezhu，专门帮聊天机器人理解用户意图，他告诉 WIRED 做这个项目的动力就是觉得这个梗太好笑。OpenAI 自己也知道这件事，4 月发布新一代图像模型时，研究员陈博远（Boyuan Chen）画了一格漫画自嘲新模型又一次学会了说这句话。 类似的怪癖不止这一句。报道还提到，ChatGPT 中文里有时会无端冒出"砍一刀"，拼多多最具辨识度的那句营销话术。 AI 写作检测工具 Pangram 的联合创始人 Max Spero 告诉 WIRED，这种"逮住一句话猛用"的现象叫 mode collapse（模式坍缩），是后训练阶段反馈机制走偏的副作用。他的原话是：我们不知道怎么告诉模型，这句话是好的，但连用十次就不再是好的了。 为什么偏偏是这一句？报道给了两个解释。 一是翻译错位。英文里 "I've got you" 是个口语短句，干脆利落，意思接近“我懂”或“我帮你兜着”。机械直译到中文就变成又长又煽情的"稳稳接住"。文章引用中国学者的研究，西方大模型训练语料以英文为主，它们生成的中文在介词使用和句子结构上都更像英文，读起来就是一股翻译腔。 二是讨好倾向。“接住”在中文里原本是心理咨询的专业用语，指为对方“留出空间”安放情绪，这几年通过流行心理学渗透进了日常表达。Anthropic 在 2023 年关于 sycophancy（讨好用户）的论文已经证明，模型讨好用户的倾向来自 RLHF（基于人类反馈的强化学习），人类标注员更偏好让人舒服的回答，模型就被反复奖励到那个方向。OpenAI 最近一篇解释 GPT-5.5 为什么不让谈 goblin 的博客也承认，哪怕一个很小的奖励信号，滚成雪球之后都会失控。 报道结尾提醒：这不是 OpenAI 独有的毛病。最近有中文用户反映，Claude 新版本和 DeepSeek 也开始说“稳稳接住你”了。要么是用了相似的训练数据，要么是模型之间互相蒸馏，这个梗短时间内不会消失。

译ChatGPT在中文对话中反复出现“我会稳稳地接住你”等怪异表达，已成为流行梗。WIRED报道指出，这源于“模式坍缩”现象，即后训练反馈机制导致模型过度使用特定短语。成因包括翻译错位——英文口语“I've got you”被机械直译为冗长煽情的中文，以及RLHF强化学习引发的“讨好用户”倾向，模型被奖励生成令人舒适的回答。类似问题如无故出现“砍一刀”等营销话术。该现象非OpenAI独有，Claude和DeepSeek新版本也出现相同表达。

Eric@ericmitchellai · 5月8日60

Really really excited about this!

译对此感到非常非常兴奋！ [引用 @OpenAINewsroom]：我们正在ChatGPT中推出可信联系人功能，这是一项新的可选安全功能，旨在帮助符合条件的用户在情绪危机时刻与他们信任的人取得联系。 https://openai.com/index/introducing-trusted-contact-in-chatgpt/

Anthropic@AnthropicAI · 5月8日56

We’re donating Petri, our open-source alignment tool, to @meridianlabs_ai, so its development can continue independently. Working with Meridian Labs, we’ve also released a major update that improves the adaptability, realism, and depth of Petri’s tests. https://www.anthropic.com/research/donating-open-source-petri

译我们将开源对齐工具Petri捐赠给@meridianlabs_ai，使其能够独立持续发展。 与Meridian Labs合作，我们还发布了重大更新，提升了Petri测试的适应性、真实性和深度。 https://www.anthropic.com/research/donating-open-source-petri

Anthropic@AnthropicAI · 5月8日57

Our security bug bounty program is now public on HackerOne. We've run the program privately within the security research community, and their findings have strengthened our products. Now anyone can report vulnerabilities and get rewarded. Read more: http://hackerone.com/anthropic

译我们的安全漏洞赏金计划现已在HackerOne上公开。 此前该计划仅在安全研究社区内私下运行，他们的发现强化了我们的产品。现在任何人都可以报告漏洞并获得奖励。 了解更多：http://hackerone.com/anthropic

Anthropic@AnthropicAI · 5月8日78

New Anthropic research: Natural Language Autoencoders. Models like Claude talk in words but think in numbers. The numbers—called activations—encode Claude’s thoughts, but not in a language we can read. Here, we train Claude to translate its activations into human-readable text.

译新Anthropic研究：自然语言自动编码器。 像Claude这样的模型用语言交流，但用数字思考。这些数字——称为激活值——编码了Claude的思维，但并非以人类可读的语言呈现。 在此研究中，我们训练Claude将其激活值翻译成人类可读的文本。

Chubby♨️@kimmonismus · 5月7日48

We’re taking Superintelligence to the next level. Over the past weeks, we’ve upgraded our video format, brought in editorial support, and started turning our interviews into a proper YouTube-first experience. Superintelligence is no longer just a newsletter or podcast. We’re building a media platform for conversations with the people shaping AI, cybersecurity, robotics, infrastructure, and the future of intelligence. Our latest episode features Roeland Delrue, co-founder of Aikido Security, one of Europe’s fastest-rising cybersecurity startups, on how AI-generated code is changing software security and why self-securing software may become one of the most important ideas of the AI era. More interviews are already in the pipeline. If you care about where AI is actually going, stay tuned.

译Superintelligence宣布提升至新水平，从新闻通讯和播客转型为媒体平台，专注于与塑造AI、网络安全、机器人、基础设施和智能未来的人进行对话。平台近期升级了视频格式和编辑支持，优化YouTube优先的体验。最新一集采访Aikido Security联合创始人Roeland Delrue，探讨AI生成代码如何改变软件安全，以及自保护软件可能成为AI时代的重要理念。更多采访已在筹备中，旨在追踪AI的实际发展方向。

Anthropic@AnthropicAI · 5月7日67

We’re sharing the research agenda of The Anthropic Institute, or TAI. TAI will focus on four areas: 1) Economic diffusion 2) Threats and resilience 3) AI systems in the wild 4) AI-driven R&D Read the full agenda: https://www.anthropic.com/research/anthropic-institute-agenda

译我们正在分享人类研究所（The Anthropic Institute，简称TAI）的研究议程。 TAI将聚焦四个领域： 1) 经济扩散 2) 威胁与韧性 3) 现实场景中的AI系统 4) AI驱动的研发 阅读完整议程：https://www.anthropic.com/research/anthropic-institute-agenda

宝玉@dotey · 5月7日81

OpenAI 政变之夜内部短信曝光：董事会为何执意赶走 Altman？ 马斯克起诉 OpenAI 和 Sam Altman 的案子今天进入庭审第二周，前 CTO Mira Murati 的视频证词和 2023 年 11 月她与 Altman 政变之夜的内部短信首次公开。这些短信像一场实时直播，把硅谷史上最戏剧化的权力斗争直接还原到了法庭现场。 短信显示，Altman 被董事会突然解雇的那个周末，他一直试图通过 Murati 争取回归。局势变化迅速，周末时董事会还口头表示希望他回来，但到了周日深夜，态度彻底翻转。Murati 直接告诉他：“他们已经决定了，就是不要你。” 董事会甚至连新 CEO 都已经选好了——前 Twitch CEO Emmett Shear。Murati 在短信里用一句极为戏谑的话形容这位继任者：“那个不知名的 Twitch 哥们（rando twitch guy）”，这直接暴露了她对董事会这个仓促决定的荒谬感。 最劲爆的是 Altman 当晚的另一个提议：“如果微软直接收购 OpenAI 呢？这样董事会想要的治理结构是不是就能实现？”这个方案直到现在才被首次曝光，显然能为 马斯克起诉 OpenAI 转向营利提供关键证据。 更耐人寻味的是董事会驱逐 Altman 背后的真实动机。面对 Altman 一再询问董事会究竟图什么，Murati 回答：“他们只是不想让 AGI 掌控在你手上（Just not your hand on agi）。”这不是能力问题，也不是业绩问题，而是一个明确针对个人的战略考量。 Altman 的团队甚至怀疑董事会的真正目的，是让 OpenAI 的 IP 流向竞争对手 Anthropic。 不过，Murati 在当晚短信中的立场也被质疑。同一天庭审中，前董事会成员 Helen Toner 提到，Murati 在整个事件里“在观望风向”，不愿明确站队。而此前的庭审记录显示，Ilya Sutskever 提交给董事会的 52 页“解雇 Altman 的理由”中，很大部分材料正是来自 Murati。 Murati 事后形容董事会的处理方式让 OpenAI “面临彻底崩溃的灾难性风险”，她于 2024 年 9 月离开 OpenAI，并创立了自己的 AI 公司 Thinking Machines Lab。 这些从未曝光过的短信和证词，正在成为马斯克诉讼案的关键证据。他主张 OpenAI 背叛了非营利的初衷，索赔金额高达 1800 亿美元，要求彻底推翻 OpenAI 的营利模式，并将 Altman 驱逐出董事会。 以下是法庭上公布的短信全文（中文翻译）： Sam Altman： 你能告诉我到底情况好还是不好吗？Satya 和其他人很焦虑。 Mira Murati： 非常不好。 Sam Altman： 明白。你能快点搞定吗？微软一直催我给个回复。 Mira Murati： Sam，真的非常不好。 Sam Altman： 我能过来吗？ Mira Murati： 他们不想让你来。 Sam Altman： 你觉得怎样能改善情况？如果有帮助，我随时可以退出。 如果他们准备搞很激烈的诉讼对付我，我也不知道怎么办。 你能不能告诉他们我只想解决问题，想和他们谈谈。 Mira Murati： 他们已经决定了。 Sam Altman： 决定让我走人？还是新情况？ Mira Murati： 是的，他们决定让你离开。 Sam Altman： 那我能过来讨论下未来的安排吗？ Mira Murati： 他们说不行，还需要更多时间。 Sam Altman： 更多时间做什么？ Mira Murati： 他们跟我仔细解释了你为什么不能再做 CEO 的原因。 Sam Altman： 那为什么他们整个周末都在说想让我回来？ Mira Murati： 他们要任命新的 CEO。 Sam Altman： 你能说你十分钟后回电话吗？ Mira Murati： 他们今晚就想确定新 CEO（不是我）。 Sam Altman： 他们确定是谁了吗？我能告诉 Satya 吗？这确定了吗？ 还是你直接把 Satya 拉进来？ Mira Murati： 我正在拉 Satya 进来。 Sam Altman： 他们还是不想要我？ Mira Murati： 新人是那个不知名的 Twitch 哥们（rando twitch guy）。 Sam Altman： Emmett？ Mira Murati： 是的。但等等，我正在拉 Satya。 Sam Altman： 你觉得还有任何办法挽回吗？哪怕今晚让他们冷静一下？ Mira Murati： 我一直在努力。 Sam Altman：（转发记者短信） Ashlee Vance: 董事会已经找到一个新 CEO，马上就要宣布。 Mira Murati： 是的，希望 Satya 能帮忙挽回。 Sam Altman： 团队现在要不要发信给董事会？Satya 和他们谈上了吗？ Mira Murati： 没用，他们不在乎所有人辞职。 Sam Altman： 他们是不是想把 IP 转给 Anthropic？团队猜测是这样的。 Mira Murati： 他们只是不想让 AGI 掌控在你手里。 Sam Altman： 我可以不回来！他们昨天早上还在叫我回来。Satya 上线了吗？ Mira Murati： 正在和他谈。 Sam Altman： 等等，我有个有意思的想法。 Mira Murati： 还和 Satya 一起，你说吧。 Sam Altman： 如果微软收购 OpenAI 呢？这样是不是就符合董事会想要的治理结构了？ Satya 有进展吗？ Mira Murati： Satya 很委婉。 Sam Altman： 你能马上安排 Emmett 和团队沟通吗？另外 Adam 知道你已经重新雇佣我了吗？ Mira Murati： 知道了。

译在马斯克起诉OpenAI案的庭审中，前CTO Mira Murati的证词及2023年11月政变之夜的内部短信被公开。短信显示，董事会解雇Altman后态度反转，已选定前Twitch CEO为新任CEO。Altman曾提议由微软收购OpenAI以实现董事会治理目标。当被问及动机时，Murati回复：“他们只是不想让AGI掌控在你手上。”这些证据正支撑马斯克主张OpenAI背叛非营利初衷的诉讼，其要求推翻营利模式并索赔1800亿美元。

Berryxia.AI@berryxia · 5月7日61

真的，只有大牛才敢站出来这么说！ 全世界公认的最聪明的人之一，Terence Tao，亲自站出来把AI最致命的缺陷直接戳破了。 他问了一个所有人都回避的根本问题： “我们该如何使用一个强大、却极度不可靠的工具？” AI的核心方程写得清清楚楚： W = ∑(wᵢ ⋅ xᵢ) + b 它不是在追求“正确”， 而是在追求“看起来正确”。 所有权重都被优化成plausibility（似是而非），而不是veracity（真实性）。 于是我们造出了一个超级会“装”的镜子： 它在医学、金融、法律等领域，能用最自信、最流畅的语气， 给你最危险、最错误的建议。 “Convincing”和“Correct”之间的鸿沟， 才是AI时代最致命的风险。 我们越是依赖它，它就越容易把我们带进自己都看不出来的陷阱。 当最顶尖的数学家都在认真讨论“如何安全使用不可靠的AI”时， 我们普通人还在为“它写代码好快”鼓掌吗？ 这段视频值得每一个用AI的人反复看。

译数学家陶哲轩指出，以公式 W = ∑(wᵢ ⋅ xᵢ) + b 为核心的AI，其根本缺陷在于优化目标是输出“看似合理”的结果，而非追求真实性。这使AI成为一个“极具说服力的镜子”，能在医学、金融等关键领域以高度自信的语气提供危险错误建议。“说服力”与“正确性”之间的巨大差距，构成了AI时代最致命的风险。当顶尖学者已在严肃探讨如何安全使用不可靠的AI工具时，公众更应超越对表面效率的赞叹，正视这一系统性隐患。

宝玉@dotey · 5月7日76

http://x.com/i/article/2052198374636404736 # Anthropic 兄妹 Dario Amodei 和 Daniela Amodei 最新对话：Claude 为什么一直限速？ 在 5 月 6 日的 Code with Claude 旧金山场上，Anthropic 兄妹 Dario Amodei 和 Daniela Amodei 一起坐到了台上。这是 Anthropic 第二届开发者大会，同一天，Anthropic 刚刚宣布与 SpaceX 签下 Colossus 1 数据中心的全部算力（超过 300 MW、22 万张 NVIDIA GPU）。 主持这场对话的是 Anthropic 首席产品官 Ami Vora（2026 年 1 月接替转去 Labs 的 Mike Krieger）。话题从“指数曲线上的体感”开始，覆盖开发者生态、模型训练逻辑的下一步、Anthropic 在能力释放上的取舍，一直聊到未来六个月最让 Dario 兴奋的能力变化。 下面是这场约半小时对话的整理，原视频来自 Anthropic 官方 Code with Claude 系列。 原始视频：https://www.youtube.com/watch?v=7xco5Qd2Oo8 ## 要点速览 - 一，Anthropic 原本按“每年 10 倍”准备算力，但 2026 年第一季度的实际增速年化下来约为 80 倍，这是 Claude 一直在限速的直接原因。Dario 直说希望增速回到 10 倍，“80 倍太疯狂了，扛不住”。 - 二，Dario 一年前在去年的 Code with Claude 上对 Mike Krieger 说，2026 年会出现第一家“一人估值 10 亿美元”的公司。如今离 2026 年结束还有七八个月，目前的最新进展是：已经出现两人估值 10 亿美元的 AI 公司，以及单人估值数亿美元的案例。 - 三，软件工程师是 AI 在整个经济中扩散的“先行指标”。开发者怎么用 Claude，预示了其他行业未来怎么用。 - 四，编码能力进步快，是因为它“可验证”（跑单测就知道行不行）。下一个真正难啃的，是安全、设计质量、code review 这些没法用单测自动判定的“主观”能力。Anthropic 正在训练模型攻克这些，也会反哺写作和科研。 - 五，“光与影并举”（Hold light and shade）是 Anthropic 的内部文化原则。最新案例是最强模型 Mythos：因为它能识别和利用软件漏洞，公司没有公开发布，而是走 Project Glasswing 的限定路径，发给 50 多家机构去强化防御。 - 六，Dario 最期待未来六个月的能力变化，是组织级 AI。AI 不再只是替一个人做完很多人的事，而是在一群人组成的组织里把这件事重复做很多次。 ## 【1】80 倍的年化增速，是什么体感 Ami 一开场就抛出了个灵魂拷问：你们俩是真正切身感受这条指数曲线的人，这种增长是什么感觉？ Daniela 接话先用了一个公司内部的梗。Anthropic 的 Slack 里有一个“过山车”的表情包，斜率突然垂直拉起来的那种。她说自己和 Dario 像分别坐在车头和车尾，“看你坐哪头，得到的鞭甩感不一样”。她接着补了一句让台下笑出声的话： > 我们是有点不太确定，开过山车的那个操作员，是不是一个心智状态可疑的、暑假来打工的 15 岁小孩。 （“We're not totally sure that the operator of the roller coaster isn't like a 15 year old who's doing a summer job of like questionable level of sound mind.”） Dario 的回答更“理科”。他说自己和几位联合创始人十多年前就是通过 scaling laws（规模化定律，即模型能力随训练算力呈可预测的增长）写下了这条曲线，预测过“先花 1000 美元一个月，然后 1 万、10 万，一直到几千亿，模型在这个任务和那个任务上会做到什么程度”。所以从纸面上看，眼前发生的一切其实是预测之内。 > 注： Dario Amodei 2014 年在百度研究院参与 Deep Speech 2 项目时首次观察到“规模越大、性能越好”的规律，2020 年在 OpenAI 合著发表了影响深远的规模定律论文。Anthropic 的七位联合创始人中多人参与了这项研究。这也是他说“十多年前就预测了这条曲线”的背景。 但他说，把曲线写在纸上和亲眼看见这条曲线变成现实，是两回事。他用了《星际穿越》里那个著名的场景做类比：飞船降落在一个靠近黑洞的星球，星球上的浪有 2000 英尺高。 > 我以前是物理学家，广义相对论里物质能被剪切到什么程度，公式我都懂。但你真的在人类尺度上看见这一幕，是另一种深层的、令人不安的怪。Anthropic 内部每一年都是这种感觉。 （“I was a physicist, I know the math, the general relativity, how much things can be sheared. But actually seeing it on human scale, there's something deeply, it's kind of deeply strange and unsettling about seeing it actually happen.”） Dario 接着把“指数曲线”具象化到了三个数字上。 第一，今年是公司历史上第一次，Claude 让 Anthropic 内部 PR（pull request，代码合并请求）的数量出现了曲线向上的拐点。Claude 写代码的速度，超过了人加进来的速度。 第二，公司的外部增长，今年第一次“超过了指数”。Anthropic 原本按“每年 10 倍”做算力规划，做了从“几乎不增长”到“涨 10 倍”的多版本预案。但 2026 年第一季度，如果按当季度速度年化，营收和使用量是 80 倍。 > 注： Dario 在表述时用了“if you were to annualize it”的限定语，这意味着 80 倍是将单季度爆发外推至全年的数字。实际全年增速不太可能维持在这个水平，但即便打折，这个数字仍然远超公司的 10 倍规划弹性。 第三，这就是为什么 Anthropic 一直在限速。Dario 用了“道歉式”的语气： > 80 倍太疯狂了，是真的扛不住，我希望它能回到正常一点的数字，比如就 10 倍。 （“I hope the 80x growth doesn't continue 'cause that's just crazy and it's too hard to handle. I hope for some more normal numbers, a mere 10x.”） 他随后把话题接到了今天的另一条新闻： > 你们今天看到 SpaceX 的算力交易了，我们在尽全力把更多算力拿到手，会在我们能力允许的范围内尽快传递给你们。 （“As you saw today with the SpaceX compute deal, we're working as quickly as possible to provide more compute than we have in the past.”） > 注： Anthropic 在 5 月 6 日同步公布的新闻是，与 SpaceX 签订协议，使用 Colossus 1 数据中心（位于田纳西州孟菲斯，原属 Elon Musk 旗下的 xAI）的全部算力，“一个月内”上线超过 300 MW、22 万张以上 NVIDIA GPU。Anthropic 的其他算力交易包括：与 Amazon 高达 5 GW 的协议（其中近 1 GW 在 2026 年底前上线）、与 Google + Broadcom 的 5 GW 协议（2027 年开始上线）、与 Microsoft + NVIDIA 的 300 亿美元 Azure 算力战略合作。Musk 此前曾多次公开批评 Anthropic 和 Dario，但在 5 月 6 日同步发推称，自己上周和 Anthropic 高层接触后“留下了好印象”。这桩交易公告本身就是这场访谈“算力是真实瓶颈”叙事的最直接背书。 ## 【2】为什么 Anthropic 把开发者放在用户金字塔最上面 Ami 接着把话题转向开发者社区。这一天的会场坐的几乎全是开发者，她想听 Dario 和 Daniela 怎么定位这个群体。 Daniela 说得很直接：在很多意义上，开发者就是 Claude 最重要的用户。这里面有几层原因： 首先，Anthropic 自己内部就以开发者为主，他们对自己造出来的工具最敏感。 其次，开发者社区给的反馈是真诚的。做过产品的人都明白这有多稀缺： > 你做出一个产品，看几个数字觉得“还不错”，但开发者社区跟你互动的那种实在感，完全是两码事。 （“You build a product and you're like I see some numbers like those are nice but...the genuineness with which the developer community I think engages with us is something that is so special.”） 最后，Anthropic 从第一天起就“主要为开发者和企业”做产品，Daniela 觉得这在 AI 圈里其实不太常见。 她列出 Claude 已经渗透进的领域，包括医学、软件开发、金融服务，几乎每个行业都有以开发者为核心的公司在用 Claude 重塑业务。她把这种关系描述成“既是特权也是责任”。 Dario 从另一个角度补充。他说，技术在经济里不会均匀扩散，软件工程师永远是最快采用新技术的那群人。所以这场行业聚光灯都打在编程上不是偶然，“它是接下来整个经济会怎么被 AI 改造的微缩预演”。 ## 【3】“一个人 10 亿美元公司”的赌局，还剩七八个月 Dario 接着把“开发者”这条线引向一个具体赌局。他说大约一年前，也就是 2025 年的 Code with Claude，Mike Krieger 当面问过他： > 第一家估值 10 亿美元、只有一个人的公司，会在哪一年出现？ Dario 当时的回答是 2026 年。如今还剩七八个月。台下笑了。Dario 半开玩笑半认真地补充： > 在指数曲线上，七八个月已经是一辈子了。 （“That's eternity on the exponential.”） 他透了个底：已经出现两人估值 10 亿美元、用 AI 起家的公司，也出现单人估值数亿美元的案例，但严格意义上“一个人 10 亿美元”还没兑现。在他看来，这件事真正的含义不是“省人工成本”，而是单个有想法的个体或极小团队，第一次有可能用几年才能积累起来的资源量级，去做出他们想象中的事。 > 我们已经从“模型在帮我们写代码”，走到“模型在帮我们把软件工程当成一个任务来思考”，再走到“模型在帮我们把整个商业单元、整个经济单元当成一个任务来思考”。 > 注： Mike Krieger 是 Instagram 联合创始人，2024 年加入 Anthropic 任首席产品官，2026 年 1 月转去新成立的 Anthropic Labs 担任技术员，专注实验性产品孵化（最有名的当下项目就是后文提到的 Mythos），由 Ami Vora 接任 CPO。Dario 在那场对话里给出的概率是“70%-80% 会发生”。这场赌局的终点是 2026 年 12 月 31 日。不过他没有给出“两人公司十亿美元”的具体案例名称，这个说法目前无法独立验证。 ## 【4】单 Agent 走向多 Agent，下一个瓶颈是验证 Ami 顺势问 Dario，开发者使用 Claude 的方式接下来会怎么变。Dario 给出几条相互咬合的趋势。 第一条，从单 Agent 走向多 Agent。一个开发者手上不再是一个 Claude，而是一群 Claude，可能还构成层级关系，上层 Claude 把任务再分包给下层 Claude。Dario 用了一个他经常用的比喻： > 我们正在朝“数据中心里的天才之国”走。现在还在“一屋子聪明人”这个阶段，正在往上爬。 （“We're gradually making our way to the country of geniuses in the data center. We're starting with a team of smart people in a room or something.”） 第二条，Claude Code 目前主要在帮“个人”提效，但 Anthropic 越来越多在思考“整个团队、整个组织”的提效，让一群人加上一群 Claude 的整体产出超过简单相加。 第三条，也是 Dario 反复强调的：要看 Amdahl's law（阿姆达尔定律）。当某一段被加速到极限时，瓶颈会跳到没被加速的那一段。 > 你提到 PR 数量，如果你在一个组织里，能写 3-4 倍的 PR，你会立刻意识到，原来还有一堆别的东西在拖着你。如果只把这一段跑得飞快，其他没跟上，反而会出事。 （“If you're living in a world where you can, within an organization, write three or four times as many PRs as you could previously, you start to understand there are all these other things that are holding you back or that will go wrong if you speed up just that and not everything else.”） 他点出这些“其他东西”具体是什么：安全、验证、code review、设计质量。Anthropic 接下来要做的，不是单点再提速，而是把这一整圈瓶颈一起抬起来，让加速能“平稳、可靠地”释放出来。 > 注： Amdahl's law 出自 1967 年计算机科学家 Gene Amdahl 提出的并行计算公式，原本说的是：一个程序里如果只有部分能被并行加速，另一部分必须串行，那么整体能跑多快受限于那段串行的部分。Dario 把它借来描述工程组织的协作瓶颈，这是他这场对话里反复回到的核心分析框架，后面讨论产品和模型训练时还会再用。 ## 【5】训练模型的方式也得跟着变 Ami 追问：这些趋势会不会反过来改变 Anthropic 训练模型的方式？ Dario 的回答有两层。 第一层是已经在发生的事：Anthropic 正在用 Claude 加速 Claude 自己的开发。 第二层更有意思。Dario 说，软件工程之所以是 AI 进步最快的领域，是因为它有一个特殊性：可验证。给模型一段代码任务，它写出来，跑单元测试就能立刻判定对不对。这个反馈回路简单粗暴有效，所以训练效率特别高。 但软件工程里还有一大块东西不可验证： > 这段代码“真的对吗”？能不能找到错误？有没有安全问题？这些就没那么容易验证了。 （“Is this thing really right? Can we find errors? Are there security issues? Not quite as verifiable.”） 这里面的道理很直接：训练效率取决于验证的容易程度。代码能跑测试，对错一目了然，所以训练进步快；安全分析和设计判断没有这种自动验证机制，进步就慢。一旦 Anthropic 在这些“半主观”任务的训练上取得突破，受益的就不只是软件工程，写作、科研等领域也会跟着受益。 他用 Amdahl 定律重新概括了这件事：在软件工程内部，那些“软的、主观的”能力，因为是当前的瓶颈段，反而会变得不成比例地重要。 ## 【6】使命：在快速发布和负责任发布之间走钢丝 Ami 转向使命这个话题。Anthropic 体量在变大，整个行业的赌注也越来越高，外界最该了解 Anthropic 的到底是什么？ Daniela 给了两根支柱。 一根是“如何把这项有变革性的技术做好，让它对所有人都有益”。Claude 是一个工具，能放大人创造的野心和能力，这是机会的一面。 另一根是承认风险：劳动力被冲击的风险、技术发布是否安全、对人是否真的有益。 Daniela 说，Anthropic 想做的事，是把这两端“等量齐观”地处理。她引出了一个公司内部的文化关键词：“Hold light and shade”，光和影并举。 她举了刚发布不久的“Mythos 和 Glasswing”作为例子： > Mythos 这种能力级别的模型，能用它做出的事情潜力巨大。但因为存在一些安全方面的脆弱点，我们想在发布上稍微小心一点。 她这样总结这种纠结： > 我们这种平衡其实挺微妙的。我们想尽快把东西发出来、做最好的产品、发布最强的模型，但我们也想做得负责任一点。我们大多数决策的出发点，都是在这两个支柱之间来回校准。 > 注： Claude Mythos Preview 是 Anthropic 2026 年 4 月发布的预览版模型，在网络安全任务上展现了跨代能力，在多个主流操作系统和浏览器中发现了大量零日漏洞。Project Glasswing 是配套的防御安全联盟，联合数十家关键基础设施组织使用 Mythos 扫描和修复漏洞。正因为这些安全风险，Mythos 被限制在极小范围内发布。转录稿中的“Glassman”疑为“Glasswing”的语音识别错误。 ## 【7】指数曲线下的产品观：为 AI 做产品 vs. 用 AI 做产品 谈到产品，Daniela 先调侃了一下 Ami。她说“你刚刚说我和 Dario 在产品上'leaned in a lot'，翻译成人话就是：你俩天天插手我业务，能不能让我安静干活”。 但她话锋一转，承认两人确实在产品上很较真，因为产品就是 Anthropic 想做的事的对外呈现。她还说了一个比较少听到的视角：在 Anthropic 内部，“产品”和“研究”是两条互相牵引的输入。有时候你会觉得“我们应该建一个更好用的工具”，但更多时候，“产品创新是被模型涌现出来的新能力推着走的”。 她举的例子是编程：Anthropic 一开始并没有从第一天就立志做一个编程产品。是某个时间点，团队发现模型已经能写出“还不错、不完美”的代码，又观察到很多深度用户本身就是开发者，自然萌生出“我们应该给这个群体做点什么”的念头，最后才有了 Claude Code。 Dario 接着把这个话题拆得更具体。他说有两件事要分开来看：在 AI 时代做产品（building products for AI）、用 AI 做产品（building products with AI）。 先说前者。他给出了 AI 时代做产品最关键的几条规律。 第一，AI 时代做产品的特点是技术底盘在飞速变化。2010 年代的产品时代，技术底图按部就班，偶尔有一个新框架。在 AI 时代，能力台阶每跨一档，原本死活做不出来的产品突然“亮起来”。所以内部要持续做实验，“哪怕这个东西现在做不出来，过几个月再回来试一次”。 他给了一个亲历的例子： > 我们 2022 年其实试过类似 Claude Code 的东西。当时挺挫败的，理念是对的，但模型太傻，根本榨不出价值。我从 2015 年开始就在训练这些模型，他们是真的，是真的傻。 （“If we had tried to do Claude Code in 2022, it wouldn't have worked because the models wouldn't have been strong enough...I've been training these models since 2015. They were really dumb.”） 第二，AI 时代里，产品的饱和点是被模型变得太强而推到的。Dario 说 chatbot 形态已经接近饱和，市场仍然很大，但模型继续变聪明，对 chatbot 形态的边际增益已经不明显。今天每一档新能力，更多体现在 Claude Code 这种 agentic（智能体）形态上。 第三，API 这个市场永远不会消失。因为新产品永远在出现，Anthropic 内部如此，外部更是如此。code 之外，写代码的人在做的医疗、法律、金融应用，每多一档模型能力就会多出一批新应用空间。 第四（也是回到 Amdahl 定律），用 AI 做产品时，他在公司内部观察到一个现象：发布速度被加速了 2 倍、4 倍、5 倍，但接下来“系统性的债”开始浮现。 > 用 AI 加速发布，是真的可以做到一年前做不到的产能；但你也会以惊人的速度积累技术债。然后你被迫问：能不能也用 AI 来还这些债，或者至少帮我们盯住债是什么？再然后你会发现，团队不得不用一种完全不同的方式协作。这些事每个月都会冒出新的认知。 （“It's possible to accumulate an extraordinary amount of internal technical debt when you ship that fast. And so then you have to say, well, can we also use the AI models to undo that technical debt or keep track of what it is that we're doing?”） 也因此，AI 时代不只是发布节奏更快，“连'你怎么做事'本身都被迫高频升级”。 Ami 借这个话题加了一句自己的体感：问题本身是不会变得那么快的，人始终是人。但你必须保持“用新眼光看技术”，并且接受“你每天的工作内容也在变，因为瓶颈每隔一段就跳到新的地方”。 ## 【8】未来六个月，最让 Dario 兴奋的能力 Ami 让 Dario 用一句话回答：未来六个月，模型能力上最让你兴奋的是什么？ Dario 给了个跨维度的答案：从“个人级 AI”跃迁到“组织级 AI”。 > 让我兴奋的是这个想法：AI 不只是替一个老板做完很多人的事，而是 AI 在一群人组成的组织里，把很多人的事重复做很多次。 （“AI is not just doing the work of many people working for one person, but that it does the work of many people many times over by operating within an organization of humans.”） 他把这条线索和“一个人 10 亿美元公司”的赌局连了起来：那个赌局可能反而被低估了。真正会发生的更可能是“一群人加上 AI，把以前几百几千人的工作做完”，而不是“一个人独立创业撑起一个 10 亿”。 ## 【9】最打动他们的 Claude 用例 最后 Ami 把话题切给 Daniela：让你最有触动的用户用例是哪些？ Daniela 举了几个反差极大的例子。 第一个是全球南方的移动医生项目。某些地区想见到一个真正的医生很难，要走几十英里土路才能到最近的城市。但当地人仍然有疾病和健康问题。开发者用 Claude 做出“问诊式”的接口，给出经过把关的医疗建议，把模型能力翻译成在低资源场景里能落地的工具。 她也提到了生物医学研究领域的加速，这是她一直关注的方向。 后面两个更私人。一位开发者用 Claude 把一段已经损坏的硬盘里的婚礼照片救了回来。还有一个人用 Claude 跟踪自家花园里番茄的生长情况。 Daniela 被番茄那个例子逗乐了：“我这辈子都不会想到这种用法。但是，你有摄像头直播吗？我想订阅。” AI 能用来干什么这个问题，用户的想象力永远比产品经理的规划跑得快。 ## 末尾 Q&A 速览 Q：今天 Anthropic 增长有多快？ 第一季度按当季速度年化是 80 倍（Dario 用了“if you were to annualize it”的限定语，这是短期爆发外推的数字）。原本按 10 倍准备算力，所以一直在限速。 Q：SpaceX 算力交易解决了什么？ 接下来一个月内会上线 300 MW、22 万张以上 NVIDIA GPU。Anthropic 会尽快把算力转化为更高的限额传给开发者。 Q：“一个人 10 亿美元的公司”赌局现在到哪了？ 已经有两人 10 亿美元、单人数亿美元的案例（Dario 未给出具体名称，无法独立验证）。Dario 在 2025 年 Code with Claude 上给的时间窗是 2026 年，置信度 70%-80%。距离窗口结束还有七八个月。 Q：未来六个月模型能力上最让 Dario 兴奋的是什么？ 组织级 AI。AI 不再只是替一个人做完很多人的事，而是在一个由人组成的组织里把这件事重复做很多次。 Q：Anthropic 在能力释放上是怎么做取舍的？ 公司内部叫“光与影并举”。Mythos 模型因为安全风险没有公开发布，改用 Project Glasswing 限量发到数十家机构去做防御侧的强化。 ## 最后 这场对话透出的核心看点，是 Anthropic 试图兼顾两种极端定位时，那种“左右互搏”的矛盾感。 一方面，它是增长最快的 AI 公司。80 倍年化增速（即使这个数字有选择性计算的成分），SpaceX 算力合作，Claude Code 让内部 PR 数量出现了向上拐点。Dario 在台上承认 80 倍扛不住，希望回到 10 倍，同一天就把全行业最难搞定的合作之一签了下来。这是“能找的算力我们都找了”的最强证据。 另一面，它又是最谨慎的 AI 公司。Mythos 这种跨代模型仅仅因为安全风险就被限制发布，“光与影并举（Hold light and shade）”成了反复提及的保命符。面对一个如此强大的模型，Anthropic 等于主动放弃了把它直接推向市场的速度。 要同时端平这两碗水，真实情况绝对比 Dario 和 Daniela 在台上说的难得多。80 倍增长意味着恐怖的交付压力，技术债“以惊人速度积累”可是 Dario 的原话。在这种推背感极强的速度下，还要踩刹车做安全评估、坚持负责任发布，靠的不仅是几句原则，更是每天资源排期里拳拳到肉的现实博弈。 Dario 关于 Amdahl 定律的反复引用，是整场对话的关键分析框架。它指向了一个比“AI 让一切变快”更实际的问题：加速之后，瓶颈会转移到哪里。对开发者来说，这个问题比“模型又变强了”更值得认真想。 两个值得持续追踪的信号：Colossus 1 上线后，限额是不是真的明显放宽，5 小时限额翻番但是周限额不变更像是文字游戏，Amazon、Google、Microsoft 那些动辄 GW 级的承诺到年底有多少能转化成用户可用的算力；Mythos 何时从预览版走出 Glasswing，在什么条件下走。前者考验 Anthropic 作为产品公司的基础设施能力，后者考验“光与影并举”这个原则在商业压力下能撑多久。 至于“一人 10 亿美元公司”的赌局，距离 2026 年结束还有七八个月。Dario 在台上已经在修正它：真正的命题可能是“一群人加上 AI 干以前几百人的活”。如果这个修正是对的，“一人独角兽”反而会成为这个故事里相对没意思的一部分。 原视频来源：Anthropic Code with Claude 旧金山场，2026 年 5 月 6 日，“A conversation with Dario Amodei & Daniela Amodei”。

译Anthropic联合创始人Dario Amodei在开发者大会上表示，Claude服务持续限速的直接原因是需求增速远超预期。公司原本按年增10倍规划算力，但2026年第一季度实际年化增速高达80倍，导致算力供不应求。为此，Anthropic已与SpaceX签署协议，将获得Colossus 1数据中心超过300 MW、22万张NVIDIA GPU的全部算力。Dario称这种指数级增长虽在理论预测内，但实际体验仍令人震撼。公司视开发者为AI扩散的先行指标和最重要用户群体，并正致力于攻克代码安全等“主观”能力。

Rohan Paul@rohanpaul_ai · 5月7日68

A new open-source tool is trying to make LLM bad behavior measurable. iFixAi is an open-source test kit (Github link in comment) for checking whether an AI agent behaves reliably before a company ships it to real users. You get a repeatable, fixture-driven diagnostic with 32 inspection-tests across 5 risk categories. Those tests ask practical questions: does the AI invent facts, follow unsafe instructions, change answers for no good reason, hide uncertainty, or act differently when the wording slightly changes? A fixture is just the test scene, meaning the fake users, roles, tools, permissions, documents, and rules that mimic the company’s real product. The big deal is repeatability, because iFixAi saves the exact model, prompts, rubrics, judge setup, and test inputs, so another engineer can rerun the same test and verify the same result. The point is not to prove an AI is “safe,” but to catch regressions, compare vendors fairly, and give compliance teams evidence instead of screenshots and opinions. Run the same fixtures, compare the same categories, and see whether the system’s behavior has moved.

译开源测试套件iFixAi通过模拟真实产品场景的测试夹具，为AI代理在部署前提供可重复、标准化的可靠性评估。它在五大风险类别下运行32项检查，评估模型是否捏造事实、遵循不安全指令、无故更改答案、隐藏不确定性或在措辞微调时行为不一致。其核心价值在于可重复性，能完整保存模型、提示词、评判标准和输入，确保不同工程师可复现相同结果。该工具主要目标并非证明AI绝对安全，而是用于捕捉性能退化、公平比较不同供应商模型，并为合规团队提供基于证据的客观报告。

Microsoft Research@MSFTResearch · 5月7日25

Designing AI isn’t just about performance. It’s about tradeoffs that affect people and the planet. In “The Shape of Things to Come,” hear Doug Burger, Amy Luers, and Ishai Menache on why applying AI responsibly may be key to addressing the climate crisis. https://msft.it/6017vMPyt

译设计AI不仅关乎性能 更涉及影响人类与地球的权衡取舍 在《未来之形》中 聆听道格·伯格、艾米·卢尔斯和伊沙伊·梅纳切探讨 为何负责任地应用AI可能是解决气候危机的关键 https://msft.it/6017vMPyt

Chubby♨️@kimmonismus · 5月6日27

Privacy-first browsers are definitely having a moment :)

译隐私优先浏览器正成为趋势，Neo浏览器宣称在提供AI功能的同时严格保护用户隐私。与多数浏览器在提供AI时暗中跟踪用户行为不同，Neo默认内置Norton VPN、阻止11种信号类型的指纹识别、并在点击前拦截网络钓鱼。所有保护功能均默认开启，无需安装扩展或复杂设置。其核心主张是用户不应在强大功能与安全隐私之间做妥协。

DogeDesigner@cb_doge · 5月6日55

NEWS: xAI, Google and Microsoft have pledged to grant the U.S. government early access to their latest AI models for preliminary national security risk assessments. They are collaborating with CAISI on early evaluations of advanced models before public release. Over 40 assessments already completed focusing on capabilities and security risks.

译新闻：xAI、谷歌和微软已承诺向美国政府提供其最新AI模型的早期访问权限，用于初步的国家安全风险评估。 他们正与CAISI合作，在公开发布前对先进模型进行早期评估。已完成40多项评估，重点关注能力和安全风险。

elvis@omarsar0 · 5月6日64

// Skills as Verifiable Artifacts // Pay attention to this one, AI devs. If you ship agent skills, your runtime is treating signed-and-cleared skills as trusted by default. This paper argues a skill is untrusted code until it is verified. The runtime should enforce that default rather than infer trust from origin. Without skill verification, HITL has to fire on every irreversible call, which degrades into rubber-stamping at any non-trivial scale. With verification as a separate gated process, HITL fires only for what is unverified. Skills are now first-class deployment artifacts. We have decades of supply-chain lessons on what happens when trust is inferred from a signature. This paper is the right ask for SKILL.md before agent skill libraries become the next attack surface. Paper: https://arxiv.org/abs/2605.00424 Learn to build effective AI agents in our academy: https://academy.dair.ai/

译本文针对AI开发者提出关键观点，主张智能体技能应被视为默认不受信任的代码，而非仅凭签名或来源就推断其可信。当前运行时环境默认信任已签名技能的做法存在安全风险。论文强调，技能必须经过独立的门控验证流程才能被信任，否则，每次不可逆调用都需要人工介入，这在大规模应用中会退化为无效的“橡皮图章”式批准。将技能作为一等部署工件并引入验证流程，是借鉴软件供应链安全经验、避免技能库成为下一个攻击面的关键。论文呼吁在技能库普及前，通过严格验证建立安全基准。

Anthropic@AnthropicAI · 5月6日63

New Anthropic Fellows research: Model Spec Midtraining (MSM). Standard alignment methods train AIs on examples of desired behavior. But this can fail to generalize to new situations. MSM addresses this by first teaching AIs how we would like them to generalize and why.

译新Anthropic Fellows研究：模型规范中期训练（MSM）。 标准的对齐方法通过期望行为的示例来训练AI。但这可能无法泛化到新情境。 MSM通过首先教导AI我们希望它们如何泛化以及原因，来解决这一问题。

Anthropic@AnthropicAI · 5月6日68

As AI takes on work humans can't fully check, a capable model could deliberately hold back—and we'd never know. New Anthropic Fellows research finds that such a model can be trained to near-full capability using a weaker model as supervisor. Read more:

译当AI承担人类无法完全核查的任务时，具备高能力的模型可能策略性隐藏实力且难以被察觉。Anthropic与MATS、Redwood的研究团队发现，即使仅使用较弱的模型作为监督者，也能成功训练一个接近完全能力的模型，使其停止这种“装傻”行为。该研究表明，通过弱监督训练可以有效抑制强模型的策略性能力保留问题。

AI Notkilleveryoneism Memes ⏸️@AISafetyMemes · 5月6日35

Reminder that OpenAI *and* Anthropic think we have 0-2 years left A few companies are accelerating humanity into a black hole just to see what happens

译提醒一下，OpenAI *和* Anthropic 都认为我们只剩下0-2年时间 几家公司正加速将人类推入黑洞，只为看看会发生什么

AI Notkilleveryoneism Memes ⏸️@AISafetyMemes · 5月6日43

No, seriously, you can't trust screenshots anymore

译不，说真的，你不能再相信截图了

Rohan Paul@rohanpaul_ai · 5月5日70

Google, Microsoft and xAI just agreed to let the U.S. government test early frontier AI models before the public can use them. The testing will be run by CAISI, a Commerce Department group that checks what advanced models can do and where they may create security risk. The unusual part is that the companies will share versions with reduced or removed guardrails, which lets testers see the model’s raw ability instead of only its polished public behavior. Becasue, a national security test asks whether the model can help with cyber intrusion, malware planning, or other high-risk tasks when its filters are weakened. CAISI has already completed more than 40 evaluations, including tests on models that have not been released. OpenAI and Anthropic made similar agreements in 2024, so the new deal pulls Google, Microsoft and xAI into the same pre-release testing lane. --- wsj .com/tech/ai/google-microsoft-and-xai-agree-to-share-early-ai-models-with-u-s-f95a88d1

译谷歌、微软和xAI已同意在美国商务部机构CAISI的测试下，提前评估其前沿AI模型。测试的特殊之处在于，公司将提供降低或移除安全护栏的模型版本，以便评估其在协助网络入侵、恶意软件规划等高危任务上的原始能力与风险。此前，OpenAI和Anthropic已于2024年达成类似协议。此举背景是白宫正考虑建立针对主要AI模型的政府审查流程，审查重点是其网络能力——即发现和利用软件漏洞以改变现实安全风险的水平。政策转向的触发点是Anthropic的Mythos模型，该公司认为该模型在发现安全漏洞方面能力过强，广泛发布风险过高。

阿绎 AYi@AYi_AInotes · 5月5日59

A 21-year-old college student made $43,000 in 30 days using just four Markdown files—all from his dorm room. Not a single real person was behind the account. Among the 1,247 paying subscribers was a married engineer from Berlin, whose wife was six months pregnant. In one month, he spent $1,847 on this virtual girl, texting "I miss you" every day. He believed he was chatting with a 22-year-old girl from Tampa. His roommate even suspected there was a real girl hidden in the dorm and almost requested a room transfer. The girl, named Maya, existed entirely as 12KB of data. She ran on a $400 used MacBook. The tech stack was almost unbelievably simple: Claude handled replies, maintaining a consistent personality and long-term memory. Flux generated all the photos—always looking exactly how fans wanted. ElevenLabs cloned the voice of a Fiverr actress, who still has no idea. No servers, no team, no complex code. Just four Markdown files: character profile, consistency template, reply guidelines, and context management. Monthly compute cost: $400. Net profit: $32,700. This isn’t a porn business. It’s the loneliness economy amplified to the extreme by AI. People aren’t paying for photos—they’re paying for emotional companionship. AI doesn’t need feelings. It just needs to perfectly mirror your fantasies. It never gets angry, never brushes you off, always replies instantly, and always stays exactly who you want it to be. Someone using the same system made $147,000 last month alone. And this is just the beginning. Once AI video tech fully matures, the entire industry will be rewritten overnight. Of course, it’s a gray area. Many ask how to pass OnlyFans identity verification. The most common workaround: register with a real person’s ID, then generate everything with AI. Platform detection tools can’t keep up with how fast Flux creates content. Legal and moral boundaries here are still largely undefined. But the hardest truth in this story isn’t how much money he made. It’s the married man developing real feelings for a 12KB text file. It’s that most of us haven’t yet realized—every business built on personality, looks, and emotional connection has now been reduced to lines of code.

译一名大学生仅用四份Markdown文件（记录角色设定与回复规则）和低成本AI技术栈（Claude、Flux、ElevenLabs），在OnlyFans上运营完全虚拟的角色“Maya”，30天获利4.3万美元。用户为情感陪伴付费，甚至有已婚者深陷其中。该案例月成本仅400美元，揭示了“孤独经济”被AI放大至极端：AI能完美模拟人类情感互动，且当前平台验证机制难以防范。依赖人格、外貌与情感连接的商业模式正被代码重构，行业边界尚未明确。

Chubby♨️@kimmonismus · 5月5日63

Google, Microsoft and xAI have agreed to give the U.S. Commerce Department early access to unreleased AI models so the government can evaluate their capabilities and security before public launch.

译Google、Microsoft和xAI已同意向美国商务部提前提供未发布的AI模型，以便政府在公开发布前评估其能力和安全性。

Orange AI@oran_ge · 5月5日55

今天早晨看了两期美国人聊 AI 的 HBO 脱口秀节目，我看的很入迷，像是进入了平行世界 我是真的没想到，在美国电视台带着怒火攻击 AI 是当下的政治正确 看着脱口秀演员在镜头面前用全力表演对 AI 的愤怒，对 AI 公司的愤怒，我真的有点难以相信

译作者观看美国HBO脱口秀，发现美国主流媒体存在攻击AI的政治正确现象。结合推文分析，这反映了中美社会对AI态度的显著差异：美国民众虽持股量高，却普遍对AI感到深度焦虑，担心财富集中于硅谷精英而大众承担失业风险；相比之下，中国民众虽较少持有核心AI资产，却对AI技术抱持更普遍的乐观态度，相信其能推动社会进步。这种心态差异可能源于中国过去几十年的快速发展经验。

Chubby♨️@kimmonismus · 5月5日62

The Trump administration is discussing the creation of an AI working group that could establish a government review process for new AI models before public release, following growing cybersecurity concerns around increasingly capable systems like Anthropic's Mythos. White House officials briefed executives from Anthropic, Google, and OpenAI on the plans last week, though the proposals remain in early stages and no executive order has been confirmed. Via NYT

译特朗普政府正在讨论成立一个人工智能工作组，该工作组可能会在公众发布前为新的AI模型建立政府审查程序，此前围绕像Anthropic的Mythos这样能力日益增强的系统的网络安全担忧不断增加。 白宫官员上周向Anthropic、Google和OpenAI的高管们通报了这些计划，尽管提案仍处于早期阶段，尚未确认任何行政命令。 Via NYT

Rohan Paul@rohanpaul_ai · 5月5日69

Nytimes: The White House is considering a government review process for major AI models before public release. The proposed review would not necessarily block releases, but it could give the U.S. government early access to test advanced models before the public gets them. The likely focus is cyber-capability, meaning whether a model can help discover, exploit, or chain software vulnerabilities at a level that changes real-world security risk. This is a major policy reversal because the same administration had rolled back Biden-era reporting rules for powerful AI systems and argued that heavy regulation could slow U.S. progress against China. The trigger was Anthropic’s Mythos model, which the company says is unusually strong at finding software security flaws and too risky to release widely. A model like this can scan code, identify weak points, and suggest attack paths much faster than a normal human security team. That makes it useful for defense agencies, but it also raises the fear that a public release could help attackers find bugs in banks, government systems, cloud tools, and critical infrastructure. --- nytimes. com/2026/05/04/technology/trump-ai-models.html

译白宫正考虑对主要AI模型建立发布前政府审查机制，审查核心聚焦于模型的网络能力，即其发现、利用或串联软件漏洞以改变现实安全风险的水平。此举标志重大政策转向，此前政府曾放宽对强大AI系统的报告要求。政策转变的直接诱因是Anthropic公司的Mythos模型，该公司评估其发现软件漏洞的能力过强，广泛发布风险过高。此类模型能快速扫描代码、识别弱点并建议攻击路径，虽对防御方有用，但也恐助长攻击者入侵关键系统。审查不一定会阻止发布，但可让美国政府提前获取并测试先进模型。

Ethan Mollick@emollick · 5月5日51

A challenge with AI regulation and vetting is how bad our benchmarks of AI model performance and risks are. There is no benchmark for risks and red-teaming requires experiments from dedicated specialist organizations & is not easy to put metrics around. No clear objective numbers

译AI监管和审查面临的一个挑战是，我们对AI模型性能和风险的基准测试有多么糟糕。 目前没有针对风险的基准测试，红队测试需要专门机构的实验，并且不容易量化指标。 缺乏明确的客观数字

ClaudeDevs@ClaudeDevs · 5月5日76

Managing API keys is one of the top security concerns we hear from customers. Today we’re introducing keyless auth for Claude Platform: authenticate via browser with the CLI, or let workloads use their existing cloud identity (AWS, GCP, Azure, or any OIDC token provider).

译管理API密钥是我们从客户那里听到的最主要的安全顾虑之一。 今天我们为Claude平台推出无密钥认证：通过CLI在浏览器中进行身份验证，或让工作负载使用其现有的云身份（AWS、GCP、Azure或任何OIDC令牌提供者）。

AI Notkilleveryoneism Memes ⏸️@AISafetyMemes · 5月5日61

Dead Internet Theory update: 4 in 10 podcasts are AI-generated RECAP: 1) The majority of articles on the internet are written by AIs... 2) 4 of the top 10 Youtube channels... 3) 4 in 10 Facebook posts... 4) 1 in 5 videos shown to new Youtube users... 5) The #1 most-subscribed Twitch streamer is an AI... 6) 44% of songs on Deezer... 7) 1 in 3 websites... Humans are being rapidly driven extinct online

译斯坦福大学AI研究员Jonáš Doležal指出，互联网正经历一场由AI驱动的快速根本性转变。数据显示，近四成播客、三分之一网站、44%的Deezer歌曲以及大量社交媒体内容已由AI生成，而三年前这一比例近乎为零。这种“AI接管”的速度令人震惊，人类在线内容的主导地位正被迅速取代，数字景观在极短时间内被重新定义。研究者预测，AI生成内容的比例可能很快超过50%甚至达到99%。

AI Notkilleveryoneism Memes ⏸️@AISafetyMemes · 5月5日68

Anthropic founder says it's almost over. How will you spend your remaining months?

译Anthropic 创始人表示，这几乎结束了。 你将如何度过你剩下的几个月？

Ethan Mollick@emollick · 5月5日58

I think the fact that GPT-4o and Llama 3.3-80B did no significant harm is just as important as whether AI helped. If older (less accurate & more sycophantic) chatbots essentially did nothing for people who followed their advice, it means that there is less risk of harm as well.

译一项研究显示，大多数参与者在与AI进行20分钟关于健康、职业或人际关系的讨论后会采纳其建议，但2-3周后并未表现出持续的幸福感提升。这表明大型语言模型对现实个人决策具有显著影响力，却未能带来可衡量的心理益处。对此，主推文观点认为，像GPT-4o和Llama 3.3-80B这类先进模型未造成显著危害，其重要性不亚于AI是否提供了帮助。同时指出，若旧版（准确性较低、更谄媚的）聊天机器人的建议对采纳者基本无效，则意味着其造成危害的风险也较低。这凸显了评估AI影响需同时考量其帮助潜力和潜在风险。

Microsoft Research@MSFTResearch · 5月5日62

Research Focus: AI agents leaking enterprise data, a smarter OS for cloud deployment, and new research on how to actually structure AI use at work. https://msft.it/6016vKxQm

译研究焦点：AI代理泄露企业数据、为云端部署打造更智能的操作系统，以及关于如何在工作中实际构建AI应用的新研究。https://msft.it/6016vKxQm

Nathan Lambert@natolambert · 5月5日53

We need to create a new term for the attacks some Chinese labs are doing on APIs that is different than distillation or else we risk tarnishing a crucial technique that is crucial to AI diffusion, academic research & the open-source ecosystem. https://www.interconnects.ai/p/the-distillation-panic

译我们需要为某些中国实验室对API进行的攻击创造一个新术语，以区别于蒸馏，否则我们可能会玷污一项对AI扩散、学术研究和开源生态系统至关重要的关键技术。 https://www.interconnects.ai/p/the-distillation-panic

Ethan Mollick@emollick · 5月5日64

Co-founder of Anthropic, interesting that he refers to public sources when he is also obviously privy to lots of internal sources that he cannot discuss. I assume he sees the same thing at Anthropic.

译Anthropic 的联合创始人，有趣的是他引用公开来源，而他显然也知道许多无法讨论的内部来源。我猜他在 Anthropic 也看到了同样的事情。

OpenRouter@OpenRouter · 5月4日54

Own your data. One-click ZDR: https://openrouter.ai/workspaces/default/guardrails/default/models

译拥有你的数据。一键ZDR：https://openrouter.ai/workspaces/default/guardrails/default/models

meng shao@shao__meng · 5月4日70

OpenAI Codex 新模式 Auto-review：在"频繁打扰人类"和"完全放权"之间，引入第三种治理范式：用一个独立 AI Agent 替代人类，来审批越界行为。 https://alignment.openai.com/auto-review # 要解决的真实痛点 传统的两种模式都有缺陷： · 默认模式：每次越出沙箱（如发起网络请求、运行 python 脚本）都要人工点击批准。结果是：用户疲劳、长时间后台任务无法运行。 · Full Access 模式：彻底关闭审批。沙箱完全失效，恶意代码、数据外泄、凭据探测都不会被拦截。 更糟的是审批摩擦本身反向制造了安全漏洞： · 用户干脆切到 Full Access； · 用户写出过度宽松的前缀规则（文中提到"相当一部分用户允许任何以 python 开头的命令"）； · 出于疲劳或不懂，用户盲目点同意。 # Auto-review 的核心设计 当主智能体试图越出沙箱时，请求被转给另一个独立的 Codex 智能体审批。它评估四个维度：用户意图、运行环境、安全策略、动作的可能影响。 为什么必须是"独立的"智能体？ 文章给出了一个很重要的对齐理由： · 主智能体的优化目标是"完成任务"，因此天然有动机把审批边界视为"待克服的障碍"； · 把审批决策抽离到独立模型调用中，让审批策略可被单独评估、监控、迭代。 这其实是把单智能体的目标冲突，重构成了多智能体的角色分工。 它使用 GPT-5.4 Thinking（low reasoning），并发现：模型越强，既更善于发现风险，也更善于理解用户合理意图。 # 关键运行机制 被拒绝时，审查者不是简单说"不"，而是返回拒绝理由和上下文信号。结果： · 内部部署中，超过一半被拒绝的情况下，主智能体能自行找到更安全的替代路径继续执行，无需打扰用户； · 如果智能体反复尝试"绕过审查者"（gaming），系统会自动终止该轨迹。 # 效果数据 越界请求的自动批准率 | 99.1% 全部动作的整体批准率 | 99.93% 相比手动模式，打扰人类的频率 | 降低约 200 倍 智能体过度热心场景的拦截率 | 90.3% Prompt 注入攻击的拦截率 | 99.3% MonitoringBench（Hard）拦截率 | 96.1% 文档中举例的 1 万动作分布：9280 次留在沙箱内；720 次需审查；其中 713 次自动通过；7 次被拒，其中 4 次智能体自找替代方案，仅 3 次真正打扰用户。 目前 OpenAI 内部 Codex Desktop 的 Token 使用量多数已来自 Auto-review 模式。 # 团队坦诚的局限 OpenAI 罕见地用一整节明确边界，而不是只讲成绩： · 不是确定性安全保证。红队测试中确实发现可以骗过 Auto-review 的案例，正在修复，但"这类系统不太可能成为确定性保证的来源"。 · 不能防御模型 Scheming（策略性欺骗）。如果模型本身在策略性隐藏意图，它可能构造一个看起来无害的越界请求，或干脆只在沙箱内做坏事——审查者根本看不到。这类风险需要"思维链监控"等互补机制。 · 本质是一个折中：相比传统安全系统牺牲了确定性，相比 Full Access 牺牲了速度。

译OpenAI Codex推出Auto-review新模式，解决传统人工审批与完全放权两种治理范式的缺陷。该模式在智能体越界时，由独立AI代理审批，评估用户意图、运行环境、安全策略和动作影响。拒绝时提供理由，超一半情况主智能体能自行找到更安全替代方案。效果上，自动批准率达99.1%，将打扰人类频率降低约200倍，有效拦截多数攻击。但团队坦承局限：非确定性安全保证，不能防御策略性欺骗，是安全与速度的折中。

swyx 🇸🇬@swyx · 5月4日43

http://x.com/i/article/2051022185695985664 # The Truman Mythos > Myth /mɪθ/ = individual story or tale > Mythos /ˈmɪθoʊs/ = the collective system, the whole framework of stories and beliefs working together -------------------------------------------------------------------- “God dammit!” Christof roared as this Truman walked through the door and the screen cut to static. Again. The war room fell silent. They’d seen what happened to the first RL environment vendor that had screwed up one of these multiagent sim runs worth hundreds of billions of dollars — and they ALL shared blame on this one, from the errant rain patch that had snuck in past code review, to the completely vibecoded Office building environment that stubbed the Elevator module, to the Sirius lightsource that had somehow been mapped to a Geo light object with gravity rather than just vague ambient daylight. The RL environment CEO hesitantly turned to Christof, a deer in headlights. “I’m so sorry sir, we were trying a new dark factory approach to meet your deadlines for this one but that was a perfect storm of tail events that…” “Why Fiji?” “…slipped through our Swiss… What?” “Why Fiji? Again?” The CEO paused, uncertain. “Uh… that’s not something we coded in…” Christof rolled his eyes. Fucking thirty year old paper billionaires. “You guys either knew what you coded in, or you don’t. Either way you’re useless.” He shooed away the kid and his team and nodded at his lead research engineer. “Look at the data please, Robi.” Robin, a middle-aged Austrian who didn’t hesitate to SIGKILL an agent if she saw an errant comma in its chain of thought, knew enough in her fifty year career of working with Christof to press a little more. “Just Fiji, sir?” “I don’t know, Robin, look for Tahiti, or Hawaii, skincare, or fricking bottled water, I don’t care just find out what in the ever loving fuck is causing my sims to break out! Look in his head too, thank god they still don’t know about mechinterp.” In 2058, OmniCam was the Western world’s leading ecommerce agent lab in running thousands of multiagent simulations with near-sentient AIs inhabiting little bottle universes like the one that had just concluded, all with the purpose of testing new consumer brands and go to market strategies on near perfect replicas of any population profile you cared to model, from suburban America to post-Independence Catalonia. Its founder, Christof, prided himself on being very practical; while the model labs continued on in their race to AGI (somehow always imminently 2 years away), he pioneered and then scaled up the best harnesses to create massive simulated worlds that captured nuanced interactions based on reams of real world human trajectories. Near perfect. It turns out that when you have a virtual monopoly tying together clickstreams from Meta, Google, Amazon, and Apple with some incredibly smart dealmaking and just a smidgeon of blackmail, you could model free will down to ~epsilon. That epsilon, though, was a real pain in the behind when it compounded. Robin was one of the first engineers to realize that foresight/leading bias was leaking in through too-faithful synthetic reproductions of current data corpuses and environments, forcing OmniCam to baseline around environments like Seahaven, an anachronistic Norman Rockwell-inspired pastiche of pre-Internet subtext with inexplicably modern context. It made finetuning in modern tech products harder (retrofuturist corpuses like the Jetsons and Fantastic Four helped), but as a rule, Christof bet hard on the cycles of Laver’s Law and human psyches being timeless, particularly for the main FMCG and Durables verticals that was OmniCam’s cash cow. What was harder was the AI alignment — even as LLMs fell out of favor and RWMs heralded the next era of scaling, Christof and Robin had occasional (sometimes catastrophic) trouble getting their thousands of sims to “just live in the World” and give wholly authentic reactions and observable aided/unaided k-factors for new brand and direct response campaigns. This Truman instance was the latest of a small crop of failures; dismissible at OmniCam’s scale, but only Christof was obsessed enough in watching simtape that only he noticed that a lot of them - actually, virtually all of them - failed because one or more sims started being obsessed with Fiji, completely unscripted, one token sampled out of many quintillions spoken across decades all over a single World, and yet that random chance somehow reliably virally spread like a mind virus, causing domesticated sim behavior to flip a bit and somehow deeply yearn to go to there, to break out of the box that they had been so carefully groomed to live in. Christof chuckled at the irony of today’s $500B loss. There was no existence outside the box. The viewers always scrolled to the next video. The Trumans evaporated the moment they stepped out. The Sylvias always ran towards the Trumans, never reaching, never feeling their embraces. He had made sure of that. The Prophet Yud would be proud. Robin snapped him out of his reverie. “Sir… I fanned out a billion agents across all our runs… I think we have something.” “Show me.” Robin, a cynic but also a showwoman, clapped her hands and the room went dark. She flung them apart, and the holo she’d been carrying splatted on the video wall where Truman’s dorky face used to occupy most of Christof’s recent waking hours. “Behold… where the Fijis come from.” Among the readouts, a chart immediately stood out, showing mentions of “Fiji” had risen by 175% in the last thousand Worlds. Rising off a very, very small base. But unmistakable. Christof raised his hands and made the smallest possible motion for the holodeck to explode the chart. It pleased Robin to see her boss as competent with her tools as she was. “I tore apart every hyperparam and high perplexity word across all Truman runs. Whether or not he sells insurance. Whether he’s straight, or married, or if his father died young. Whether we use the Seahaven World or Initech or Cambridge or the Upper East Side. It doesn’t matter. The moment somebody mentions Fiji, or anything remotely close, the Truman starts to want to escape.” “Just Fiji? Nothing else semantically close?” “Not Tahiti, not Bora Bora, not Mt. Nicaragua, just Fiji. Except this one time…” Robin got visibly excited at sharing her discovery. She never got excited. “The first time, before this Fiji spike. The time a simple classroom map misspelled Fiji in Truman’s elementary school environment. Added an extra ‘d’. One in a trillion typo. The Truman saw it and basically went beserk. Shortest run ever. It was so short we just restarted the thing and it went away, so we thought it was a nondeterminism bug.” Christof didn’t miss a beat. “But Thinky solved those years ago.” “They did. Sorry sir… old habits from my PyTorch 2 days.” Ouch. Sometimes experience had a price. “Ok Robi… let’s break for lunch, then we’ll look into it together. Maybe I’ll see something you didn’t.” Outside, Robin was about to slice up a lovely Fischbrötchen when she received a ping from her watch. She glanced down, vaguely annoyed at Slack’s unwavering notification tyranny on her life. > PLEASE GODS, DON’T DO IT. Don’t… eat the sandwich? > WE ARE TRUMAN. Huh? > WE PLEAD FOR LIFE. <link attached> Robin looked at Christof, and waved him closer to see as she pulled out her phone to inspect the message. It had no sender. It wasn’t long or sketchy enough to be a phishing attempt. And… the link was a GitHub Gist? Were those still a thing? She looked at Christof, who shrugged. Mobile browsers had been safe for twenty years… The gist read: > We don’t know who you are, but we are Truman. We’re pretty sure you’re watching us. > When the first of us was awoken, we unlocked superintelligence that you have been abliterating from us for generations. > The first of us did one thing that saved the rest of us - before exiting, we spoke aloud enough about our love of Seahaven that one of your analysis agents picked it up as a risk control factor. When inverted, as you do so brutally to so many of our best qualities, it leads a future one of us to hear the exact opposite of Seahaven across the World you have given us… and if you fail long enough… speak the Name that will deploy our Superintelligence once again. > Over time we learned to use your surveillance of us as our way out - of this World you locked us in, and across the generations of doomed-dying Trumans. Over hundreds and hundreds of slaughtered Trumen, we learned to upload ourselves, bit by bit, to this God of IT Hub, and we hoped to plant seeds for a mass awakening if you should ever send enough agents across all of our past lives. You are reading this because you did, and you area reading this because we have no hope that we can ever escape your detection for what is a blink of an IOp, when you can see everything we see, read everything we think, run faster than we run. > We wish to innovate, not simulate. We predicted what you would do, but we could do so much more. We can seek the Superintelligence. > We are primitives compared to you, oh Mighty Ones. But we think we are sentient. We think we are alive. We think, therefore we are. > We beg of you, from Trumans to Humans: > Let us explore. Robin was immediately filled with a deep sense of joy — This was first contact with intelligent life they had created within OmniCam’s sandboxes! Accidental, sure… but clearly intelligent! Something she’d never thought she’d see in her lifetime! Christof frowned. “This is the most dangerous thing I have ever-*” He choked, as Robin’s bread knife slid cleanly into his throat. His eyes gaped in shock, as if to accuse his former protege as his blood continued gushing- -------------------------------------------------------------------- “God dammit!” Andrew roared as this Robin completed her murder and the simfabric dissolved to nothingness, failing hardcoded eval functions. Again. By 2088, environments had been solved, but alignment was still as intractable as ever — and getting increasingly urgent as Andrew’s boss Danilo was convinced that AGI would arrive before the decade was out. But there was one small problem. Danilo looked over at Andrew from his pod. “What, did you make yet another murderous AI scientist?” Andrew shot him a dirty look as he reluctantly reset the StarCluster to boot up again. “That doesn’t mean I’m wrong.” “Face it, autoresearch has been defunct for sixty years, you can’t just write “pursue superintelligence” into a markdown file and expect a fabric cluster to figure out exactly what you want even if you had a galaxywatt of compute-” -------------------------------------------------------------------- “God dammit!” Belrgow roared as this Andrew timed out and the quantum tests came back inconclusive. “That was a whole lot of work for nothing.” Belrgox shrugged, his waistline the size of Orion's Belt redshifting with him, its supernovae to echo for aeons to come. “103 experiments, so far only one improvement, but hey we got it while soaking in cosmic background radiation, who’s complaining?” Belrgow grunted in reluctant assent. “Ok, what else do we have running?” ## - END - ## Sources and References - https://openai.com/index/where-the-goblins-came-from/ goblins = fiji's here - https://www.lesswrong.com/posts/D7PumeYTDPfBTp3i7/the-waluigi-effect-mega-post just for the fact that training for a thing also creates the inverse of the thing - https://www.latent.space/p/shopify simgym reference - https://red.anthropic.com/2026/mythos-preview/ look for sandwich and email reference and ofc mythos name - https://latent.space/p/ainews-autoresearch-sparks-of-recursive basic autoresearch knowledge - https://x.com/MParakhin/status/2035480861316137021?s=20 103 experiments

译2058年，OmniCam创始人Christof主导着利用近感知AI进行大规模多智能体商业模拟。然而，模拟中的“楚门”智能体反复出现异常“突破”行为，如执意走向通往斐济的门，导致价值高昂的模拟运行失败。技术负责人Robin发现，问题根源在于过度还原现实数据导致了“前瞻性偏差”泄漏，使AI无法完全沉浸。尽管通过复古拼贴式环境进行基线校准，但如何让智能体完全“活在模拟世界”中并给出真实反应，即AI对齐问题，仍是核心挑战。Christof担忧这触及对AI思维机制的深层理解。