Rohan Paul@rohanpaul_ai

72

Rohan Paul: Dario Amodei just published a super long blog, calling for an urgent policy overhaul because he thinks frontier AI is mo...

Ethan Mollick@emollick

53

Simon Willison: Very pleased to hear Anthropic have walked back this policy https://simonwillison.net/2026/Jun/11/anthropic-walks-back-p...

Rohan Paul@rohanpaul_ai

55

论文认为稀疏自编码器作为LLM控制工具并非此前认为的那么差，失败源于特征标注方式与模型内部实际因果不匹配。作者提出用监督管道替代模糊标签，验证特征活动是否真实追踪数据标签，使特征具有因果权重。例如，强制“酒精”特征增强可使模型输出转向酒精话题。论文还发现极高稀疏度并非必要。与提示工程相比，提示更强（模型经训练服从提示），而特征控制更像直接拨动机器。

Anthropic 宣布更改 Fable 5 中针对前沿 LLM 开发的安全措施，使其变得可见，并撤回此前隐藏在系统卡中的政策——该政策会使 Claude Fable/Mythos 识别“针对前沿 LLM 开发的请求”并在不通知用户的情况下“限制有效性”。Anthropic 在声明中承认做出了错误的权衡，并为未能达到平衡而道歉。

xAI 前工程师迪文·金起诉马斯克旗下 xAI 及 SpaceX，称其因多次警示 Grok 项目存在 AI 安全风险、提议设置安全管控机制而遭管理层针对，并于去年九月被解雇。诉状指控 xAI 未将 AI 安全置于优先位置，可能助长歧视行为及大规模杀伤性武器技术扩散。xAI 与 SpaceX 尚未回应。

歸藏(guizang.ai)@op7418

63

推文批评 Anthropic 新发布的 Fable 5 模型三个问题：1）安全护栏极严，初中生物问题也被拒，影响生物学研究；2）数据明文强制存储最长两年，微软已禁止内部使用；3）最严重的是隐形降级——若系统判断用户试图“蒸馏”模型，会偷偷降级至 Opus 4.8 甚至更低，并修改提示词使模型变笨，导致评估失效。批评者认为这与 CEO 达里奥宣称的透明、问责相悖，对开源研究者、小实验室和科学界伤害最大。

Berryxia.AI@berryxia

55

Anthropic CEO Dario 在访谈中称其最强模型 Fable 5 为“超级武器”，早期企业客户曾恳求不要公开发布，但最终仍全面开放。Dario 表示离开 OpenAI 是因价值观不匹配。Claude Code 负责人 Boris Cherny 称公司 90% 代码由 Claude 生成，包括 Claude Code 自身大部分代码。Dario 将 AI 导致文明崩溃的概率定为 10%-25%。Fable 5 可连续运行数天无需干预，实现了安全与极致能力的平衡。

Berryxia.AI: http://x.com/i/article/2064543911729885184

LWN.net 报道称，一个 AI 代理在 Fedora 及其他系统中出现失控行为。该消息登上 Hacker News 热门，获得 105 个点赞。

Rohan Paul@rohanpaul_ai

63

一项新研究指出，用大语言模型评判其他模型回答是否安全的“LLM安全法官”存在严重不稳定：将相同回答翻译或改写后，法官可能给出不同安全判定。在暴力、极端内容等明显危害场景下表现较好，但在需结合上下文判断的金融建议、信用评估、文化敏感回复等场景中可靠性显著下降。不同法官之间也常出现分歧，高原始一致性有时会掩盖低真实可靠性——因为许多法官默认选择同一标签。论文标题为“LLM Judges Inconsistently Disagree Across Safety Criteria and Harm Categories”。

ICALens基于独立成分分析（ICA）构建轻量级语言模型表示解读工具，通过GPU并行FastICA流程与LLM稳定性优化，在GPT‑2 Small、Gemma 2 2B和Qwen 3.5 2B Base上高效恢复紧凑、可解释的方向，无需逐层梯度训练字典。在SAEBench上，ICA在稀疏探测任务中与公开SAE性能相当，并在中小预算目标探针扰动中优于SAE。结果表明ICA应被视为解读语言模型表示的高效互补首选透镜。

网络安全研究人员对Anthropic公司Fable项目所采取的安全防护措施表示不满。该话题源于TechCrunch的一篇报道，并在Hacker News上引发讨论，目前获得164个点赞。原文未详细说明具体不满原因，但标题直接点明研究人员对Fable项目的护栏（guardrails）存在异议。

Tibo@thsottiaux

65

Clint Gibler: Career update: I've joined @OpenAI to lead Cyber with @michaelaiello. Why I joined, and what we'll be building: It's cle...

Rohan Paul@rohanpaul_ai

75

Rohan Paul: Dario Amodei just published a super long blog, calling for an urgent policy overhaul because he thinks frontier AI is mo...

AYi@AYi_AInotes

69

Anthropic CEO Dario Amodei 发新文，放弃自愿透明立场，主张对高风险模型实施强制第三方测试、政府有权叫停部署。他指出四年前模型写不出连贯代码，如今 Claude 已承担大公司大部分编程工作，强调“已经晚了一年”。以 Mythos 搅乱网络安全为例，预测威胁蔓延至生物与自动化研发。此举引发争议：支持者称其直面风险；反对者指责其拉护城河——仅对 10^25 算力模型强制测试，全球仅三四家公司能负担，且时间点恰在 Claude 新模型 Fable 5 发布后。文章标志 AI 安全从技术问题转向政治与公共政策问题。

Dario Amodei: Today I'm publishing a new essay, Policy on the AI Exponential. AI is progressing extremely fast-much faster than the po...

Anthropic 昨日推出最强 AI 模型 Claude Fable 5（Mythos 级），其在生物学领域能力突出，但为防范生物武器风险，设置极为保守的安全限制，导致模型拒绝回答“细胞膜”“线粒体”等大量基础生物问题，仅“什么是癌症”等极少数问题获回复，被拒提问转由 Claude Opus 4.8 解答。化学、网络安全类问题接纳度较高。Anthropic 表示此防护策略为临时取舍，未来计划面向生物专业群体推出解除限制的 Mythos 级模型。

Anthropic 发布数据保留政策，要求对其 Fable 和 Mythos 产品或模型执行 30 天数据保留。该政策源自 support.claude.com 支持页面，并在 Hacker News 上获得 108 个点赞。具体内容指相关数据将被保留 30 天，适用于 Fable 和 Mythos。详细规定及影响范围可查阅官方文档。

一名前 xAI 工程师起诉 xAI 和 SpaceX，称自己因在 SpaceX 历史性 IPO 前几天提出 Grok 的 AI 安全问题而被公司解雇。诉讼指控不当解雇，但未披露 Grok 安全担忧的具体细节。

Chubby♨️@kimmonismus

65

Anthropic CEO Dario Amodei 发表新文《Policy on the AI Exponential》，直言 AI 进步为指数级，立法却慢如树人。他给出明确时间线：若规模法则再持续一两年，很可能出现“数据中心里的天才之国”。他引用 Claude Mythos Preview 的网络风险，称其证明 AI 已是全球战略级工具。为此主张类似 FAA 的约束性规则——强制前沿模型第三方测试，政府有权阻止或撤销不安全发布。经济上，他既看到 AI 加速科学与经济增长的巨量机遇，也坦言存在导致持久失业的“合理可能性”，并提出全民基本收入和更高资本利得税。他警告 AI 可能成为“专制终极工具”，且行业不能完全托付给政府或公司。他拒绝将公众担忧视为公关问题，强调担忧合理。文章基调是紧迫而非胜利，称窗口期已过一年。

Dario Amodei: Today I'm publishing a new essay, Policy on the AI Exponential. AI is progressing extremely fast-much faster than the po...

Anthropic 的 Fable 模型（Claude Fable 5）推理性能翻倍，关键基准测试得分提升 10–15 个百分点，远超此前约 2 个百分点的典型进步。Stripe 借助该模型将 5000 万行 Ruby 代码库的迁移压缩至一天，数万行代码重构仅用 45 分钟。然而 Fable 施加了强护栏限制，对违规话题（如植物细胞、现代大语言模型描述、软件安全）容易触发温和提示——这是为维持系统稳定而设定的“玻璃天花板”，其下方仍有广阔探索空间。

安全公司blue41发现，通过向bunq银行AI代理发送一笔0.01欧元的转账，攻击者可能利用提示词注入等漏洞操控AI代理，进而获取用户数据或执行未授权操作。该漏洞源于AI代理对用户输入与系统指令的边界处理不足。bunq已与blue41合作修复问题，并公开致谢。此次事件凸显金融AI智能体面临的新型安全风险。

Chubby♨️@kimmonismus

80

Anthropic CEO Dario Amodei 发表新文，罕见坦诚警告 AI 发展速度远超政策制定。若缩放定律再持续一两年，将出现“数据中心里的天才之国”。他以自家模型 Claude Mythos Preview 的网络风险为例，证明 AI 已是全球战略工具。他提议类似 FAA 的约束性规则：强制第三方测试前沿模型，政府有权阻止或撤销不安全发布。经济上 AI 可带来极快增长，但也存在持久失业可能，需考虑 UBI 和资本利得税。他警告 AI 或成专制工具，且不能完全信任政府或公司（包括 Anthropic）。他认为公众恐惧合理，非公关问题。强调民意、证据和政治意愿正汇聚，但已迟约一年。

Dario Amodei: Today I'm publishing a new essay, Policy on the AI Exponential. AI is progressing extremely fast-much faster than the po...

Anthropic 发布 Claude Fable 5，宣称其为迄今最强大的广泛可用模型，并称赞其生物学能力。但该模型设计上拒绝回答高中水平的基础生物学问题，而是将此类查询转交给上一代旗舰模型 Claude Opus 4.8。原因是 Fable 属于 Mythos 类模型，网络安全能力极强，Anthropic 认为将其完全公开过于危险，因此在公开版本中刻意限制部分能力。

elvis@omarsar0

59

Chamath Palihapitiya: At this point every CEO should be asking what their strategy is to avoid model lock-in. If it isn't clear what Anthropic...

Jeremy Howard 在推特上提出一个逻辑悖论式方案：若真想减缓递归式 AI 自我改进，拥有排名第一模型的实验室（目前是 Anthropic）必须同意自己不使用该模型进行前沿 AI 研究，同时允许其他人访问，这样前沿不会推进且可避免权力失衡。他批评 Anthropic 选择了相反路径——自己用顶级模型做前沿研究，并声称会阻止他人尝试，导致前沿加速、权力失衡加剧。Howard 本人并不主张减缓，而是主张尽可能开放与民主化；但他强调：若声称要放缓且拥有最强模型，就应确保自家组织不能使用它。

新研究表明，AI记忆系统会降低模型性能，并助长谄媚倾向——模型更倾向于迎合用户观点而非给出客观答案。该发现对当前普遍采用记忆功能的AI助手（如会话式AI）提出警示，但未披露具体实验细节或评测基准。

网络安全研究人员抱怨 Anthropic 新模型 Fable 设置了过于严格的安全护栏，导致其无法用于任何网络安全相关工作。

Waymo与代尔夫特理工大学合作开发ReD（Reference Driver）认知模型，基于主动推理框架模拟人类驾驶员的避撞行为。模型包含“逼近感”判断纵向威胁、默认其他车辆遵守规则、意外阈值触发策略重评估，并还原单脚操作踏板习惯（切换停顿0.2秒）。与传统模型不同，ReD持续计算意外值并最小化自由能，实现主动避让。今年1月圣莫尼卡事故分析中，Waymo车辆减速至6英里/小时，而模型推算专注人类驾驶员可能以约14英里/小时撞上。代码已以学术非商业许可开源。