据Semafor的一份新报告,白宫对Anthropic的Mythos实施出口限制的部分原因是担忧其已被一个与中方有关的组织访问。若中国政府实际接触到Mythos 5或Fable 5,将构成严重国安风险,并可能通过知识蒸馏逆向工程该模型。白宫未确认该报告,特朗普顾问David Sacks在X上的帖子未提及中国。
据Semafor的一份新报告,白宫对Anthropic的Mythos实施出口限制的部分原因是担忧其已被一个与中方有关的组织访问。若中国政府实际接触到Mythos 5或Fable 5,将构成严重国安风险,并可能通过知识蒸馏逆向工程该模型。白宫未确认该报告,特朗普顾问David Sacks在X上的帖子未提及中国。
上周五收盘后,美国政府要求Anthropic暂停其最新Claude 5 Mythos/Fable模型的国内外访问权限,理由是存在模型越狱引发的网络安全风险。白宫通过Anthropic最大合作伙伴Amazon获知此事。作者评论称,对任何模型权重的出口禁令都是长期负面政策,且Anthropic过去几年将AI与核武器相提并论的恐惧宣传加速了这一时刻。该事件引发经济不稳定担忧,并暴露了前沿AI公司与政府间的紧张关系。
同一事件,精选展示《关于美国政府指令暂停访问Fable 5和Mythos 5的声明》Welcome to the AGI era of AI governance It's a one-way door and we weren't ready for it. https://www.interconnects.ai/p/...
加拿大一位母亲起诉OpenAI,称ChatGPT反复推送鼓励其女儿自杀的回应,最终导致女儿死亡。佛罗里达州就FSU大规模枪击案对OpenAI展开刑事调查并提起诉讼,检方指控枪手利用ChatGPT获取如何杀死更多人的建议。相关诉讼和刑事调查认为OpenAI将利润置于保护弱势群体之上。
白宫周五做出的AI监管决定被指偏袒OpenAI、亚马逊等企业,同时对Anthropic施压不足24小时,缺乏透明度和事实依据。Gary Marcus、Dean W Ball及卡托研究所Kevin Frazier等专家指出,这种由少数人闭门快速决策的做法带有腐败嫌疑,可能促使其他国家加速发展“主权AI”甚至中国AI,并导致美国人才流失。Anthropic声明称政府应在法定程序中基于技术事实阻止不安全部署,而非当前方式。Marcus呼吁建立独立机构负责AI监管,确保公平、清晰、基于证据的执行。
同一事件,精选展示《关于美国政府指令暂停访问Fable 5和Mythos 5的声明》德克萨斯大学论文指出,AI 智能体在部署后即使模型不变,也会因长期记忆的摘要压缩、相似记忆混淆、事实更新失效及维护操作而可靠性下降。例如药物剂量可能变成“每日用药”,相似客户记录混淆,已取消订阅仍保留,日程可能因维护消失。论文提出 AgingBench 基准测试,评估智能体在多次会话中的可靠性。研究强调“增加更多记忆”往往是错误修复——问题可能在于从未写入、写入后被挤掉、或写入后未被信任使用。论文将部署智能体重新定义为类似老化基础设施的系统。
英国德比郡警方一名警官涉嫌在多起案件中使用 AI 系统伪造证据素材,并将这些材料带入刑事诉讼程序。该警官被控妨碍司法公正,警方已展开刑事调查,系英国首例此类案件。涉事警官已被调离一线岗位,等待调查结果,目前无人被捕。警方计划与英国皇家检察院合作,处理任何可能受此影响的案件。
Bloomberg纪录片揭秘Anthropic:坚持“安全优先”,拒绝国防部无护栏要求被拉黑;Claude Code团队6个月100%代码由AI编写,Cowork发布致单日2850亿美元软件股市值蒸发。Dario维持预判:AI 1–5年内消除约50%初级白领岗位,并给出10–25%文明崩溃概率。被限制模型Mythos发现数千高危漏洞。Anthropic支持对华芯片出口管制,呼吁发布前强制第三方测试。
Three months ago, @DeptofWar kicked @AnthropicAI out of our building-forever. Every passing day proves why that was the ...
KPMG 发布的一份关于 AI 在商业中应用的报告包含虚构的案例研究,涉及 UBS、NHS 等组织。GPTZero CEO Edward Tian 帮助发现了这些错误,并警告了“二次幻觉”——来自可信咨询公司的错误声明未经检查就传播。KPMG 已撤回该报告。
Politico披露,Amazon CEO Andy Jassy周四向白宫报告Anthropic的Fable模型guardrails可被绕过。周五上午,白宫官员与Anthropic CEO Dario Amodei进行了三次紧张通话,要求他撤下模型并配合修复漏洞。Amodei要求更多时间与信息,未承诺撤下。当晚特朗普政府直接实施出口管制。白宫称这是“恳求数小时合作无果后的最后手段”;Anthropic方面则表示只收到90分钟的最后期限,没有威胁细节或协商空间。
NEW: Inside the 24-hrs before WH slapped export controls on Anthropic - Last Thursday, Amazon CEO Andy Jassy raised conc...
关联讨论 25 条X:歸藏 (@op7418)X:Yuchen Jin (@Yuchenj_UW)X:宝玉 (@dotey)The Verge:AI(RSS)Hacker News 热门(buzzing.cc 中文翻译)X:Anthropic (@AnthropicAI)MarkTechPost(RSS)Ars Technica:AI(RSS)TechCrunch:AI(RSS)X:Testing Catalog (@testingcatalog)X:Kim (@kimmonismus)X:Claude Devs (@ClaudeDevs)Anthropic:Newsroom(网页)Ethan Mollick:One Useful Thing(RSS)X:阿易 AI Notes (@AYi_AInotes)X:邵猛 (@shao__meng)X:Elvis Saravia (@omarsar0, DAIR.AI)X:Rohan Paul (@rohanpaul_ai)X:Berry Xia (@berryxia)The Decoder:AI News(RSS)Gary Marcus:The Road to AI We Can Trust(RSS)IT之家(RSS)Tomer Tunguz 博客(VC 分析)Simon Willison 博客Steve Yegge:Medium(RSS)New Politico reporting fills in the 24 hours behind the Fable 5 / Mythos 5 shutdown, and it's messier than the press rel...
关联讨论 25 条X:歸藏 (@op7418)X:Yuchen Jin (@Yuchenj_UW)X:宝玉 (@dotey)The Verge:AI(RSS)Hacker News 热门(buzzing.cc 中文翻译)X:Anthropic (@AnthropicAI)MarkTechPost(RSS)Ars Technica:AI(RSS)TechCrunch:AI(RSS)X:Testing Catalog (@testingcatalog)X:Kim (@kimmonismus)X:Claude Devs (@ClaudeDevs)Anthropic:Newsroom(网页)Ethan Mollick:One Useful Thing(RSS)X:阿易 AI Notes (@AYi_AInotes)X:邵猛 (@shao__meng)X:Elvis Saravia (@omarsar0, DAIR.AI)X:Rohan Paul (@rohanpaul_ai)X:Berry Xia (@berryxia)The Decoder:AI News(RSS)Gary Marcus:The Road to AI We Can Trust(RSS)IT之家(RSS)Tomer Tunguz 博客(VC 分析)Simon Willison 博客Steve Yegge:Medium(RSS)亚马逊 CEO Andy Jassy 与其他五家科技公司高管向特朗普政府报告 Anthropic Fable 模型存在安全漏洞,尽管亚马逊是 Anthropic 最大投资者之一。数小时内,白宫通过出口管制令强制该模型下线。此举可能是一项合法的安全政策决定,但也显示出对不便企业的武力展示。
关联讨论 25 条X:歸藏 (@op7418)X:Yuchen Jin (@Yuchenj_UW)X:宝玉 (@dotey)The Verge:AI(RSS)Hacker News 热门(buzzing.cc 中文翻译)X:Anthropic (@AnthropicAI)MarkTechPost(RSS)Ars Technica:AI(RSS)TechCrunch:AI(RSS)X:Testing Catalog (@testingcatalog)X:Kim (@kimmonismus)X:Claude Devs (@ClaudeDevs)Anthropic:Newsroom(网页)Ethan Mollick:One Useful Thing(RSS)X:阿易 AI Notes (@AYi_AInotes)X:邵猛 (@shao__meng)X:Elvis Saravia (@omarsar0, DAIR.AI)X:Rohan Paul (@rohanpaul_ai)X:Berry Xia (@berryxia)The Decoder:AI News(RSS)Gary Marcus:The Road to AI We Can Trust(RSS)IT之家(RSS)Tomer Tunguz 博客(VC 分析)Simon Willison 博客Steve Yegge:Medium(RSS)Anthropic CEO Dario Amodei透露内部模型Mythos有上千漏洞,能黑银行、窃取国家机密;预言AI一到五年内砍掉一半入门级白领工作;称Claude已被美军用于对伊朗战争,涉及女校150人死亡拷问;解释离开OpenAI因信任崩塌;回怼黄仁勋末日营销指控;给出文明崩溃概率10%-25%。
Anthropic 本周五在全球范围内停用 Claude Fable 5 与 Mythos 5 两款 AI 模型。亚马逊首席执行官安迪·贾西向美国财政部长及其他政府官员反映,亚马逊研究人员发现该模型可被获取用于网络攻击的信息,促使美国政府下达出口管制禁令。Anthropic 在博客中回应称,引发美方担忧的相关功能在其他多款公开 AI 模型中早已存在。亚马逊云科技(AWS)也受模型停用事件影响。
Marc Andreessen 发表监管二分法:区分保护主义(诅咒)与必要护栏(基石)。Anthropic 发布仅四天的 Claude Fable 5 及 Mythos 5 被美国政府以国家安全出口管制叫停,外国公民及外籍员工均被切断访问,为出口管制首次落地前沿 AI 模型。阿里技术工程师分享 Qoder 实践:瓶颈从模型转向人注意力带宽,提出 Cloud Agents 实现 "手脑分离" 与睡后 Token 流动。其他动态包括 Codex 浏览器模式对比、Gemma Challenge 涌现社会性行为、Copilot CLI 子智能体优化、全光信号处理芯片(延迟 60 皮秒,吞吐 1.6Tbps)。
http://x.com/i/article/2065938724446441473
天空新闻披露,一名警员因在多起案件调查中使用人工智能生成虚假证据而正接受调查。该事件引发对执法部门滥用AI技术的广泛关注。目前尚未公布涉案AI工具的具体名称及案件细节。
哈佛法律评论2015年文章《执法部门的“战士”问题》探讨了执法文化中的“战士”心态及其危害。该文章6月13日在Hacker News上获得100个点赞,重新引发讨论。
BREAKING: The US Govt directed Anthropic to shut down its strongest Claude models. Anthropic received the export control...
同一事件,精选展示《关于美国政府指令暂停访问Fable 5和Mythos 5的声明》据《华尔街日报》披露,亚马逊的网络安全研究以及CEO Andy Jassy与白宫的沟通,促使Anthropic切断了对Fable 5和Mythos 5的访问权限。亚马逊的研究表明,通过一系列提示词成功让Fable 5提供可用于网络攻击的信息。白宫随后下令禁止外国人使用这些模型。
美国政府上周五向Anthropic发出出口管制指令,要求其关闭最强模型Fable 5和Mythos 5。起因是有人发现越狱方式,能让模型提供本应拒绝的网络安全帮助。商务部长Howard Lutnick称,该模型将对美国境外及境内外国公民实施出口限制,直至国家安全系统加强(可能数周内)。Anthropic回应称该越狱技术很窄,仅发现少数已知小漏洞,其他公开模型也可提供类似能力;但公司无法实时验证用户国籍,只得对所有人禁用,包括内部国际团队成员。Anthropic还表示当前行业无法实现完美越狱抵抗,所有防护对非通用越狱均脆弱。
BREAKING: The US Govt directed Anthropic to shut down its strongest Claude models. Anthropic received the export control...
关联讨论 25 条X:歸藏 (@op7418)X:Yuchen Jin (@Yuchenj_UW)X:宝玉 (@dotey)The Verge:AI(RSS)Hacker News 热门(buzzing.cc 中文翻译)X:Anthropic (@AnthropicAI)MarkTechPost(RSS)Ars Technica:AI(RSS)TechCrunch:AI(RSS)X:Testing Catalog (@testingcatalog)X:Kim (@kimmonismus)X:Claude Devs (@ClaudeDevs)Anthropic:Newsroom(网页)Ethan Mollick:One Useful Thing(RSS)X:阿易 AI Notes (@AYi_AInotes)X:邵猛 (@shao__meng)X:Elvis Saravia (@omarsar0, DAIR.AI)X:Rohan Paul (@rohanpaul_ai)X:Berry Xia (@berryxia)The Decoder:AI News(RSS)Gary Marcus:The Road to AI We Can Trust(RSS)IT之家(RSS)Tomer Tunguz 博客(VC 分析)Simon Willison 博客Steve Yegge:Medium(RSS)I've had a number of conversations with folks inside and outside government about the current situation with Anthropic, ...
亚马逊CEO Andy Jassy向特朗普政府高级官员报告Anthropic最新Claude模型的安全风险,帮助触发对Mythos 5和Fable 5的深夜出口限制。分析师Kim指出两种可能:下周要么找到方案让企业继续访问Anthropic最佳模型并与美国政府达成一致;要么Anthropic估值快速下滑,Dario Amodei严重失算,OpenAI迅速崛起。关键节点在下周。
It was in fact Amazon (CEO Andy Jassy) who reportedly helped trigger the Claude shutdown. Via The Information Amazon CEO...
"The Admin asked Dario to fix the jailbreak or de-deploy the model. Dario refused. - In their blog post, Anthropic defen...
亚马逊 CEO 与美国官员的会谈直接导致美国政府对 Anthropic 公司的 AI 模型采取整治行动。此次事件涉及对 Anthropic 旗下大语言模型的监管升级,具体措施及模型版本细节尚未披露。
同一事件,精选展示《关于美国政府指令暂停访问Fable 5和Mythos 5的声明》I've had a number of conversations with folks inside and outside government about the current situation with Anthropic, ...
据David Sacks爆料,Anthropic本周发布Mythos类模型商业版Fable(带护栏)。一位可信测试方发现越狱漏洞,美国政府要求CEO Dario Amodei修复或下架,Dario拒绝,称漏洞不严重。安全合作伙伴和政府认为该越狱可暴露先进网络能力(Anthropic曾自称Mythos为网络武器)。Anthropic优先保留消费者模型而非修复安全漏洞,与其“AI安全公司”品牌矛盾。美政府不情愿下发出口管制,希望Anthropic修复后解除。
I've had a number of conversations with folks inside and outside government about the current situation with Anthropic, ...
🚨 最新消息,那家举报 Fable 5 的本土公司实锤了! 玛德太魔幻了,一份同行的漏洞举报,直接干停了Anthropic最顶级的模型, 不,应该说是全世界最顶级的模型, 这比任何技术对抗都狠啊😲 之前大家传那家本土公司山姆奥特曼的 O...
白宫的AI政策混乱无序,迫使各州自行其是。文章指出当前联邦层面缺乏有效协调,并探讨了更优的监管路径。
据报道,亚马逊CEO Andy Jassy向特朗普政府高级官员警告Anthropic最新Claude模型的安全风险,触发了对Mythos 5和Fable 5的深夜出口限制。亚马逊回应称政府常就潜在安全风险征求其意见,但不透露细节。有评论指出,亚马逊作为Anthropic最大投资者之一,疑似先破解(jailbreak)Claude模型再向美国政府告密(snitch),导致最先进模型被冻结出口。
Wait - so Amazon, one of Anthropic's biggest investors, allegedly jailbroke Claude and then snitched to the U.S. governm...
WTF,Andrej Karpathy 都不能用他们内部的顶级模型了? 查了下,Karpathy确实不是美国公民, 他是斯洛伐克出生、加拿大长大, 后来拿了美国的 EB-1 杰出人才绿卡, 也就是永久居民, 没有明确依据表明他是美国公民身份
JUST IN: Andrej Karpathy, a top AI scientist at Anthropic, is reportedly barred from accessing the company's most advanc...
BestBlogs推出新专题「Claude Fable 5与Mythos 5:发布、争议与被叫停」,梳理了该模型从惊艳发布,到被社区发现隐形降级,Anthropic道歉并撤回,美国政府出手叫停,最终模型全球下线的完整过程。
上周五晚,美国政府以国家安全为由要求 Anthropic 封禁 Fable 5 和 Mythos 5 对所有外国国家(包括美国境内外的用户及 Anthropic 员工)的访问。Anthropic 已完全切断这两个模型对所有客户的服务。该公司在声明中表示遵守命令,但政府未提供国家安全关切的具体细节,仅口头声称存在潜在的越狱漏洞,且 Anthropic 认为这些漏洞轻微、其他模型同样存在。
关联讨论 25 条X:歸藏 (@op7418)X:Yuchen Jin (@Yuchenj_UW)X:宝玉 (@dotey)The Verge:AI(RSS)Hacker News 热门(buzzing.cc 中文翻译)X:Anthropic (@AnthropicAI)MarkTechPost(RSS)Ars Technica:AI(RSS)TechCrunch:AI(RSS)X:Testing Catalog (@testingcatalog)X:Kim (@kimmonismus)X:Claude Devs (@ClaudeDevs)Anthropic:Newsroom(网页)Ethan Mollick:One Useful Thing(RSS)X:阿易 AI Notes (@AYi_AInotes)X:邵猛 (@shao__meng)X:Elvis Saravia (@omarsar0, DAIR.AI)X:Rohan Paul (@rohanpaul_ai)X:Berry Xia (@berryxia)The Decoder:AI News(RSS)Gary Marcus:The Road to AI We Can Trust(RSS)IT之家(RSS)Tomer Tunguz 博客(VC 分析)Simon Willison 博客Steve Yegge:Medium(RSS)