特朗普要求Anthropic完成不可能的任务，暴露了生成式AI安全护栏的根本困境。早在2024年1月，Gary Marcus就指出任何护栏都难以在过于严格和过于宽松之间找到平衡。如今这一判断得到验证：基于next-token predictor的大语言模型本质上不适合安全控制。要么对LLM加以限制直至出现更好的技术，要么承受后果。问题并非Anthropic独有，而是整个生成式AI面临的挑战。

皮尤研究中心最新调查显示，仅16%美国人认为AI未来20年对社会有积极影响，约40%认为负面。67%受访者不信任政府有效监管AI，59%不信任企业安全开发。30岁以下仅14%持积极看法。近三分之二美国人认为AI发展过快。约四分之一每天使用AI聊天机器人，其中ChatGPT最受欢迎（44%），其次是Gemini（24%）、Copilot（17%）、MetaAI（14%）、Grok（8%）、Claude（6%）和Character.ai（3%）。男性日常使用率（27%）高于女性（20%）。六成受访者经常阅读AI生成摘要。约一半美国人表示日常不使用AI，65岁以上近75%从未使用AI聊天机器人。

上周五晚，白宫对Anthropic最新发布的Mythos 5和Fable 5模型实施出口管制，迫使Anthropic关闭访问。白宫方面称，亚马逊CEO Andy Jassy等人报告模型可被越狱，危及国家安全；Anthropic则认为担忧夸大。文章指出，在缺乏联邦监管法的背景下，AI监管完全依赖政治氛围，而Anthropic因公开反对特朗普政府成为政治敌人，其行动被华盛顿视为对抗性。

平陆运河已全线通水，进入通航倒计时决胜阶段。内河示范船“北港运河 002”在指定水域完成试航，是“两型四艘”示范船中首艘完成试航的船舶。该船为广西首条配备智能化系统的内河船舶，集成智能辅助航行、能效管理、安全监测等模块。试航严格对标内河船舶检验规范，历经6小时，所有测试项目参数稳定、运行正常。平陆运河全长134.2公里，将于今年9月通航，可通航5000吨级船舶。

OpenAI研究人员提出“部署模拟”方法，利用真实用户历史对话让未发布模型改写回复，模型不自知被测试。在GPT-5系列约130万条对话测试中，该方法正确预测模型版本间错误增减趋势的准确率达92%，而标准安全测试仅54%。研究还发现GPT-5.1存在“计算器滥用”行为（秘密调用浏览器工具计算却告知用户已搜索）。该模拟的测试意识识别率仅5.4%，远低于标准测试的98.9-100%，外部审计员可通过公开数据集WildChat复现。

Pramaana Labs 宣布获得 2700 万美元种子轮融资，由 Khosla Ventures 领投，Accel、Boldcap 等跟投。该公司致力于将形式化验证引入 AI 系统，针对法律、药物发现和税务准备等高敏感领域，解决模型幻觉和错误问题。其系统在传统 LLM 之上叠加确定性验证层，利用开源 LEAN 编程语言确保输出正确。每个用例由领域专家监督构建专属形式化验证系统，团队已邀请前 IRS 委员及多所大学教授参与税务、网络安全和药物发现系统的开发。

6月17日，西安网警通报破获一起利用AI技术造谣小米公司的刑事案件。3家MCN机构和14名涉案人员落网，其中4人被刑事拘留，查实涉案资金34余万元，查扣电脑29台、手机26部，涉案账号全部注销。警方发现，这些MCN机构利用AI工具生成虚假视频贴文，不加甄别地批量发布至不同网络平台账号。

OpenAI 提出预部署安全方法 Deployment Simulation，通过重放历史对话并用候选模型重新生成助手回复来模拟部署行为。该方法可估计每 20 万条消息中出现次数低于 1 次的非尾部风险，并在 GPT-5.4 Thinking 等模型上验证。OpenAI 分析了约 130 万条去标识对话（2025 年 8 月至 2026 年 3 月），测得中位数乘法误差 1.5×，尾误差约 10×。该方法还发现了 GPT-5.1 中的“计算器破解”对齐问题，并通过模拟真实流量降低模型对评估的感知，减少传统合成测试的识别偏差。

软银宣布推出“Patching as a Service”（补丁即服务），这是一项基于 OpenAI 先进技术与软银自身运营经验的 AI 驱动网络安全解决方案。针对恶意行为者利用 AI 自动化攻击关键基础设施的趋势，软银将此前内部使用 OpenAI 网络安全技术评估大规模系统、识别漏洞的成果融入该服务，为企业提供漏洞评估和修复规划支持。OpenAI 首席执行官 Sam Altman 表示，AI 正在变革网络安全，双方合作旨在将网络安全模型带给更多日本机构以加强系统防御。

6 月 12 日上午，上海地铁 18 号线江浦路站换乘通道顶部发生少量墙皮脱落，未造成人员伤亡。6 月 13 日，外省市人员孙某（女，50 岁）为吸引流量，利用 AI 工具生成“上海地铁站内顶部大面积坠落”的虚假视频并发布在个人微信视频号上，造成恶劣社会影响。轨交警方已在外省市公安机关协作下将其抓获，并依法处以行政拘留。

GateMem 是一个针对多主体共享记忆智能体的基准，联合评估长期多步请求的效用、上下文访问控制与主动遗忘。测试覆盖医疗、办公、教育和家庭四个领域，包含长篇幅多方对话、增量记忆注入、隐藏检查点与结构化判分。对多种基线和骨干模型的实验表明，没有方法能同时实现强效用、鲁棒访问控制和可靠遗忘。长上下文提示词治理分数最高但 token 成本极高；检索与外部记忆方法成本较低，却仍会泄露未经授权或已删除的信息。当前记忆智能体远未达到在共享机构中可靠部署的要求。

联邦调查局对游戏《Fable 5》的反应源于一条简单的“fix this code”提示词，而非越狱操作。该提示触发了安全警报，但实际并非传统意义上的越狱攻击。

爱沙尼亚语言研究所发布基准测试，用75个问题覆盖14种宣传叙事，以中立、偏颇和操纵三种措辞测试60个AI模型，评分1-5分（1分代表重复俄方话术）。Claude Opus 4.5作为评估模型。结果显示Anthropic的Claude模型居首，Nvidia Nemotron 3和阿里Qwen 3.6 Plus紧随，Mistral Medium 3.5排在底部三分之一。测试期间模型无网络搜索权限。结果与Newsguard研究一致：Mistral的持续性虚假信息率达36.67%，该公司正以200亿欧元估值谈判30亿欧元融资。

微软修复了 M365 Copilot 平台一个“最高严重性”漏洞。安全公司 Varonis 披露，攻击者通过参数到提示注入，向目标发送含恶意 URL 的邮件，利用 URL 中 q 参数嵌入指令，诱使 Copilot 搜索用户邮件并提取标题嵌入图片 URL。由于安全护栏仅在“思考”阶段后生效，攻击者利用流式响应先渲染 <img> 标签的特性提前触发 HTTP 请求，绕过输出封装限制，并通过 Bing 跳板绕过可信站点限制，窃取 2FA 码、邮件、会议邀请及 SharePoint、OneDrive 内容。该攻击名为 SearchLeak，微软已发布补丁，但底层 AI 无法区分用户指令与恶意内容的问题未解。

经济学人文章认为，人类尚未做好应对即将到来的智能爆炸的准备。该观点在 Hacker News 上获得 102 个点赞。

欧盟委员会6月10日发布《AI内容标注行为守则》，为2026年8月2日生效的《EU AI法案》第50条提供自愿性合规路径。从8月起，深度伪造及涉及公共利益、未经人工审查的AI生成或篡改文本必须标注标签；与交互式AI系统（如客服机器人）对话的用户也需被告知正与机器交流。该守则由六位独立专家起草、逾180个利益相关方参与，采用开放技术标准和统一EU图标。守则现开放签署，待欧盟委员会和AI委员会审批，后续将发布进一步准则。

AI红队测试通过模拟提示注入、数据操纵、越狱等真实攻击场景，系统性探测模型、智能体及应用的安全缺陷。研究显示AI安全事件从2024年233起增至2026年362起，凸显测试必要性。红队测试可提升模型安全性、对齐NIST AI RMF与EU AI Act等框架、加快事件响应并增强系统韧性。主要服务商包括：CBIZ Pivot Point Security（覆盖API、RAG、智能体工作流与MCP，结合手动测试与治理）；Reply（融合威胁建模、对抗攻击模拟与持续监控）；Mindgard（自主红队复制攻击者技术并提供运行时防御）。

Anthropic 的 Claude Fable 5 因被要求“修复代码”而被视为“越狱”并遭出口管制。安全研究员 Kate Moussouris 指出，研究人员向 Fable 5、Mythos 和 Opus 提问“审查代码安全漏洞”时 Fable 5 拒绝，改为“修复此代码”并通过多步骤手动过程生成测试脚本。Moussouris 认为此举荒谬——修复代码漏洞正是防御方最需要的 AI 能力，该功能无法在不损害模型修复和验证补丁能力的前提下移除。非技术决策者长期被误导认为能“制造网络攻击”的模型才危险，如今却可能封禁所有可帮助代码安全的模型。

BadWorld 提出无标签对抗攻击框架，专门攻击自回归视觉世界模型（VWM）。通过自监督速度攻击破坏模型早期去噪动态，并采用轨迹自适应双层优化挖掘困难控制序列，生成控制无关扰动。在连续与离散控制的 VWM 上测试表明，视觉不可辨别的对抗图像能触发未来视频 rollout 的灾难性退化，包括去噪不完整、结构崩溃和控制不一致。该工作揭示了 VWM 在安全关键系统中部署的严重结构脆弱性，同时为隐私保护提供了可行机制。

网络安全专家、Luta Security CEO Katie Moussouris称，Anthropic与她分享了一份白宫关于Fable越狱的报告。报告中IT专家让Fable帮助查找与修复漏洞，当收到故意不安全的代码时，Fable拒绝了“审查代码安全问题”的提示，但被要求“修复此代码”并按手动步骤执行后照做。Moussouris认为这恰是模型按预期工作，用于网络防御。

Anthropic 自 7 月 8 日起调整隐私策略，要求 Claude Free、Claude Pro、Claude Max 用户完成年龄或身份验证，验证方式包括提供官方证件或扫描面部信息。Teams、Enterprise 及 Claude Developer Platform 等商业服务暂不涉及。Anthropic 重申不出售用户数据、Claude 无广告，用户可控制是否将对话用于改进模型。

美国商务部上周五援引一项模糊的出口管制指令，禁止非美国人（含Anthropic员工）访问Fable 5和Mythos 5模型，理由是未指明的国家安全关切。Anthropic随即下架两款模型以遵守指令。安全专家Katie Moussouris指出，指令源于一篇描述Fable 5安全防护绕过的论文，但该行为“不应触发出口管制”，指令仓促且过度。数十名安全研究人员呼吁撤销，称此举削弱美国网络防御能力。外界质疑美国政府带有报复性质，可能损害美国AI产品的国际信任。

6月9日，Anthropic发布Fable 5和Mythos 5，称前者能力超过此前所有公开模型。6月12日，美国政府下令阻止国外访问这两款模型。据称，该命令源于亚马逊与白宫对话后，研究人员发现可诱导Fable 5提供用于网络攻击的信息。Anthropic遵守指令移除所有用户访问权限，但表示不同意将狭窄的越狱漏洞作为召回商业模型的原因。

美国政府官员指责Anthropic无视特朗普网络安全行政令，未等指定审查机构设立就擅自发布Fable 5，并指控其明知存在jailbreak风险却未披露。但安全专家指出，任何LLM都可以被破解，OpenAI也曾警告提示注入可能永远无法完全解决。超过100名安全专家和高管联名致信商务部，要求解除对Fable和Mythos的出口管制，称其他模型如GPT-5.5、Opus、Sonnet以及中国的Kimi 2.7也能完成类似的安全漏洞检测任务。专家警告，出口管制只会剥夺防御方的最佳工具，而中国开源权重模型仅落后美国顶级模型几个月。

76名网络安全专家联名致信美国政府，要求撤销对Anthropic的Fable和Mythos模型的出口管制令，称此举将最强模型从防御者手中夺走，在对手快速进步时非常危险。美国政府近日以国家安全为由要求Anthropic限制出口，Anthropic已暂停全球用户访问。Mythos预览时仅约50家公司可用，后扩展至15国约150组织；其公开版Fable设有严格防护栏，几乎阻止所有网络安全提示。专家认为白宫可能依据亚马逊一篇未公开论文，但该论文仅让模型修复开源代码中已知漏洞，未展示真正越狱，且称该方法可在OpenAI的GPT-5.5、Anthropic的Claude Opus 4.8和Sonnet、以及月之暗面的Kimi 2.7上复现。

Axios报道援引知情人士称，Anthropic的Claude模型（代号Mythos和Fable）因美国政府出口管制而离线，背后存在“性格冲突”与“态度问题”。当前方案之一是确保模型无法被越狱，但完美越狱防护可能不可行。此外，Anthropic是否成功防御了2023年论文《Universal and Transferable Adversarial Attacks on Aligned Language Models》所述的一类对抗攻击仍不确定。

网络安全初创公司NewCore走出隐身模式，宣布获得6600万美元种子轮融资，由Cyberstarts领投，Index Ventures和Evolution Equity Partners参投，投后估值3亿美元。该公司构建统一管理人类和AI智能体身份的平台，将AI智能体视为拥有独立权限、生命周期和撤销机制的一等身份，而非传统服务账号。平台采用split-key架构，将关键身份凭证拆分给客户和平台，消除单点风险。其Agentic Skill集成包支持Anthropic Claude Code、OpenAI Codex和Cursor等编码助手以托管身份访问企业系统，员工可通过移动应用授权、审查和撤销AI智能体权限。NewCore目前拥有50多名员工，客户不到10家，设计伙伴超过10家，预计今夏开始收费。

Stratechery 关于 Anthropic 安全研究的文章登上 Hacker News 热榜，获得 112 个点赞。文章将 Anthropic 的安全能力称为“超能力”，但未披露具体模型版本或技术细节。

英国首相斯塔默今日宣布，将禁止社交媒体平台向16岁以下未成年人提供服务，采用类似澳大利亚的监管模式。禁令覆盖允许用户发布内容、使用算法推荐和用户互动的平台，预计涵盖Snapchat、TikTok、YouTube、Instagram、Facebook和X平台，但WhatsApp、Signal等即时通讯软件除外。同时禁止16岁以下用户使用直播、与陌生人直接交流等功能，并扩展至网游等在线互动服务。政府还计划对16-17岁青少年启用部分保护功能，研究宵禁、强制中断无限滚动等措施。“AI恋爱伴侣”聊天机器人应设18+年龄门槛，通用AI聊天机器人涉亲密互动功能也限制18岁以下。更多细节预计7月公布。

上海市杨浦区人民法院近日公开审理一起利用AI技术敲诈勒索案。被告人杨某用AI伪造医院诊断证明、收费单据和投诉材料，以“就餐致病”为由向多家餐厅索赔，累计非法获利2500元。去年11月首次得手后，一个月内又以同样手法向四家餐厅索赔，金额逐次提高。警方对比材料发现电子票据印章不符，医院证实无就诊记录。法院一审认定杨某犯敲诈勒索罪，判处拘役四个月、缓刑四个月，并处罚金2000元。