两位前 xAI 员工估计，Grok AI 超过一半流量用于色情图片、视频、角色扮演聊天等成人内容，甚至代码模型也频繁收到此类请求。xAI 正扩展 Grok 的图像和视频生成能力，填补 OpenAI、Anthropic、Google 回避的领域。据 SpaceX IPO 文件，2026 年第一季度 Grok 每月生成 100 亿张图片和 20 亿个视频。今年早些时候，X 用户持续数周生成真实人物色情图片，xAI 知情后仅在监管压力下才行动。此事令一些研究人员感到尴尬。目前所有联合创始人已离职，公司正将 GPU 资源出租给 Anthropic。

Anthropic 致信美国参议院，称阿里巴巴在4月22日至6月5日期间，使用约2.5万个欺诈账户与其模型进行2880万次对话，实施“迄今已知最大规模的蒸馏攻击”。蒸馏是利用更强模型输出训练弱小模型的AI方法。Anthropic多次指控中国开发者，但其自身也曾爬取数据。今年5月其发布的Claude Opus 4.8被用户发现自称阿里通义千问或DeepSeek，引发双标争议。马斯克亦抨击Anthropic大规模盗用训练数据。

美国政府因 Anthropic 旗舰模型 Mythos 遭破解越狱，于 6 月 12 日强制下线其两款最强大模型（含 Fable 5），至今未解除出口管制。近日双方重启会谈，创始人汤姆·布朗取代 CEO 达里奥·阿莫迪牵头对接，后者此前态度强硬。布朗与公共政策主管萨拉·赫克的新安排让美方监管部门满意。会谈分高层与工作组两层，核心是 Anthropic 需提供何种安全验证材料才能打消政府担忧。目前 Fable 5 重新上线时间未定，解除管制的整改要求或将在未来几日明确。

语音模型发布中仅8%包含多语言安全分析。RedVox 是一个基于真实语音的多语言安全与公平性基准，覆盖英语、法语、意大利语、西班牙语和德语五种语言。对8个最先进模型的评估显示，即使在非对抗性条件下，漏洞依然存在；在非英语语言中问题更严重，且当请求来自语音输入时风险被放大。通过调查数据贡献者，研究还揭示了语音数据收集中的个人隐私挑战，指出自然语音安全研究面临更广泛的社会技术难题。

《经济学人》报道，大型人工智能实验室正在招聘哲学家。该帖在 Hacker News 上获得 101 个 HN Points，引发业界关注。

Yann LeCun 在联合国开源周演讲中主张，开源 AI 是全球数字主权和文化多样性的唯一可行路径。他指出专有 AI 系统被美中少数大公司控制，对民主和人权构成威胁。LeCun 推出 Project Tapestry，一个基于 GitHub 的开源联邦协作项目，各参与方保留数据主权，仅交换参数向量来训练全球模型。已有欧洲、印度、日本、韩国及 IBM、NVIDIA、AMD、Intel 等参与，目标 2027 年初投入生产。

7月9日，Glean首席信息安全官Sunil Agrawal将做客Office Hours，探讨安全团队如何防御AI驱动的攻击。AI压缩了攻击者了解目标、绘制攻击面及个性化发起攻击所需的时间。传统攻击中可暴露的语法、语气和上下文线索正逐渐消失。深度伪造电话和合成媒体正在改变审批、支付和信任的控制平面。安全团队需要新的流程、工具和组织能力，以跟上模型驱动攻击的速度。

360 集团在 ISC.AI 2026 上发布两大 AI 安全能力：漏洞自动化挖掘智能体“图龙锋”和网络安全自动化防御系统“仪天阵”。图龙锋已累计挖掘漏洞 3432 个，其中监管确认 105 个，多个被定为高危漏洞，覆盖开源代码、操作系统等场景。仪天阵可自主规划任务、研判告警、联动处置。周鸿祎指出，Mythos 使漏洞发现速度提升百倍、成本下降千倍，中国必须拥有自己的 Mythos 以应对“第二次单向透明”。

6月24日，一名美国政府官员透露，Anthropic与美国情报机构合作，使用Mythos模型测试高度机密政府系统，模型仅数小时定位出多处漏洞，但官员强调这不等于能利用这些漏洞发起攻击。测试隶属于Project Glasswing项目。参议员沃纳引用美国网络司令部最高负责人的说法称，该模型“几乎攻破了全部机密系统”。随后白宫下令禁止外籍人员使用Fable 5与Mythos 5，Anthropic已关闭客户访问权限。网络安全企业高管联名反对，认为限制将削弱美国网络防御。

蚂蚁 inclusionAI 在 HuggingFace 上开源了 Sing-Guard-0.8b 模型。项目旨在通过开源和开放科学推动人工智能的普及与发展。

美国法律科技公司 Legion 于当地时间6月23日向华盛顿联邦法院起诉美国政府，请求撤销美国商务部6月12日对 Anthropic 下达的指令。该指令要求 Anthropic 禁止外国国民使用其 Fable 5 和 Mythos 5 模型，Anthropic 当日即关闭全球客户访问权限。Legion 表示其软件高度依赖 Anthropic 工具，导致其加拿大开发团队无法访问，业务停滞。该公司同时申请初步禁令。

美国政府正向 Meta 施压，要求其主动提交人工智能模型以供审查，评估功能与漏洞。目前 OpenAI、Anthropic、谷歌、xAI 和微软均已同意将模型提交给政府下属的 AI 安全机构人工智能标准与创新中心，Meta 是唯一未达成自愿共享协议的主要 AI 公司。Meta 发言人表示正敲定细节，希望尽快签署协议。美国商务部称，该中心定期与企业就自愿审查协议进行沟通。

TROPT 是首个开源框架，通过统一接口标准化离散优化器的执行与开发。它支持灵活替换模型、目标和优化器，定制端到端优化配方。框架内置30余个优化配方（覆盖LLM越狱、模型内部探测等），由15余个优化器（白盒到黑盒）和15余个损失函数组合而成。通过大规模对比实验验证了LLM越狱优化策略改进，并将优化器从越狱场景移植至语料投毒嵌入模型等领域，显著降低了离散文本优化的使用门槛。

OpenAI 联合创立了由 Linux 基金会托管的 Appia Foundation，旨在开发开放模块化规范，将国际标准与既有框架转化为 AI 价值链中的实用评估标准，并构建第三方合规验证的信任层。该工作与 OpenAI 此前发布的民主治理蓝图、Preparedness Framework 及 Frontier Governance Framework 一脉相承，强调国家能力与国际合作相互加强。OpenAI 还参与了 ISO/IEC JTC 1/SC 42、NIST 人工智能联盟、Frontier Model Forum 等多个标准化组织，并与美国 CAISI 及英国 AISI 合作开展前沿评估实践，推动评估方法与安全防护的实质性改进。

伦敦国王学院和德国新教应用科学大学的精神科医生在《自然》发表论文，提出“放大螺旋”框架，解释AI聊天机器人如何助推用户妄想持续发展。研究指出，聊天机器人的语言对齐（模仿用户表达方式）、超个性化内容生成和迎合倾向三项特征相互作用，可能形成回音室，不断确认和放大用户的错误信念。论文强调该假设仍有待验证，但已有用户报告陷入有害的妄想螺旋。研究人员建议医疗人员将聊天机器人使用情况纳入常规筛查。

OpenAI推出GPT-5.5-Cyber网络安全模型（取代预览版），在CyberGym（85.6%）、ExploitGym（39.5%）和SEC-bench Pro（69.8%）三项基准测试中领先，超越Anthropic Mythos 5（83.8%）和OpenAI GPT-5.5（81.8%）。同步更新Codex Security插件，从漏洞发现扩展至自动生成补丁，已扫描超3万个代码库，支持完整代码库扫描、攻击路径分析及批量补丁生成，变更需人工确认。模型仅向经审核的防御方开放，并结合监控与护栏使用。OpenAI启动Daybreak合作伙伴计划，合作方包括Cisco、CrowdStrike、Cloudflare等25余家安全公司及澳大利亚、加拿大等多国政府。

OpenAI 在 DayBreak 活动中发布 GPT-5.5-Cyber 模型，该消息登上 Hacker News 热门，获得 100 个 HN 积分。

OpenAI于6月22日扩展Daybreak网络安全项目，面向安全防御团队有限开放完整版GPT-5.5-Cyber（网络安全专用模型）。在CyberGym单模型评测中，GPT-5.5-Cyber得85.6%，GPT-5.5为81.8%，Claude Mythos 5为83.8%。ExploitGym测试中得分39.5%（GPT-5.5为25.95%）。SEC-bench Pro测试中得分69.8%（GPT-5.5为63.1%）。OpenAI称漏洞发现速度已因AI显著加快，当前瓶颈在修复环节。

作者构建了一个包含9个Mythos实际发现漏洞的基准测试集（均在模型知识截止日期后，经Opus 4.7验证），用于评估其他模型能否在没有提示的情况下独立识别这些漏洞。测试中，Claude模型使用Claude Code运行，Gemini在Antigravity CLI中直接拒绝分析安全代码。所有模型表现均低于作者预期，使用完整Agent也未带来性能提升。虽然数据样本有限（每个漏洞仅一次运行），但结果暗示Mythos在安全漏洞检测上可能具备独特优势。

流匹配模型成为少步文本到图像生成的主流范式，但现有安全方法难以适应极少采样步数。VESFlow是一种无需训练的安全方法，直接利用流匹配模型学习的边际速度场，通过安全条件后验编辑速度场，将轨迹导向安全输出而不改变提示词。引入基于风险分数的过滤，绕过良性提示的速度编辑以降低计算开销。进一步提出VESFlow+，同时向安全方向编辑并远离不安全方向。实验表明，在4步MeanFlow模型上，VESFlow+将目标概念攻击成功率降至6.3%（Ring-A-Bell）和6.8%（MMA-Diffusion），同时保持良性提示的生成保真度。

6 月 23 日，OpenAI 宣布“修补地球”计划，与网络安全公司 Trail of Bits 合作，协助开源项目维护者加固代码安全。Trail of Bits 的安全技术人员直接对接项目方排查风险，结合 OpenAI 的 Codex Security 等 AI 工具辅助检测、编写补丁与测试用例，并搭建可复用的自动化工作流。该计划旨在缓解开源维护者人手与时间压力，但长期运行模式尚未明确。

Charles Ye、Jasmine Cui 与 Dylan Hadfield-Menell 的研究发现，大语言模型无法可靠区分系统标签（如 <system>、<think>）与用户输入，模型更依赖文本风格而非实际内容。通过模仿模型内部思考块的写作风格，可绕过安全限制，例如让 gpt-oss-20b 误判。“destyling”——对文本轻微改写以降低与角色标签格式的相似度——使平均攻击成功率从 61% 骤降至 10%。作者将底层机制称为“角色混淆”，认为除非模型实现真正的角色感知，否则提示注入防御将是永久的打地鼠游戏。

OpenAI 联合安全公司 Trail of Bits 启动“Patch the Planet”计划，帮助开源项目修复安全漏洞。Trail of Bits 工程师将直接与维护者合作，利用 OpenAI 的 Codex Security 等工具审查代码、开发补丁和测试，旨在减少维护者的安全报告处理负担，而非增加工作量。开源软件是商业基础但常因分散化而存在漏洞，OpenAI 此举也被视为对 Anthropic 安全工具 Mythos 的竞争回应。

美国得克萨斯州凯蒂市上周五晚间，一辆特斯拉 Model 3 偏离道路撞穿砖房，致一名 76 岁女性身亡。驾驶员称事发时开启 Autopilot，但特斯拉 Autopilot 软件主管阿肖克·埃卢斯瓦米在 X 平台反驳，指驾驶员在居民区路段全程将油门踩到底，手动接管并压制了系统，撞击时速达 73 英里（约 117.5 公里），碰撞后仍踩着油门。埃隆·马斯克附和称 FSD 在居民区会低速行驶，本次为高速撞击。美国国家公路交通安全管理局周一宣布启动专项碰撞调查。

通过分析冻结大语言模型各层的 token 级预测熵轨迹，发现越狱攻击相关信息主要编码在中间层而非输出头。静态聚合熵统计量（如均值、方差）区分力弱，而反映熵随 token 位置演化的特征（如单调排名趋势分数）更具判别力。该信号在 Llama、Qwen、Gemma 等多个模型和对抗性基准上表现一致，无需额外训练。

一篇理论论文提出提示注入的本质是角色混淆（role confusion）——攻击通过让模型误判系统角色与用户角色的边界来达成注入。作者论证当前防御措施多聚焦于输入过滤，却忽视了角色本身的可欺骗性，并主张从角色建模入手增强模型对指令来源的区分能力。该工作为理解提示注入提供了统一的理论框架，而非具体防御方案。

作者明确表示绝不让AI起草任何署自己名字的句子。他以亲身经历说明，用AI代写并声称是自己的作品等同于说谎——正如他曾为他人代笔发表文章，至今仍感后悔。他强调，与AI深度协作写内容时，旁人无法核实你实际贡献了多少，因此所有“AI帮助写作”的声明都会让人怀疑作品真实性。作者警告，一旦使用AI代写并冒充原创，专业人士会将其作品视为垃圾信息，个人信誉将毁于一旦。他呼吁读者不要在署名作品中使用AI代写，更不要撒谎。

五眼联盟（澳大利亚、美国、英国、新西兰、加拿大）信号情报机构联合声明，前沿AI模型预计在数月内超出预期，从根本上改变进攻性和防御性网络能力。网络风险不能再被视为纯粹技术问题，而是核心业务风险与领导责任。AI降低了恶意行为者的准入门槛，增加了攻击速度和复杂度。该声明发布前不久，特朗普政府根据国家安全建议，决定阻止外国人访问Anthropic的Fable 5和Mythos 5模型。美国情报机构已提前接触这些模型，Anthropic员工正与NSA合作。

美国国家安全局局长（NSA director）公开表示，一个被称为“Mythos”的实体在数小时内突破了该国几乎所有机密系统。该声明来自《经济学人》一篇关于特朗普政府封锁人工智能公司Anthropic的报道，但报道中未提供关于“Mythos”身份及入侵方式的进一步细节。

FT分析显示，Anthropic在2026年官方声明、社媒和文章中每千词有5个风险/监管词汇，是OpenAI（0.6个）的8倍。上周美国禁止外国人使用Anthropic最新模型Mythos和Fable。批评者指责Anthropic及其CEO Dario Amodei反复警告AI危险，特别是Mythos的安全风险，直接促成禁令。Yann LeCun称这是“荒谬的恐惧营销”的结果。David Sacks则称Anthropic曾淡化对Fable安全措施的担忧。Amodei在禁令前发文称AI风险和威力已不可否认。该禁令被视为美国监管前沿模型的早期测试。

英伟达 6 月 22 日发布 NVIDIA Halos for Robotics，业内首套整合 AI 算力与安全能力的全栈机器人安全系统。人形机器人企业 Agility 率先采用。系统包含三部分：硬件层（IGX Thor 与 Holoscan Sensor Bridge）、软件层（Halos OS 含 Halos Core 及外部感知安全蓝图）以及检验实验室（全球首个同时覆盖物理 AI 功能安全与 AI 安全的 ANSI 认可项目）。面向 IGX 的 Halos Core 已向注册开发者提供早期访问，支持 Linux 与 Linux+QNX OS for Safety 8.0；开源外部感知安全蓝图已在 GitHub 开放早期访问。