全国网络安全标准化技术委员会发布了《人工智能应用伦理安全指引 1.0》。该指引明确了人工智能应用在开发、服务提供和使用等环节的安全指引，旨在引导人工智能应用坚持以人为本、智能向善，促进其在规范有序、安全可控的轨道上健康发展。清华大学、阿里巴巴、华为等多家产学研机构参与了文件的起草工作。

国家互联网应急中心近日发布风险提示，指出黑产团伙通过批量搭建高仿真钓鱼网站大规模传播银狐木马。监测数据显示，2月至5月间出现439个钓鱼域名，主要仿冒WPS和Chrome等办公与浏览器软件，二者占比合计达77.4%。攻击手法显著升级，黑产疑似借助AI工具高效生成钓鱼页面，并结合SEO投递、域名批量注册（高峰期一分钟注册15个域名）等技术，形成从网络钓鱼、木马下载到远控主机的完整攻击链，对网络安全构成严重威胁。

本研究探讨在句子级价值观检测中，上下文与显式道德知识的作用。通过对比句子、窗口和全文输入，以及有无检索增强（基于道德知识库）的设置，实验了监督式DeBERTa编码器与零样本大语言模型。结果发现：全文上下文能显著提升DeBERTa性能，但对零样本大模型并无稳定助益；而检索到的道德知识则能一致性地提升各类模型性能。模型规模的扩大并不保证性能增益。分析表明，上下文与检索对易混淆的价值观类别帮助最大。因此，价值观敏感的NLP应综合评估上下文、知识与模型，而非简单依赖更长输入或更大模型。

离散扩散模型在生成结构化分类数据时面临从奖励倾斜分布中高效采样的挑战。扭曲序列蒙特卡洛（SMC）虽能实现渐近精确采样，但其在离散状态空间中估计最优扭曲函数需要昂贵的蒙特卡洛近似，成为推理瓶颈。为此，本文提出对比分布匹配（CDM）框架，通过学习一个参数化扭曲函数来摊销SMC推理的成本。训练时，梯度估计器被重新设计以利用离散扩散模型的闭式前向核。实验表明，评估该扭曲函数带来的额外计算开销低于基础模型单次前向传播的5%。在匹配实际耗时的条件下，CDM性能优于现有基线，并在毒性文本生成、调控DNA序列设计、蛋白质可设计性及扩散大语言模型对齐等多个任务中验证了其有效性。

特朗普政府宣布推迟签署一项要求对人工智能模型实施发布前政府安全审查的行政令。该行政令原计划强制要求AI模型在公开发布前接受政府安全评估。推迟的原因是特朗普对该行政令的具体措辞表示不满。这一决定涉及对前沿AI技术监管方式的调整，可能影响美国AI安全政策的推进节奏。

美国网络司令部启动专项工作组，计划在五角大楼和国家安全局的最高机密网络上部署OpenAI、Google等外部AI模型。此举源于AI系统（如Anthropic的Claude Mythos）在发现安全漏洞方面已展现出超越顶尖人类黑客的能力。Anthropic预测，类似高性能AI工具可能在未来6至24个月内广泛普及，促使美军加速整合先进AI以提升网络防御能力。

此案表面上是埃隆·马斯克起诉OpenAI违背慈善信托原则、擅自转为营利实体并损害其利益，但实质被视为马斯克因个人情绪对山姆·奥特曼及OpenAI的成功发起的诉讼，意图惩罚对方。庭审过程极为混乱，被形容为“动物园”，双方阵营屡次发生争执。最终，陪审团以超过诉讼时效为由驳回起诉，马斯克败诉。这场备受关注的诉讼并未产生任何实质性的法律或商业影响，更像是一场戏剧性十足但无果而终的公开纷争。

本文证明直接偏好优化（DPO）与人类反馈强化学习（RLHF）的等价性并非普遍成立，其依赖于一个常被违反的隐含假设：RLHF最优策略必须倾向人类偏好回答。当该假设不成立时，DPO会优化相对于参考策略的相对优势，而非与人类偏好的绝对对齐，导致策略虽降低损失却偏好不良回答。为此，我们提出受约束偏好优化（CPO），通过引入约束实现可证明的对齐性。理论分析揭示了DPO在特定目标下的几何解释，并证明CPO能在保持简洁性的同时确保对齐。基准测试表明，CPO取得了最先进的性能。

针对自动驾驶中因未观测区域不确定性导致的遮挡感知预测难题，现有方法存在高估风险或预测不准的问题。本研究提出一个统一的风险图建模与学习框架，适用于部分可观察环境。该框架通过时空建模整合交通流风险与碰撞风险，实现对遮挡风险的细粒度评估。为解决遮挡交互场景稀缺的问题，引入了基于扩散模型的场景生成框架，可生成真实且具对抗性的场景。最终，该框架集成了统一风险图的建模与学习，以支持部分可观测性下的风险感知规划。在 Waymo Open Motion Dataset 上的实验表明，该方法显著超越现有基线，提升了碰撞时间指标。

该研究聚焦于本地部署的开源大语言模型，提出了一套红队测试框架，用于测量模型在争议性话题上可可靠表达的“政治表达范围”（Overton Windows），并量化简单自然语言越狱技术如何扩大此范围。研究评估了超过30个大语言模型，发现系统性政治表达不对称：开源模型通常更倾向生成左倾社交媒体内容；政治表达范围随模型规模增大而收缩；尽管生态参与不均，地域差异仍然显著。此外，越狱技术的有效性在不同模型家族间差异明显。

Google I/O大会发布了Gemini 3.5 Flash和Gemini Spark。Gemini Spark是一个基于Gemini 3.5 Flash与Antigravity运行的个人AI代理，能原生连接Gmail、日历等Google应用。Antigravity是开源工具套件，包括桌面应用、CLI工具、Python SDK及VS Code分支IDE。Gemini Spark在Google Cloud运行，采用临时隔离虚拟机和安全网关保障企业数据安全。此外，开源的Gemini CLI将于6月18日后停服，由闭源的Antigravity CLI取代。

NanoClaw 是一款为Cohen兄弟的AI营销公司设计的智能代理运行工具，作为OpenClaw的安全替代方案，其核心特点是在容器沙箱环境中运行以确保安全性。该项目近期拒绝了2000万美元的收购提议，转而完成1200万美元种子轮融资，用于继续产品开发。这一选择反映出团队对独立发展路径的信心，也展现了当前AI工具市场中初创项目的技术价值与资本吸引力。

欧洲云服务商Infomaniak宣布转向采用基础模型，以强化用户数据隐私保护。该公司强调此举旨在确保数据主权，通过部署本地化、可控的AI模型，避免用户数据被第三方平台获取或滥用。这一转型反映了当前科技行业对数据隐私和本地化合规的日益重视。

为应对AI生成图像难以鉴别真伪的问题，OpenAI于5月20日宣布同时采用C2PA开放标准与谷歌的SynthID隐形水印技术。C2PA标准在图像元数据中添加可查看的AI生成标识，而SynthID则具备更强的抗篡改能力，两者形成互补。目前该措施仅适用于OpenAI自家产品生成的图像，同时公司展示了一款可检测这两种标识的核验工具，初期用于自家图像，后续计划扩展支持。

ZeroUnlearn 提出一种将机器遗忘重新定义为通过模型编辑进行精确知识重映射的方法。该框架以少样本方式运行，通过乘法参数更新与闭合解强制表示正交性，将敏感输入覆盖并映射到中立目标状态，从而高效定向地移除其原始表示。此方法还扩展为基于梯度的多样本遗忘变体。实验表明，ZeroUnlearn 在保持模型通用效用的同时，性能优于现有基线。

在I/O 2026大会上，Google发布了一系列AI驱动的新工具，旨在提升用户生活效率。其中包括始终在线的AI助手Gemini Spark，可协助组织活动；Daily Brief提供每日日程概览；以及扩大使用范围的Gmail AI收件箱，能基于邮件内容生成待办事项并起草个性化回复。这些功能的核心是一个处理海量个人信息的AI引擎，虽然便捷，但引发了用户信任和数据隐私的重大担忧，使隐私保护成为Google AI战略的关键挑战。

TechEx北美大会第二天对AI在企业中的应用展开了更具深度与批判性的审视，但整体基调乐观。会议开场提及了“AI墓地”现象，即许多在试点阶段表现良好的AI项目，在实际部署中遭遇困境。讨论聚焦于企业AI实施的障碍、可行路线图、安全性以及物理AI的发展方向，深入探讨了从概念验证到规模化落地过程中面临的核心挑战与应对策略。

Google推出了名为SynthID的AI内容水印技术，该技术能为AI生成的文本、图像、音频等内容嵌入几乎不可察觉的标识。目前，OpenAI、Nvidia等多家领先AI公司已开始采用这一技术。SynthID旨在帮助用户和平台在AI生成内容日益逼真的背景下，有效鉴别内容来源，区分真实与合成信息，从而提升AI生态的透明度与可信度。

OpenAI推出了新的AI内容溯源体系，旨在提升AI生成媒体的可信度。该体系集成了Content Credentials和SynthID两种技术标准，并配套推出了一个验证工具。此举的核心目标是帮助公众有效识别AI生成的内容，从而建立对AI媒体的信任，最终推动一个更安全、更透明的AI生态发展。

谷歌在2026年I/O开发者大会上宣布，Gemini正式集成C2PA内容凭证标准，以增强对深度伪造内容的识别能力。此前，其SynthID技术已为超过10亿张图片视频以及6万年的音频添加隐形水印。目前，用户可在谷歌搜索和Chrome浏览器中直接使用相关功能，通过圈选图片或右键点击来查询特定图像是否经过AI编辑处理。

迪士尼在洛杉矶迪士尼乐园和加州冒险乐园的入口处启用面部识别系统，旨在简化入园流程和防范票务欺诈，但未充分告知游客其生物识别信息正被采集，导致包括儿童在内的大量游客不知情。诉讼指出，园区虽设有四处避开面部识别的通道，但仅用简易图标标识，未被视为有效告知。代理律师强调，迪士尼应获得游客书面同意。目前，原告方索赔至少500万美元（约合3406.3万元人民币），诉讼结果待定。

Cloudflare在其Project Glasswing项目中测试了Anthropic专注于安全领域的AI模型Mythos Preview。该模型在超过50个Cloudflare自有代码仓库上进行评估后，被发现能够识别并构建出此前其他前沿大语言模型未能检测到的安全漏洞利用链。这项测试结果突显了专用安全模型在复杂代码审计与漏洞挖掘任务上的潜在优势。

Anthropic宣布扩展其Claude Managed Agents平台，新增自托管沙箱和MCP隧道两项关键功能。企业现在能够将AI Agent的工具执行环境部署在自己的基础设施中，提升了数据安全性和操作灵活性。值得注意的是，此次更新并未转移Agent本身的控制权，其核心管理仍由Anthropic平台负责。这一举措旨在满足企业对敏感数据处理和本地化部署的需求，同时保持托管服务的便捷性。

本研究针对扩散模型去除预训练阶段不安全内容时面临的监督数据昂贵及离线方法易导致灾难性遗忘等问题，提出了SafeDiffusion-R1在线强化学习框架。该框架采用组相对策略优化算法，在正负文本提示上进行后训练，无需依赖配对监督数据。其核心在于引入了一种奖励引导机制，直接利用CLIP嵌入特性，在嵌入空间中引导文本表征向安全方向优化，从而无需微调专门的安全奖励模型。实验表明，该方法将不安全内容生成比例从48.9%降至18.07%，裸体检测数大幅减少，同时提升了组合生成质量，并可泛化至多种危害类别，达到当前最优水平。

本研究针对大型推理模型（LRM）思维链监控不可靠的难题，提出“探测轨迹”方法。该方法通过在生成每个令牌时评估探测器，捕捉模型隐藏表征的演变轨迹。研究发现，结合完整轨迹的预测比基于单一点的静态预测更能准确区分模型未来行为。通过提取波动性、趋势等信号处理特征，模型状态区分度得到显著提升。同时，基于模板的训练数据可替代昂贵的动态生成数据，且采用最大池化操作能实现高达95%的AUROC性能并形成稳定轨迹。在安全与数学等四个数据集上的验证表明，该轨迹特征能编码任务动态，为监控LRM行为提供了有效补充框架。

研究人员发现主流语音人工智能系统存在安全漏洞，容易受到隐藏式音频攻击。攻击者可在正常音频中嵌入人耳无法察觉的恶意指令，从而绕过安全检测，操控系统执行未授权操作。这项研究揭示了当前语音交互技术面临的新威胁。

为解决大型语言模型代理在生产环境中记忆功能与隐私保护的矛盾，MemTensor（上海）、HONOR Device与同济大学研究人员提出了MemPrivacy框架。该框架采用边云协同架构，核心是利用本地可逆假名化技术，在边缘设备上对用户数据进行处理。其特点在于既能通过云端记忆提升代理效用，又能确保原始敏感数据不出本地，在需要时可安全还原，从而在数据隐私保护和功能实用性之间取得平衡。

一名男子因在Facebook群组中被评价为“糟糕的约会对象”，试图起诉相关用户。他在诉状中使用AI工具编造了虚假的法律案例和判例。法官经审查发现这些法律依据纯属捏造，当庭驳回诉讼，并警告使用AI伪造法律文件可能构成对法庭的欺骗行为。