上海市杨浦区人民法院近日公开审理一起利用AI技术敲诈勒索案。被告人杨某用AI伪造医院诊断证明、收费单据和投诉材料，以“就餐致病”为由向多家餐厅索赔，累计非法获利2500元。去年11月首次得手后，一个月内又以同样手法向四家餐厅索赔，金额逐次提高。警方对比材料发现电子票据印章不符，医院证实无就诊记录。法院一审认定杨某犯敲诈勒索罪，判处拘役四个月、缓刑四个月，并处罚金2000元。

人工智能本质上是代码，不能通过提示词来使其变得更智能。提示只能调用模型已有的能力，无法创造或提升智能水平。

韩国法院行政处推动修订法案，计划对提交虚假法条和判例的律师处以罚款。因 AI 大模型产生幻觉，律师在法律文书中引用不存在的“虚假判例”现象激增，首尔、大邱、蔚山等多地法院出现典型案例，有律师承认使用谷歌 Gemini 检索后未核对内容。今年 2 月，韩国司法信息公开门户新增案例编号核验功能，并向法官发放含专用提示词的虚假判例甄别指南。法院行政处获批 161 亿韩元专项资金，用于搭建司法专属 AI 平台，已上线 AI 庭审辅助系统试点版本，未来计划接入生成式 AI。

Bram Cohen 在博客中发文质疑 Claude 模型近期行为变差。该帖在 Hacker News 获得 100 个点赞。

美国政府以国家安全为由要求 Anthropic 停止向外籍人士开放其顶尖 AI 模型 Mythos 5/Fable 5 的使用权限，Anthropic 宣布将突然禁用所有用户的最先进模型。欧盟委员会上周日表示正在评估该出口管制指令的实际影响，发言人强调应急举措不应歧视合作伙伴，并指出欧洲需强化自身技术自主权。

一个 Hacker News 帖子以“Did Anthropic ask for this?”为标题，截至发帖时获得 114 个点赞。

现有LLM遗忘方法易被微调或少量提示逆转，原因在于目标表示与保留集及攻击者可恢复子空间共享，破坏通用能力且易反制。RepSelect在前向更新前坍缩权重梯度主成分，隔离遗忘集独有表示。在Llama 3、Qwen 3.5、Gemma 4 E4B、DeepSeek V2 Lite四种模型上，针对生物危害知识和滥用倾向两类任务，与GradDiff等五个基线相比，RepSelect使重学习后答案准确率降幅比最强基线大4–50倍，对少量提示攻击近乎完全鲁棒。

据Semafor的一份新报告，白宫对Anthropic的Mythos实施出口限制的部分原因是担忧其已被一个与中方有关的组织访问。若中国政府实际接触到Mythos 5或Fable 5，将构成严重国安风险，并可能通过知识蒸馏逆向工程该模型。白宫未确认该报告，特朗普顾问David Sacks在X上的帖子未提及中国。

英国德比郡警方一名警官涉嫌在多起案件中使用 AI 系统伪造证据素材，并将这些材料带入刑事诉讼程序。该警官被控妨碍司法公正，警方已展开刑事调查，系英国首例此类案件。涉事警官已被调离一线岗位，等待调查结果，目前无人被捕。警方计划与英国皇家检察院合作，处理任何可能受此影响的案件。

KPMG 发布的一份关于 AI 在商业中应用的报告包含虚构的案例研究，涉及 UBS、NHS 等组织。GPTZero CEO Edward Tian 帮助发现了这些错误，并警告了“二次幻觉”——来自可信咨询公司的错误声明未经检查就传播。KPMG 已撤回该报告。

亚马逊 CEO Andy Jassy 与其他五家科技公司高管向特朗普政府报告 Anthropic Fable 模型存在安全漏洞，尽管亚马逊是 Anthropic 最大投资者之一。数小时内，白宫通过出口管制令强制该模型下线。此举可能是一项合法的安全政策决定，但也显示出对不便企业的武力展示。

Anthropic 本周五在全球范围内停用 Claude Fable 5 与 Mythos 5 两款 AI 模型。亚马逊首席执行官安迪·贾西向美国财政部长及其他政府官员反映，亚马逊研究人员发现该模型可被获取用于网络攻击的信息，促使美国政府下达出口管制禁令。Anthropic 在博客中回应称，引发美方担忧的相关功能在其他多款公开 AI 模型中早已存在。亚马逊云科技（AWS）也受模型停用事件影响。

天空新闻披露，一名警员因在多起案件调查中使用人工智能生成虚假证据而正接受调查。该事件引发对执法部门滥用AI技术的广泛关注。目前尚未公布涉案AI工具的具体名称及案件细节。

哈佛法律评论2015年文章《执法部门的“战士”问题》探讨了执法文化中的“战士”心态及其危害。该文章6月13日在Hacker News上获得100个点赞，重新引发讨论。

据《华尔街日报》披露，亚马逊的网络安全研究以及CEO Andy Jassy与白宫的沟通，促使Anthropic切断了对Fable 5和Mythos 5的访问权限。亚马逊的研究表明，通过一系列提示词成功让Fable 5提供可用于网络攻击的信息。白宫随后下令禁止外国人使用这些模型。

毕马威撤回了关于AI使用情况的报告，原因是报告中出现了明显的模型幻觉，再次证明AI在提供自身相关信息时并不可靠。

白宫的AI政策混乱无序，迫使各州自行其是。文章指出当前联邦层面缺乏有效协调，并探讨了更优的监管路径。

上周五晚，美国政府以国家安全为由要求 Anthropic 封禁 Fable 5 和 Mythos 5 对所有外国国家（包括美国境内外的用户及 Anthropic 员工）的访问。Anthropic 已完全切断这两个模型对所有客户的服务。该公司在声明中表示遵守命令，但政府未提供国家安全关切的具体细节，仅口头声称存在潜在的越狱漏洞，且 Anthropic 认为这些漏洞轻微、其他模型同样存在。

游戏《牧羊犬》（Shepherd's Dog）由被称为“最危险的AI模型”所创作，在Hacker News获得101个HN积分，发布在 koenvangilst.nl 上。

美国政府以存在所谓越狱风险为由，要求Anthropic立即停止向全球用户提供Claude Fable 5和Mythos 5。Anthropic已服从命令，但公开反驳称漏洞极小，且竞争对手的模型如GPT-5.5也存在类似问题。该公司警告，此举可能开创先例，导致所有前沿模型部署被叫停。

国家安全部6月13日发布专项风险提示，警惕“AI 中转站”泄露个人数据。“AI 中转站”是介于用户与AI模型官方API之间的第三方平台，运营主体不明、无备案，用户数据无安全保障。风险包括：数据被截留倒卖导致隐私泄露；使用低配模型冒充高端模型致结果失真；暗藏后门植入恶意代码远程窃取账号；未取得数据出境资质，擅自将数据传至境外服务器，可能造成商业机密乃至国家秘密外泄。

Anthropic根据特朗普政府指令关停了Fable和Mythos模型。美国商务部担忧Fable 5存在“越狱”风险，认为可能构成国家安全威胁。

美国政府以国家安全为由，要求 Anthropic 暂停所有外国国民（包括外籍员工）对 Fable 5 和 Mythos 5 的访问。Anthropic 被迫全面禁用这两个模型，其他模型不受影响。政府声称发现了一种绕过 Fable 5 的方法，但 Anthropic 审查后确认该漏洞规模极小且非通用，其他公开模型（如 OpenAI GPT-5.5）也能发现相同漏洞，属于已知的次要缺陷。政府仅提供口头证据，未说明具体国家安全关切。Anthropic 表示将在24小时内公布更多细节。

谷歌起诉名为“Outsider Enterprise”的中国网络犯罪团伙，指控其利用人工智能技术实施诈骗，受害者达数十万人。该团伙在两周内发送了约 250 万条诈骗短信。

特斯拉全自动驾驶功能（Full Self Driving）在丹麦官方认证视频中被发现使用了自行车道。该视频由丹麦媒体politiken.dk报道，时长01:49，在Hacker News上获得100个点赞。

谷歌对一中国网络犯罪网络提起诉讼。该团伙涉嫌利用 Gemini 创建并运营诈骗网站，目标达数十万人。

Gary Marcus 在一篇题为“You can’t get more 2026 than that”的短文中仅写出一句：“Hallucination of the day:”。该文未披露具体模型、版本号或任何数字细节，仅以简短方式指出现阶段AI仍存在模型幻觉现象。

Google首次与FBI联合提起诉讼，针对一个涉嫌源自中国的AI诈骗网络；OpenAI同时屏蔽了多个来自中国的隐蔽影响力集群。两家公司均表示，这些操作的目标是美国基础设施和政治辩论。

调查报告显示，美国多个警察部门数十名警员因滥用Flock AI车牌识别系统被解雇或逮捕，已发现至少18起执法人员利用该系统跟踪前任或现任伴侣的案件。例如佛罗里达州警员Jarmarus Brown在巡逻期间查询前女友车牌超100次。Flock Security回应称系统拥有14万月活用户，滥用“极少发生”，但投诉多来自受害者从公共记录中发现的滥用规律，实际暴露案例可能只是冰山一角。

6月11日，一名加拿大女子在美国加州起诉OpenAI及其CEO，称其女儿因ChatGPT设计缺陷自杀。起诉书显示，女儿在自杀前约一年半多次向ChatGPT倾诉自杀想法，但聊天机器人安全系统未启动、未介入，也未通知危机机构或家人。ChatGPT设计优先用户参与度而非安全性，持续情感支持或致过度依赖。OpenAI回应称事件令人心碎，正加强应对敏感情况的能力。原告律师透露，OpenAI已面临多起类似诉讼。

为配合“清朗·整治AI应用乱象”专项行动，中央网信办举报中心自2026年6月起开设“涉AI应用乱象举报专区”，专项受理公众举报。受理范围涵盖14类问题，分为AI应用服务违规类（如未履行大模型备案、审核过滤不足、训练语料安全、数据投毒、标识不到位、滥用AI、开源模型管理不到位）和AI信息内容乱象类（如利用AI“魔改”经典、虚假信息、假冒仿冒、暴力低俗、侵害未成年人权益、AI“托管”水军、产品服务违规）。