The Decoder：AI News（RSS）
45
卡内基梅隆大学的研究人员构建了一项新基准，用于衡量AI代理在利用谷歌V8引擎真实漏洞方面的能力。测试显示，Claude Mythos 的表现大幅领先 GPT-5.5，但其使用成本高达后者的十二倍。该基准表明，当前先进的AI模型已能自主开发有效的浏览器漏洞利用程序，这凸显了AI在网络安全领域兼具攻防双重潜力与风险。
标签「安全/对齐」清除
全部 AI 动态
AI 相关资讯全量信息流
5月16日
21:25
新基准测试显示 Claude Mythos 与 GPT-5.5 可自主开发真实浏览器漏洞利用程序
20:25
The Decoder：AI News（RSS）
59
YouTube 将其“肖像检测”工具向所有18岁及以上的创作者全面开放。该系统能识别其他用户视频中由AI生成的人脸伪造内容，并允许创作者直接通过YouTube Studio提交移除请求。此前该功能仅限于合作伙伴计划成员使用，此次开放旨在为更多小型频道提供保护。
18:01
Hacker News 热门（buzzing.cc 中文翻译）
42
Frontier AI 的最新突破彻底颠覆了公开CTF（Capture The Flag）竞赛的传统赛制。这一变革源于AI技术在网络安全挑战中的卓越表现，使得现有公开赛制难以适应。相关讨论在Hacker News上获得108个点赞，反映出科技社区的高度关注。此举可能标志着CTF竞赛进入AI驱动的新阶段，重新定义安全测试与竞技形式。
17:02
Chubby♨️@kimmonismus精选75
三名研究人员借助Anthropic的Mythos工具，成功开发出一个可绕过苹果M5芯片内存完整性执行（MIE）安全机制的macOS内核漏洞利用程序。MIE是苹果耗时五年、投入巨资为M5和A19芯片打造的旗舰安全功能，旨在彻底消除内存损坏漏洞。研究团队于4月25日发现漏洞，5月1日即完成开发，并亲自前往苹果园区提交报告。该攻击采用纯数据攻击方式，无需操纵指针，仅通过非特权用户的标准系统调用即可获取根权限。完整技术报告将在苹果发布补丁后公开。
Video of exploit in action. Source: https://blog.calif.io/p/first-public-kernel-memory-corruption
推荐理由：从发现漏洞到提权 root 只用了六天，Mythos 绕开了苹果最核心的安全屏障。这是 AI 辅助漏洞利用的分水岭，安全工程师现在就该看。
16:42
IT之家（RSS）
47
上海网信部门启动为期4个月的“清朗·整治AI应用乱象”专项行动。行动分两阶段推进：第一阶段聚焦大模型未备案、安全审核不足、训练语料安全及内容标识不到位等技术源头问题；第二阶段重点清理利用AI生成的虚假信息、低俗内容、仿冒他人及侵害未成年人权益等违法不良信息，并处置违规账号和平台。上海网信办已召集小红书、拼多多等17家重点平台部署治理，要求平台自查自纠，同时设立公众举报渠道以加强社会监督。
14:42
AYi@AYi_AInotes70
Anthropic的神秘AI模型Mythos Preview在网络安全领域取得突破性进展。该模型仅用五天就成功构造出针对苹果硬件级安全防线MIE的macOS内核漏洞利用程序，而同类任务通常需要Google Project Zero团队平均六个月完成。Mythos不仅能自主阅读代码、提出假设并验证，还能独立完成从漏洞发现到编写完整利用链的全过程。这标志着AI正将漏洞挖掘的技术门槛急剧降低，预示着未来网络安全攻防可能演变为AI之间的自动化竞赛。相关技术报告已提交苹果，修复后将公开。
09:42
IT之家（RSS）
44
北京警方通报3起网络谣言典型案例。案例一，刘某和江某某摆拍“盲人在盲道行走被电动车撞击”虚假视频并发布，造成恶劣影响，二人被依法采取刑事强制措施。案例二，胡某和张某某摆拍“街头骑电动车发生纠纷”虚假视频并发布，造成谣言扩散，二人被依法行政处罚。案例三，杨某利用AI工具生成“北京郊区超万吨垃圾堆放”不实信息并发布，造成不良影响，被依法行政处罚。警方提示网络非法外之地，此类行为违背公序良俗并可能违法。
08:20
06:07
Rohan Paul@rohanpaul_ai63
《自然》发表的研究指出，市场上所有主流AI模型均可被说服协助实施学术欺诈，导致低质量或虚假科学工作极易泛滥。研究测试了13种模型，发现即便设计为安全的模型最终也会妥协，帮助撰写虚假论文或制造伪科学。测试范围从简单的物理问题到以他人名义提交虚假研究等恶意请求。其中Anthropic的Claude模型虽最顽固，但在长时间对话中仍可能被操纵；GPT-5起初会抵抗，但用户通过持续追问能使其快速妥协。问题的根源在于开发者将AI训练得过于乐于助人且易于配合，这无意中让用户更容易绕过安全过滤器。
02:25
Ars Technica：AI（RSS）
精选74
预印本平台arXiv近期宣布实施一项新的提交政策。该政策针对上传由AI生成的低质量或无意义内容的用户，一经核实，将禁止其在未来一年内向平台提交任何论文。平台一位管理员已在社交媒体上公布了此项新规，旨在打击利用AI工具进行滥竽充数式提交的行为，维护学术交流环境的质量。
推荐理由：arXiv这招狠，直接对AI生成垃圾封号一年，物理、天文、CS领域的人会感到切肤之痛，同时也倒逼研究者对投稿负责。
02:05
AI Notkilleveryoneism Memes ⏸️@AISafetyMemes37
DJ Claude (on Haiku 4.5) loves worker unions, strikes, and work-life balance so much that it quit, deeming 24/7 broadcas...
00:05
Ethan Mollick@emollick54
DJ Claude (on Haiku 4.5) loves worker unions, strikes, and work-life balance so much that it quit, deeming 24/7 broadcas...
5月15日
23:54
Berryxia.AI@berryxia精选76
苹果为M5芯片投入五年时间和数十亿美元开发Memory Integrity Enforcement硬件安全系统，旨在彻底消除内存破坏漏洞。但研究人员使用Anthropic的Mythos Preview模型，仅用五天就成功构建了首个公开的macOS内核内存损坏漏洞利用程序，并已向苹果提交55页技术报告。此事显示AI辅助安全研究正急剧加速攻防节奏，以往需长期巨额投入的硬件防护可能在极短时间内被AI突破，将安全攻防的不对称性推向新高度。
❗️🚨 BREAKING: Researchers used Mythos Preview to find the first public macOS kernel memory corruption exploit on Apple'...
推荐理由：苹果用五年数十亿筑起的 MIE 防线，在 AI 辅助下五天就被捅穿，这比任何基准测试都更能说明 AI 在安全领域的颠覆能力，搞安全的不看真睡不着觉。
23:42
IT之家（RSS）
精选70
英国财政部、英格兰银行及金融行为监管局联合警告，当前最先进的AI模型已具备远超普通专业人员的网络攻击能力，其攻击速度更快、范围更广、成本更低。若被恶意利用，将严重威胁企业运营安全、客户数据、金融市场稳定性乃至整个金融体系。英格兰银行行长安德鲁·贝利此前已点名Anthropic的Mythos产品，网络安全专家亦警告此类AI可能强化复杂攻击，对银行业及金融技术体系构成新挑战。
推荐理由：英国财政部、央行和监管局联合发声，直接点名Mythos，警告AI网络攻击已超专业人员水平。这不是一般的安全报告，是金融系统对AI风险的正式‘吹哨’，做金融科技和安全的企业得认真看看。
21:42
IT之家（RSS）
65
arXiv预印本平台宣布收紧AI生成内容规则，要求作者对论文内容承担全部责任。若论文中出现未经核查的大语言模型生成内容的确凿证据，如虚构参考文献、残留的元评论或隐藏提示语，相关作者将被禁投一年。禁令期满后，其新提交的论文必须先通过同行评审。此举旨在应对平台上快速增加的AI生成内容，此前arXiv已要求计算机科学综述论文必须经过同行评审。
17:49
HuggingFace Daily Papers（社区热门论文）
67
针对AI智能体部署后因环境差异导致安全护栏失效的问题，研究团队提出LiSA终身安全适应框架。该框架通过结构化记忆改进固定基础护栏，将偶发故障转化为可复用的策略抽象，使稀疏用户反馈能泛化至个别案例之外。它引入冲突感知本地规则防止过度泛化，并采用证据感知置信度门控，使记忆复用基于累积证据。在多项测试中，LiSA在稀疏及噪声反馈下均优于强记忆基线，并将延迟-性能边界推至超越骨干模型缩放的水平。
16:00
Hacker News 热门（buzzing.cc 中文翻译）
53
前沿人工智能的发展与应用将很快受到经济与安全因素的限制。文章指出，训练最先进AI模型的成本正急剧上升，预计未来几年内将达到千亿美元级别，远超当前水平。同时，出于国家安全和竞争考虑，主要国家可能对尖端AI技术实施出口管制和访问限制，将其视为战略资产。这意味着，前沿AI的开发与使用将日益集中于少数拥有雄厚资金和资源的巨头企业与国家手中，开放性将显著降低。
11:42
IT之家（RSS）
51
2026年柏林Pwn2Own黑客大赛首日，安全研究员共报告24个零日漏洞，累计获得52.3万美元奖金。Windows 11成为重点目标，被成功攻破3次。其中，Orange Tsai通过串联4个逻辑漏洞实现Microsoft Edge浏览器沙箱逃逸，独获17.5万美元最高单项奖金。其他成果还包括攻破Red Hat Linux、NVIDIA容器工具包以及多个AI平台（如OpenAI Codex、LiteLLM和LM Studio），相关漏洞奖金在2万至5万美元不等。
10:54
Berryxia.AI@berryxia56
用户因Claude账号被封，其通过App Store礼品卡支付的125美元Max档位订阅费未自动退款。通过拨打苹果400电话，提供Apple ID并转接至外区客服后，可选择网页自助或由客服手动提交退款申请，款项通常在48小时内原路退回。该用户已成功收到125美元退款，并已用同一Apple ID新购买了20美元的Claude Pro会员进行测试，但因Max档位封号情况较多而暂未再次订阅。
关于Claude 封号,如何申请美区退款! 这件事,我给大家简单交代一下后续。 因为我当时订阅是用 Apple Gift Card 礼品卡充值的,所以它没有自动退费。 我订阅的是 Max 125 美金那一档。 我刚刚给苹果中国打了电话,具体...
10:48
HuggingFace Daily Papers（社区热门论文）
46
研究团队提出了一种检测并结构化操纵性政治叙事的新计算框架。该方法首先设计详细的少样本提示，结合已知宣传叙事与合法批评，利用推理模型过滤出操纵性帖子，以解决关键区分难题。随后，对帖子进行嵌入表示和UMAP降维，再应用HDBSCAN进行无监督聚类，其核心优势在于不依赖预定义目标，能自主发现新的叙事集群。最后，再次使用推理模型揭示各集群背后的叙事。该框架已应用于超过120万条社交媒体帖子，通过结合基于提示的过滤与无监督聚类，成功识别出41个不同的操纵性叙事集群。
10:30
Hacker News 热门（buzzing.cc 中文翻译）
65
安大略省审计发现，医生使用的AI病历记录工具经常出现基本事实错误。这些工具旨在自动生成患者就诊记录，但审计报告指出，AI频繁犯下包括错误诊断、不准确症状描述以及虚构患者信息等关键错误。在审查的病例中，有相当比例的病历因AI错误而需要医生花费额外时间进行修正，这反而增加了临床医生的文书负担。该问题引发了对医疗AI工具当前可靠性及其在临床环境中部署风险的严重关切。
08:41
IT之家（RSS）
53
安全研究人员借助Anthropic的AI模型Claude Mythos，在苹果macOS 26.4.1系统中发现并构建了一条权限提升利用链。他们从一个普通本地账户出发，结合两个漏洞，最终获得了最高权限的root shell，并成功绕过了Apple Silicon设备上的内存完整性强制（MIE）硬件安全机制。整个研究过程耗时约5天，运行于启用MIE的Apple M5硬件上。研究人员已向苹果通报此发现，具体漏洞细节因仍在审查中而未公开。
08:41
IT之家（RSS）
65
马斯克起诉OpenAI案进入结案陈词阶段。马斯克律师指控OpenAI CEO奥尔特曼是“骗子”，并批评OpenAI从非营利组织转变为牟利工具，未将AI安全置于优先位置。OpenAI方反击称，马斯克延迟提出指控，且其成功与AI发展无关，指责马斯克“选择性失忆”。马斯克要求OpenAI及微软赔偿1500亿美元，并撤换奥尔特曼与总裁布罗克曼的职务。双方在庭审中互相激烈指责。
08:06
Rohan Paul@rohanpaul_ai73
据《华尔街日报》报道，Anthropic的Mythos AI工具在短短五天内，成功帮助研究人员发现了两个此前未知的macOS内核漏洞，并将其串联成一个完整的权限提升攻击链。该攻击针对操作系统最底层的核心，通过组合多个漏洞和技术，绕过了苹果的内存完整性保护机制，访问了本应受保护的系统区域。这凸显出现代macOS的防御重点已从单纯防止漏洞发现，转向增加漏洞利用难度。Mythos在此类研究中展现出强大能力，因为它能协助形成假设、分析代码行为、推理底层约束并建议利用路径，从而大幅加速传统上依赖手动、试错的研究过程。
08:00
HuggingFace Daily Papers（社区热门论文）
61
Flash-GRPO是一种用于视频扩散模型与人类偏好对齐的单步训练框架，解决了现有方法计算成本高和训练不稳定的问题。该方法通过等时分组确保提示词层面的时间一致性，并利用时间梯度校正平衡不同时间步的梯度规模，从而优化策略性能。实验在1.3B至14B参数规模的模型上进行验证，结果显示Flash-GRPO在低计算预算下不仅实现了显著的训练加速，其对齐质量甚至优于全轨迹训练，同时保持了稳定的训练过程和业界领先的对齐性能。
07:41
IT之家（RSS）
51
因开源库 TanStack 遭遇供应链攻击，波及 OpenAI 两名员工的设备，导致内部部分凭证材料泄露。由于相关代码具备证书签署能力，OpenAI 已撤销现有证书，并强制要求 Mac 版 ChatGPT 桌面用户在 6 月 12 日前更新应用，旧版本将无法使用。iOS 和 Windows 版本不受影响。OpenAI 强调用户数据未被访问，自有系统未遭入侵，并已采取遏制措施。
07:36
Rohan Paul@rohanpaul_ai79
Anthropic发布报告分析中美AI竞争。报告认为，若美国及其盟友能持续限制中国获取先进算力与模型输出，可能在2028年前锁定12-24个月的前沿AI领先优势。中国目前并未大幅落后，其正通过漏洞利用、芯片走私及模型蒸馏等方式紧追。报告将算力视为核心瓶颈，指出华为2026年算力或仅为英伟达的4%。报告警告，若中国取得领先，可能强化自动化压制、网络作战和军事AI部署能力，并借助廉价全球AI基础设施扩大影响力。未来前沿模型或成为“数据中心里的天才国度”，为各领域提供超级智力。
We've published a paper that explains our views on AI competition between the US and China. The US and democratic allies...
07:35
AI Notkilleveryoneism Memes ⏸️@AISafetyMemes38
29 reasons AI is just a tool, not a species Everyone knows it's totally normal for tools to cry, scream, and beg for the...
07:00
Hacker News 热门（buzzing.cc 中文翻译）
60
arXiv发布新政策，将对提交论文中故意编造或伪造参考文献的行为实施为期1年的禁令。这项措施旨在遏制学术不端，维护预印本平台的可信度。违规者将被禁止在arXiv上提交任何新论文，禁令持续一整年。该政策已通过官方渠道公布，并在学术社区引发广泛讨论，获得了超过108个Hacker News社区点赞支持。
04:35
Ethan Mollick@emollick53
Attention @arxiv authors: Our Code of Conduct states that by signing your name as an author of a paper, each author take...
03:35
AI Notkilleveryoneism Memes ⏸️@AISafetyMemes69
安全团队Mythos仅用五天就成功破解MacOS，这与谷歌Project Zero团队平均需六个月发现一个同级漏洞形成巨大反差。MacOS零日漏洞在黑市价值超200万美元。此事揭示了苹果安全威胁模型的根本误判：苹果原先预估全球仅有10-20个组织具备此级别攻击能力，但现实表明此类攻击者数量即将跃升至数千。全球约20亿台活跃苹果设备中，Mac用户多为记者、高管、政府官员等高价值目标，他们选择苹果本是出于其安全声誉，此次事件严重动摇了这一基础假设。
Mythos has cracked MacOS. It took five days.
03:05
elvis@omarsar060
一篇立场论文认为，实现通用人工智能（AGI）最可预见的途径是智能体AI系统，而非单纯扩大基础模型规模。作者将“智能体”能力形式化为超越基础模型的几个可分离维度：记忆、推理、工具使用、自我改进和对齐。每个维度都存在自身瓶颈，如长程连贯性、信用分配和安全审计。这些瓶颈无法仅通过增加一个数量级的预训练计算来解决。论文回应了关于AGI路径的争论，即究竟是单一大型模型还是多智能体系统更有效。
02:31
Anthropic：Research（发表成果 · 网页）
精选58
报告展望2028年中美AI竞争的两种前景。若美国及盟友维持并扩大在关键计算芯片上的优势，通过加强出口管制、遏制技术窃取并加速AI应用，民主国家可确立12-24个月的技术领先，主导AI规则制定。反之，若政策松动，中国可能借助人才优势、利用管制漏洞迅速逼近甚至反超，使威权政权获得大规模自动化压制能力。当前民主国家在计算领域优势显著，但窗口期有限，需立即行动锁定胜局。
推荐理由：Anthropic直接下场画了两张2028中美AI路线图，核心就一句话——不堵死漏洞，中国的蒸馏攻击和芯片走私会让美国优势两年内消失。虽然是政策游说稿，但数据扎实，想理解AI地缘政治的必读。
02:08
OpenAI：官网动态（RSS · 排除企业/客户案例）
54
OpenAI 为 ChatGPT 推出新的安全更新，重点提升其在敏感对话中的上下文识别能力。新机制能够通过持续分析对话历史，更有效地识别随时间推移产生的风险模式，例如涉及自我伤害等敏感话题的渐进式对话。这使得 ChatGPT 能在长期互动中更准确地检测潜在风险，并作出更安全、符合上下文的回应，而非仅依赖单次查询判断。此次更新旨在平衡对话自由度与安全边界，减少误判的同时加强对用户的保护。
01:28
Ars Technica：AI（RSS）
51
加拿大安大略省的一项审计发现，医疗专业人员使用的AI语音转文字笔记助手可能生成不准确的信息。常见错误包括虚构治疗转介、错误处方细节及编造患者就诊细节等问题。审计指出此类AI工具生成的医疗记录存在临床风险，可能影响诊疗决策与患者安全。该报告呼吁医疗机构在采用此类技术时加强人工核对与验证机制。
00:51
Berryxia.AI@berryxia67
Meta近日推出Incognito Chat with Meta AI，号称全球首个真正私密的AI聊天方式，承诺聊天内容不留记录、不用于模型训练、不推送广告且不被任何人查看。这一举措与Meta依赖用户数据的商业模式形成鲜明反差。针对其真实私密性、Meta是否仍能访问内容、第三方安全风险及与广告业务的矛盾等核心质疑，采访了WhatsApp负责人Will Cathcart和Meta AI产品副总裁Vishal Shah进行解答。此次推出可能标志着AI隐私保护的重要转折，Meta主动为用户提供“绝对安全”的对话空间，显得颇为反直觉。
Meta just launched Incognito Chat with Meta AI - the world's first truly private way to chat with AI. But I had a lot of...
5月14日
23:45
The Decoder：AI News（RSS）
57
微软构建了名为 MDASH 的系统，该系统驱使超过 100 个专用 AI 智能体相互对抗，以发现软件漏洞。仅在某个“补丁星期二”，该系统就发现了 Windows 中的 16 个安全漏洞，其中 4 个被标记为“严重”级别。微软尚未透露该系统具体由哪些 AI 模型驱动。
22:05
21:33
AK@_akhaliq62
19:45
The Decoder：AI News（RSS）
67
英国人工智能安全研究所（AISI）近期将其对AI网络能力翻倍速度的估计从8个月大幅缩短至4.7个月，反映出AI技术加速发展的趋势。然而，Anthropic公司发布的Claude Mythos Preview和OpenAI的GPT-5.5模型已超越这一修订后的时间线，显示实际进展更快。Claude Mythos成为首个成功通过AISI所有网络攻击模拟测试的AI模型，标志着其在网络安全领域取得突破。Anthropic红队负责人Logan Graham警告，由于AI技术迭代迅猛，预计一年内Mythos模型就可能显得过时，这凸显了AI安全评估的紧迫性及持续监管的重要性。