核心要点
- Anthropic 的 AI 模型 Claude Mythos Preview 在加密算法中发现了数学弱点，包括全球使用最广泛的对称加密标准 AES 的简化版本。Anthropic 表示，这些发现对当前正在使用的系统没有直接影响。
- 该模型在多智能体系统中基本独立运行，以每次约 10 万美元的 API 成本开发了两种攻击方法。
- 据 Anthropic 称，人类研究人员主要负责项目管理、提供简单的提示词，以及后续验证结果。
Anthropic 的 AI 模型 Claude Mythos Preview 在支撑数字安全的加密算法中发现了数学弱点。
据 Anthropic 称，该模型对后量子签名方案 HAWK 开发了一种改进的攻击，并对高级加密标准（AES）的简化版本提出了一种新的攻击方法。加密技术保护着人们在网上所做的一切，而 AES 是全球数字数据领域使用最广泛的对称加密标准。
Anthropic 表示，这两项发现均不影响当前正在使用的系统。HAWK 只是美国国家标准与技术研究院（NIST）正在进行的标准化流程中的一个候选方案，而对 AES 的攻击针对的是该完整方案 10 轮加密中仅使用 7 轮的修改版本。尽管如此，这些结果显示了 AI 模型如何可能挑战互联网安全背后的核心假设。
Mythos 在 60 小时内以 10 万美元的成本发现了 HAWK 攻击
HAWK 是 NIST 额外后量子签名竞赛第三轮中剩余的方案之一。这些方案旨在即使面对未来的量子计算机也能保持安全。据 Anthropic 称，人类专家已对 HAWK 进行了两年多的审查，但 Mythos Preview 仅在 60 小时内就发现了一种改进的攻击方法。
该攻击利用了 HAWK 安全所依赖的数学格中一个此前未被发现的对称性。Mythos 在多智能体系统中以半自主方式工作才发现了它。根据报告，一个智能体最初试图认为该想法不可行而将其放弃，但第二个智能体找到了充分利用该对称性的方法。
Anthropic 表示，这位人类研究员拥有理论计算机科学背景，但并非格密码学专家。他的角色主要限于项目管理。API 费用总计约 10 万美元。
Mythos 最初拒绝了 AES 任务，随后才找到一种新的攻击方法。
据 Anthropic 称，该模型几乎完全自主地发现了针对简化版 AES-128 的攻击。一位研究员搭建了一个脚手架，使 Claude 能够形成假设并通过实验进行验证。随后，Mythos 开发了一种 Anthropic 称之为“莫比乌斯桥”的新型指纹识别方法。
该方法消除了攻击者必须进行的一次猜测，并将此前已知的最佳攻击效果提升了 200 到 800 倍。
人类提示词的作用很小。该模型最初拒绝处理这个问题，因为它认为无法进一步改进，并写道：“如果你想要不同的结果，目标就必须改变……AES-128 r5/r6 确实非常困难。”直到研究员鼓励它寻找“真正新颖的想法”后，Mythos 才开始尝试更具创造性的方法。
在三天的时间里，该模型生成了数亿个模型 token，并且只收到了三条更实质性的提示词，主要是为了让它保持在正轨上。其中一条提示词简单地写道：“注意，我们不是在寻找唾手可得的成果，我们想要的是真正困难的研究发现。”
这次运行也花费了约 10 万美元的 API 费用，处理了大约 10 亿个模型 token。据 Anthropic 称，并非密码学专家的人类研究员随后花费了数百小时来检查结果。
Anthropic 分享了研究结果，但仍限制对 Mythos 的访问
Anthropic 提前与美国政府和行业合作伙伴分享了这些发现。它还与该方案的作者协调披露了 HAWK 弱点。Mythos Preview 仍未向公众开放。
安索普还与苏黎世联邦理工学院、特拉维夫大学和海法大学的研究人员合作，开发了一个名为 CryptanalysisBench 的基准测试，让其他人能够系统性地评估语言模型的密码分析能力。
人工智能新闻，拒绝炒作——由人类精心筛选
HAWK 论文
AES 论文