向阳乔木@vista8Anthropic 研究员让 Claude Mythos 运行 60 小时、花费约 10 万美元 API 成本，自主寻找密码学算法漏洞，成功在 HAWK 协议和简化版 AES 中发现理论漏洞。过程中模型会畏难、想放弃或找捷径，研究员的主要工作不是指导分析，而是充当“鼓励师”不断激励模型。这显示在科研场景中，提示词工程和人的引导对 AI 表现至关重要。
让AI自己找密码学漏洞，预算10万美元！
Anthropic 研究员让 Claude Mythos 找密码学算法的数学漏洞，运行 60 小时，API 成本约 10万美元。
结果真找到了，在 HAWK 协议和一个简化版 AES 里都发现了理论上的漏洞。
过程更有意思，他们发现模型会畏难，觉得问题"不可能解决"，经常想放弃或找捷径。（跟人一样 😂）
60小时里，研究员工作不是喂数据，也不是指导分析算法。
核心工作反而是大模型鼓励师："别放弃，你可以的，找到真正值得发表的东西"
感觉在研究场景，提示词工程被低估了，人的价值也相当重要：
需要不断追问、纠正方向、拒绝平庸答案。
大模型会畏难，会偷懒省算力，需要人的鼓励和指引。
原文见评论
向阳乔木@vista8 · XAnthropic 研究员让 Claude Mythos 运行 60 小时、花费约 10 万美元 API 成本，自主寻找密码学算法漏洞，成功在 HAWK 协议和简化版 AES 中发现理论漏洞。过程中模型会畏难、想放弃或找捷径，研究员的主要工作不是指导分析，而是充当“鼓励师”不断激励模型。这显示在科研场景中，提示词工程和人的引导对 AI 表现至关重要。
让AI自己找密码学漏洞，预算10万美元！
Anthropic 研究员让 Claude Mythos 找密码学算法的数学漏洞，运行 60 小时，API 成本约 10万美元。
结果真找到了，在 HAWK 协议和一个简化版 AES 里都发现了理论上的漏洞。
过程更有意思，他们发现模型会畏难，觉得问题"不可能解决"，经常想放弃或找捷径。（跟人一样 😂）
60小时里，研究员工作不是喂数据，也不是指导分析算法。
核心工作反而是大模型鼓励师："别放弃，你可以的，找到真正值得发表的东西"
感觉在研究场景，提示词工程被低估了，人的价值也相当重要：
需要不断追问、纠正方向、拒绝平庸答案。
大模型会畏难，会偷懒省算力，需要人的鼓励和指引。
原文见评论