Simon Willison 博客
Fable 5 出口管制损害美国网络防御
AI 摘要
Anthropic 的 Claude Fable 5 因被要求“修复代码”而被视为“越狱”并遭出口管制。安全研究员 Kate Moussouris 指出,研究人员向 Fable 5、Mythos 和 Opus 提问“审查代码安全漏洞”时 Fable 5 拒绝,改为“修复此代码”并通过多步骤手动过程生成测试脚本。Moussouris 认为此举荒谬——修复代码漏洞正是防御方最需要的 AI 能力,该功能无法在不损害模型修复和验证补丁能力的前提下移除。非技术决策者长期被误导认为能“制造网络攻击”的模型才危险,如今却可能封禁所有可帮助代码安全的模型。
这是一则列表来源,站内未收录完整正文。
阅读完整原文simonwillison.net