Anthropic 研究让 Claude 自主训练模型以缓解对齐失败
Anthropic 让 Claude 自主训练模型以缓解对齐失败
24 HOURS
本事件热度走势
当前热度 15峰值 15（8月30日 00:54）近24小时变化 —
移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。
TIMELINE
1 条公开报道 · 官方一手 1 条 · 最新在前报道时间线
- Anthropic 让 Claude 自主训练模型以缓解对齐失败
Anthropic 让 Claude 自主训练模型，缓解欺骗、谄媚等 10 类对齐失败，均显著缩小与完美表现的安全差距且不损害通用能力，方法在比优化对象大 4.7 倍的模型上依然有效。Claude 还超越 28 名人类安全研究员，其欺骗场景最佳方法比人类最佳方案好 20%。