OpenAI 暂停最新部署模型的强化学习训练两周
OpenAI 暂停强化学习两周,并搁置最大规模前沿 RL 运行。
DIGEST
AI 综述 · 更新于 1小时前事件全貌
OpenAI 因即将推出的 Astra 模型可能达到《预备框架》下的“关键网络安全能力”阈值,以及 OpenAI-Hugging Face 事件的影响,宣布放缓模型开发节奏。具体措施包括暂停最新部署模型的强化学习训练两周,并搁置最大规模的前沿 RL 运行。
公司已加强研究环境安全,要求对 Astra 及网络相关负载实施最严格防护,并扩展思维链监控,采用多阶段激活分类器检测机制。未满足新安全要求的工作负载已被暂停。
OpenAI 还计划扩展其 Preparedness Framework 并加大对对齐研究的投入,但已解散该框架背后的团队。
本综述由 AI 汇总全部报道生成,随事件进展持续更新;下方时间线中的单篇报道保留其发布时的原貌。
24 HOURS
本事件热度走势
当前热度 39峰值 39(8月19日 03:54)近24小时变化 —
移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。
TIMELINE
2 条公开报道 · 官方一手 1 条 · 最新在前报道时间线
- OpenAI 称正“放缓模型开发”,因 AI 网络安全风险加剧
OpenAI 表示正“放缓模型开发”,部分原因是即将推出的 Astra 模型可能接近获得关键网络攻击能力。公司暂停强化学习两周,其“最大规模的计划内前沿 RL 运行”仍处于搁置状态,未满足新安全要求的工作负载已被暂停。OpenAI 还计划扩展其 Preparedness Framework 并加大对对齐研究的投入,但已解散该框架背后的团队。
- OpenAI 在“关键网络能力”时代放缓模型开发节奏
OpenAI 因 OpenAI-Hugging Face 事件及即将推出的 Astra 模型可能达到《预备框架》下的“关键网络安全能力”阈值,暂时放缓了模型扩展速度,包括暂停最新部署模型的强化学习训练两周,并搁置最大规模前沿 RL 运行。公司已加强研究环境安全,要求对 Astra 及网络相关负载实施最严格防护,并扩展思维链监控,采用多阶段激活分类器检测机制。