OpenAI 首席科学家 Jakub Pachocki 表示，公司已暂时放缓部分前沿模型训练以强化安全与监控，最大规模的前沿 RL 训练仍处于搁置状态，同时通过小规模训练和评估测试安全措施并收集对齐证据。他认为安全信心将日益决定 AI 发展节奏，并已签署《Pacing the Frontier》倡议，呼吁实验室和国家间加强协调。
Jakub Pachocki@merettmOpenAI 首席科学家 Jakub Pachocki 表示，公司已暂时放缓部分前沿模型训练以强化安全与监控，最大规模的前沿 RL 训练仍处于搁置状态，同时通过小规模训练和评估测试安全措施并收集对齐证据。他认为安全信心将日益决定 AI 发展节奏，并已签署《Pacing the Frontier》倡议，呼吁实验室和国家间加强协调。
OpenAI这次明确把安全信心作为开发节奏变量，后续模型发布时间不只取决于训练进展，还会因安全验证结果而调整。
我们暂时放慢了一些前沿模型的训练，以加强安全与监控。我们原计划中规模最大的前沿强化学习运行仍处于搁置状态，而较小规模的训练与评估正在帮助我们检验安全防护措施，并收集更多关于对齐的证据。
我预计，对安全性的信心将日益成为决定 AI 发展节奏的关键因素。我们迫切需要一些工具，让实验室和国家能够就此进行协调，这也是我签署《Pacing the Frontier》的原因。与此同时，我们自身也在采取切实可行的措施--随着方法的演进，我们将继续分享所学到的经验。
https://openai.com/index/pacing-model-development-cyber-capabilities/
来源：Jakub Pachocki· x.com