Sam Altman 宣布暂停前沿 RL 训练以强化安全

Sam Altman · @sama · X·2026-08-19 02:53·33分钟前
AI 导读

OpenAI CEO Sam Altman 表示,已暂停部分前沿 RL 训练,以确保对齐、安全和监控标准能跟上新能力水平。他称模型进步极快,若能力超越安全与对齐步伐将采取行动,并呼吁整个领域协调共享安全标准,同时承诺继续广泛提供前沿能力。

Sam Altman@sama
同事件
66AI 编辑部评分,满分 100

Sam Altman 宣布暂停前沿 RL 训练以强化安全

2026-08-19 02:53· 33分钟前
AI 导读

OpenAI CEO Sam Altman 表示,已暂停部分前沿 RL 训练,以确保对齐、安全和监控标准能跟上新能力水平。他称模型进步极快,若能力超越安全与对齐步伐将采取行动,并呼吁整个领域协调共享安全标准,同时承诺继续广泛提供前沿能力。

正文 · AI 翻译

我们已暂停部分前沿强化学习训练,以确保能够针对眼前这一新层级的能力,达到相应的对齐、安全与监控标准。模型进展如今极为迅速,而我们始终表示,一旦认为模型能力超越安全与对齐的推进速度,就会采取行动。

我们极为重视 AI 安全。我们相信整个行业必须在共享安全标准上协同一致,但与此同时,我们也会单方面采取行动。

我们预期,对安全的信心将日益成为 AI 进展速度的定调因素。我们对正在开展的对齐工作持乐观态度,并始终致力于让前沿能力得到广泛普及。

https://openai.com/index/pacing-model-development-cyber-capabilities/