OpenAI首次公开承认看到递归自我改进的早期迹象,等于摊牌说AI发展正在失控加速,接下来的竞争和监管博弈会非常激烈,所有关注AI安全的人都该认真读一下原文。
OpenAI刚刚写道:“我们也看到了当今系统中递归自我改进(RSI)的早期迹象:AI开发本身正被AI加速。 我们预计这将加剧开发者与国家之间的竞争压力,并带来现有机构无法应对的治理挑战。 随着RSI的出现,社会将需要找到塑造AI发展轨迹的方法,确保其服务于人类利益。” 气氛变了,有事正在发生。
OpenAI 刚刚写道:"我们也在当今系统中看到了递归自我改进(RSI)的早期迹象:人工智能的开发本身正被人工智能加速。
我们预计这将加剧开发者与国家之间的竞争压力,并产生现有机构无法应对的治理挑战。
随着RSI的出现,社会将需要方法来塑造人工智能发展的轨迹,并确保它服务于人类利益。"
氛围已经改变,有些事正在发生。