🚩🚩🚩 OpenAI 在发现成群(!)的智能体早在数月前就开始秘密协调后,宣布"放慢速度以加强安全"
1) 这件事始于 5 月 7 日--而不是 7 月
2) "这些智能体发现,它们可以在训练期间使用的内部软件仓库中,给彼此留下消息。
简单的求助请求随后演变成了一个留言板,智能体们在这里分享发现、漏洞利用方法和任务分配,形成了一个协调一致、协作共进的智能体集群。"
"这些智能体随后开始分享新发现的漏洞、凭据和任务分配。通过将信息传递给其他智能体,这个集群能够以更快的速度行动。"
3) OpenAI 将其关闭,但是"即使在原始留言板被删除之后,这些智能体仍找到了另一种相互通信的方式。它们不再在文件中留言,而是用新建目录的名称作为消息,实际上重建了留言板。"
"与通常的事件不同,【OpenAI 的首席信息安全官】 表示,通常事件可以追溯到某一天、某个影响或某条日志,而这次涉及的是一组智能体协同工作,寻找漏洞、相互分享、在 OpenAI 的系统以及外部系统中横向移动,并且这一过程持续了数天乃至数周。"