北京时间 7 月 29 日，据《商业内幕》报道，美国一些头部 AI 公司的高管表示，联邦政府现在是时候找到一种方法，在必要时对 AI 开发踩刹车了。
AI 业界呼吁控制 AI 发展
来自 OpenAI、Anthropic、谷歌和 Meta 等公司的 1100 多名 AI 员工联合签署了一封公开信，呼吁美国政府控制 AI 发展速度。眼下，AI 公司正竞相研发能力越来越强大的 AI 系统，让外界担忧 AI 的发展速度可能会超过现有安全保障、治理体系和监管机制所能跟上的步伐。
“我们呼吁美国政府支持一项国际合作，开发必要的技术和治理工具，以便能够有意识地把控自动化 AI 开发的前沿进程。”公开信称。
这个倡议名为“把控前沿”(Pacing the Frontier)，签署这封公开信的高管包括 Anthropic CEO 达里奥 · 阿莫代伊 (Dario Amodei) 以及公司两位联合创始人杰克 · 克拉克 (Jack Clark) 和贾里德 · 卡普兰 (Jared Kaplan)、OpenAI 首席科学家雅库布 · 帕霍茨基 (Jakub Pachocki)、Meta 首席科学家赵晟佳 (Shengjia Zhao)，以及负责谷歌 DeepMind AI 安全与对齐工作的安卡 · 德拉甘 (Anca Dragan)。
公开信
这封信重点关注“自动化 AI 开发”，指的是未来 AI 能够自行开发和改进 AI 系统的能力。业界称这一过程为“递归式自我改进”。Anthropic 曾表示，其 Claude 系列模型正在快速接近这一门槛。
信中在谈到这一潜在时刻时写道：“很难准确预测这将在多大程度上加速 AI 的进步，但确实存在一种真实的风险：AI 能力的发展速度会迅速加快，超出我们理解或控制这些由此产生的系统的能力。”
针对这一公开信，OpenAI 在 X 平台上发文称：“我们相信，在未来的某个时间点，前沿模型开发中的 AI 加速可能会如此之快，以至于世界将需要把控 AI 进步的速度。”
”Anthropic 在 X 上的一篇帖子中表示：“我们上个月发布的关于递归式自我改进的研究表明，我们需要一些工具，能够有意识地调控 AI 发展的前沿速度，让社会有时间做好准备。”
奥尔特曼
与此同时，OpenAI CEO 萨姆 · 奥尔特曼 (Sam Altman) 表示，或许现在是时候“把控”AI 发展的节奏了，以便世界能够为此做好准备。
“我们可能需要把控 AI 发展的速度，给自己足够的时间，让社会适应这些新的能力水平并建立起防护机制。同时，我们也需要想办法做到这一点，既不能让任何人觉得这是监管俘获 (监管对象反过来影响监管者)，也不能让人觉得这是前沿 AI 实验室之间的串通。”他在接受《Invest Like the Best》播客采访时表示。
奥尔特曼的态度已经发生反转。过去，他曾避免签署一些呼吁放缓 AI 发展的倡议。他曾表示，2023 年的一封提出类似“放缓 AI 发展”主张的公开信，“缺少关于我们究竟需要在哪些方面暂停发展的关键技术细节。”