前沿 AI 框架与新纪元的曙光

这是人类历史上的一个关键时刻。通用人工智能（AGI），一种能够展现人脑所有认知能力的系统，可能只需短短几年就能实现。当我们在未来几十年回望此刻时，我想我们会意识到自己正站在奇点的山麓——这无异于人类新纪元的曙光。

我一生都在研究 AGI，因为我始终深信，如果以负责任的方式构建和部署，它将被证明是人类有史以来最有益、最具变革性的技术之一。AGI 无法与标准的技术突破相提并论，甚至不能与互联网或移动通信这样影响深远的发明相比——它更接近于电或火的发现。如果你停下来想一想，我们本质上找到了一种让沙子思考的方法。这堪称奇迹。

这项技术的影响规模将是前所未有的，或许相当于工业革命的 10 倍，且以 10 倍的速度推进。它将帮助我们解决社会面临的一些最大难题，从加速药物发现，到开发新型清洁能源，再到创造新颖的先进材料。我们甚至可能达到这样一个阶段：资源不再是人类进步的制约因素，从而迎来一个令人惊叹的富足新时代。

前沿领域的挑战

AI 已经开始带来实际效益，但要实现其巨大潜力，我们必须深思熟虑、审慎地度过这个关键的发展时期。随着我们越来越接近 AGI，需要采取紧急行动来应对可能出现的风险。我们已经看到前沿模型在网络安全方面带来的挑战，而随着能力持续提升，包括核风险和生物风险在内的其他威胁可能很快就会出现。展望未来，我们需要强大的安全措施来维持对日益智能体化、递归自我改进系统的控制——并解决那些随着时间推移才会逐渐明朗的未知问题。

我一直相信人类 ingenuity 和创造力能够解决任何问题。我确信，减轻与 AI 相关的技术风险是一个我们可以共同应对的挑战，但前提是我们必须给自己留出时间和空间，把下一个关键步骤做对。目前，无论是作为一个领域还是作为更广泛的社会，我们都没有做到这一点。

目前，我们正深陷一场极其激烈、多层次的商业与地缘政治竞赛之中。虽然这种竞争态势推动了快速进步，加速了令人难以置信的积极成果，但前沿技术的进展速度已经超过了我们对这项技术的理解。世界上没有人能确切知道接下来会发生什么，即便是专家们也意见不一。当存在高度不确定性，且赌注如此之高时，采取谨慎乐观的态度是明智且正确的策略。这需要公共政策既能促进创新，又能激励责任与安全，在关键安全问题上推动国际合作，并鼓励审慎考虑如何部署人工智能以造福社会。

前沿人工智能标准机构框架

人工智能领域的快速进步，要求我们采用一种动态、适应性强且严谨的新方法来测试前沿人工智能模型的能力。凭借其经济和技术地位，美国完全有能力率先制定这样一个框架。它可以建立一个类似于联邦监管的公私合作伙伴关系或自律组织的新标准机构，就像金融业监管局（FINRA）那样，其董事会应包括独立的顶尖技术专家和开源社区代表。为了吸引世界一流的技术人才并提供大规模测试所需的计算资源，该机构的资金需求将十分庞大，且很可能主要来自行业。

该标准机构将负责制定评估协议，并与相应的联邦机构及美国国家实验室合作，在与国家安全相关的领域进行测试。如果一个模型在一套由该标准机构确定、并定期更新以跟上人工智能能力演进的基准测试中达到特定阈值，它将被认定为“前沿级”。拥有这些基准所定义的“前沿模型”的组织将被视为“前沿实验室”，并被鼓励采用最佳实践，例如发布包含技术细节的模型卡、保持强大的内部网络安全、对关键人员进行审查，以及为安全与安保研究提供充足的资源等。

最初，前沿实验室会在发布前最多30天，自愿将模型提交给标准机构进行审查。一旦评估协议被证明有效且稳健，就可以迅速推进正式化，这意味着前沿模型必须通过该协议才能在美国市场部署。实验室还将与标准机构合作，处理任何发布后的关键漏洞。

模型评估应包括对网络安全、生物威胁及其他高风险领域能力的严格科学评估。专门的智能体AI测试可以检测试图绕过安全护栏的行为或欺骗迹象，并确保最佳实践，例如对AI生成的图像进行数字水印，以及生成人类可读的输出token以理解模型推理过程。

这些评估将定期更新，可能最初每季度一次，过时或饱和的基准测试将被弃用并替换。最初，评估将与前沿实验室协商制定，但最终标准机构应建立技术能力，独立于实验室创建自己的保留测试，以防止过拟合。与美国政府合作，它可以推动第三方审计机构的生态系统发展，协助进行评估以及开发新的基准和评估方法。

这种方法的力量在于其技术聚焦，同时支持创新并激励负责任的行为。它旨在跟上该领域的加速发展，并在识别出最大风险时进行适应，如果情况严重需要，还可以加强力度，包括在必要时协调前沿实验室之间的开发放缓。被指定为前沿实验室将享有显著声望，任何组织只要构建出符合基准标准的模型，都可以获得这一称号。该框架适用于任何国家来源的前沿级模型，无论其是开源还是闭源，但任何非前沿模型，例如来自初创公司或学术界的模型，将不受此流程约束。

这项由美国发起的努力，将为制定前沿人工智能领域的国际通用标准提供一个坚实的起点。由于这项技术将影响整个地球，理想情况下，这一框架将推动国际社会达成共识，以管控最严重的风险，同时确保每个人都能获得并受益于人工智能带来的机遇。

未来尚未注定

通用人工智能（AGI）有潜力成为推动科学和医学进步的终极工具，并带来巨大的生产力提升和经济增长。但为了实现这一目标，我们需要通过协调一个共享的全球框架、运用最严谨的科学方法、并汇聚最优秀的人才共同应对我们面临的挑战，来夯实技术基础。

即使我们解决了这些艰巨的技术挑战，仍将有更复杂的经济和哲学问题需要处理：在后稀缺时代，需要什么样的新型经济模式来帮助每个人繁荣发展？我们希望遵循什么样的价值观，意义和目的将是什么，甚至人类自身的境况将如何改变？解决这些问题显然不能也不应仅由技术专家负责。它需要社会各界的共同努力，来共同定义这新篇章。

围绕人工智能，既有巨大的兴奋，也有不确定性，而这两者都是合理的。但未来尚未注定，我们必须利用通用人工智能到来之前的这个宝贵窗口期，来塑造这项技术，使其造福全人类。我们当下共同采取的行动，将决定文明下一阶段如何展开。通过安全地将通用人工智能引入世界，我们能够进入一个科学发现与进步的黄金时代，并迎来一个人类繁荣发展的光明未来。