他的战斗号召并未提及许多人坚信即将到来的超级智能 AI——但这有充分的理由。

他的战斗号召并未提及许多人坚信即将到来的超级智能 AI——但这有充分的理由。

周一，教宗良十四世发布了一封关于人工智能社会影响的通谕。这封题为《伟大的人类》的通谕警告称，“AI 的使用从来不是一个纯粹的技术问题：当它介入影响人们生活的进程时，就触及了权利、机会、地位和自由。”与他一同出席的还有 Anthropic 联合创始人兼可解释性团队负责人 Christopher Olah，这代表了天主教会与 AI 领域最大参与者之一之间的合作关系。

这封通谕引发了科技行业内外广泛的反响。几乎所有人都认为这份文件将具有影响力。一些批评者质疑其力度是否足够，另一些人则认为它本应讨论人工通用智能（AGI）——许多公司坚称 AGI 即将到来。还有一些人则认为教宗说得完全正确。

“这显然是在暗讽那些大型科技公司的 CEO，他们公然宣称要裁减员工，用 AI 取代‘低价值人力资本’，并且还花钱挤进制定规则的政治圈，以便让规则对自己有利，”科技监督项目执行主任 Sacha Haworth 表示。

教宗发布通谕之际，正值人们对 AI 日益增长的力量产生反弹。六成美国成年人认为他们对 AI 在日常生活中的使用方式“几乎没有控制权”，针对数据中心建设的抗议活动越来越常见，甚至有人试图对 AI 公司的 CEO 本人发动袭击。

争夺教宗支持 AGI 的竞赛

教宗良十四世呼吁在 AI 时代保持“深刻的人性”

从奥拉的露面可以看出，教皇的通谕将人工智能描述为一种可以产生积极应用的科技，其语气引发了褒贬不一的反应。“我很高兴它对AI公司持批评态度，但我认为它应该更加严厉，”AI研究员、前OpenAI员工、现为非营利组织AI Futures Project工作的丹尼尔·科科塔伊洛告诉The Verge。相反，软件公司Optro的AI治理总经理古鲁·塞图帕西博士则感到鼓舞，因为迹象表明“教皇利奥和梵蒂冈并非反对AI，而是在探讨如何走一条对人类最有利的负责任道路。”

与梵蒂冈合作的决定是Anthropic的一项战略举措。这家公司一直精心打造其声誉，将自己定位为比竞争对手更值得信赖的替代选择。众所周知，Anthropic在过去几个月里深陷与五角大楼就军事AI使用限制的争执之中，而与另一个强大机构的联系有助于巩固其地位——并使其能够影响梵蒂冈未来的建议。

在许多科技界人士看来，这份文件的一个争议之处在于，它完全没有提及AGI或超级智能；它承认AI系统可能“在速度和计算能力上常常超越人类智能”，但表示它们“缺乏人类在智慧成长中所需要的情感、关系和精神视角。”美国创新基金会高级研究员迪恩·W·鲍尔在X上写道，这份通谕“如果少一些对传统学术界/公民社会关于AI话题的迷恋……而更多地关注AI的发展方向，那将会大有改进。但它没有这样做，反而在最深层次上回避问题，否认AI‘真正思考’或‘真正学习’。”科科塔伊洛也表示，他希望这封信能“更认真地”对待AGI和超级智能的可能性。

但多位科技界和天主教界人士告诉The Verge，这份文件并非旨在面面俱到。

“这并非关于AI本身。而是关于在AI时代保护人的尊严。”

“这是一份重要的天主教社会训导文件，”圣若瑟和平修女会助理修女长苏珊·弗朗索瓦修女表示。“它并非关于人工智能本身，而是关乎在人工智能时代如何保护人的尊严。”未来生命研究所美国信仰联络人、圣母神学院天主教社会训导讲师布莱恩·博伊德称该文件“更像是一份战斗号召，而非一套具体的行动指令。”教宗在整篇通谕中呼吁“建立足以维护正义、遏制技术力量扭曲效应的适当监管工具”，但他并未明确支持任何具体提案。

技术监督项目的霍沃思表示，她认为这份通谕“为世界——至少是西方世界——的道德方向设定了指南针……即便你不是天主教徒，也能在这份文件中看到自己的关切、愿望与恐惧。”她期望民选官员能够承担起对通用人工智能的具体关切，尽到让大型科技公司承担责任的本分，而非指望教宗的文件成为“包罗万象的万能药”。她还称其为“向领导者、向政客发出的警告信号，因为这份文件讨论的是次级阶层的形成。”

对一些人而言，通谕未聚焦通用人工智能并非问题，因为他们认为教宗关注的是人工智能技术对当今弱势群体造成的现实影响，而非未来当实验室达到（尚未明确界定的）通用人工智能里程碑时，整个人类可能面临的某些潜在风险。

帮助客户组织加密数据的初创公司 Opaque Systems 首席执行官亚伦·富尔克森表示，教宗“实际上是在审视整个体系，并指出我们许多科技从业者都能认识到的人类系统性风险。我甚至不是在谈论通用人工智能，我说的是我们的全球经济。”

即便在当前这波人工智能浪潮之前，科技行业的集中化就已潜藏危险。网络安全公司 CrowdStrike 的一次故障，导致全球多家银行、医院和航空公司瘫痪；亚马逊云服务（AWS）的一次宕机，则让从 Reddit 到 Venmo 的大片互联网服务中断。在福尔克森看来，随着权力集中在少数几家 AI 实验室手中，全球经济面临的风险只会越来越大。

“我在新闻中看到的是围绕教皇与科技大佬之间权力动态的种种定位，但我认为所有人都忽略了更重要的故事——他审视的是一个本质上充满风险的系统，”福尔克森说。“我们正梦游般走入一个世界，在那里，一两家实验室构成了地球上所有行业的认知基础设施——这意味着人类将变得远没有那么强的韧性，而非更强的能力。”

在这道通谕中，教皇将人工智能比作巴别塔，他将其描述为“一种由消除多样性的统一性所支撑，并选择同质化而非共融的结构”。他写道，世界必须“避免‘巴别塔综合征’”：即“牺牲弱者的利润崇拜、抹平差异的统一性，以及假装一种单一语言——哪怕是数字语言——能够将一切，包括人的奥秘，都转化为数据与绩效的妄念”。在他看来，人工智能已不仅仅是一项新技术，更是一场圣经式的斗争。“非人化的风险，”他写道，“是一种古老而常新的诱惑，如今披上了技术的外衣。”这些声明的分量，而非技术细节，很可能才是其持久影响力所在。