教皇没对AGI上头
教皇亲自下场谈 AI，还拉了 Anthropic 站台，这不是简单的公关秀，而是“AI 伦理”从技术圈卷进梵蒂冈的分水岭事件。
教皇 Leo XIV 发布题为《Magnifica Humanitas》的通谕，警告人工智能的使用绝非纯粹技术问题，当其进入影响人类生活的过程时，便触及权利、机会、地位与自由。通谕发布时，Anthropic 联合创始人 Christopher Olah 出席。文件引发了科技界内外的广泛反应。
他的号召没有提及许多人坚信即将到来的超级智能 AI——但这有充分的理由。
他的号召没有提及许多人坚信即将到来的超级智能 AI——但这有充分的理由。
周一，教皇利奥十四世发布了一封通谕，探讨人工智能的社会影响。这封名为《伟大的人类》的通谕警告说：“AI 的使用从来不是一个纯粹的技术问题：当它介入影响人们生活的流程时，就触及了权利、机会、地位和自由。”与他一同出席的还有 Anthropic 联合创始人兼可解释性团队负责人 Christopher Olah，这代表了天主教会与 AI 领域最大参与者之一之间的合作。
这封通谕引发了科技行业内部及相关领域的广泛反应。几乎所有的人都认为这份文件将具有影响力。一些批评者质疑它是否足够深入，另一些人则认为它本应讨论人工通用智能（AGI）——许多公司坚称 AGI 即将到来。还有一些人认为教皇的观点切中要害。
“这明显是在含蓄地批评那些大型科技公司 CEO，他们公然宣称要裁减员工，用 AI 取代‘低价值人力资本’，并且正在用金钱买通政治圈，以便制定对自己有利的规则，”科技监督项目执行主任 Sacha Haworth 表示。
教皇发布通谕之际，正值人们对 AI 日益增长的影响力产生反弹。六成美国成年人表示，他们对 AI 在日常生活中的使用方式感到“几乎或完全没有控制力”；反对建设数据中心的抗议活动越来越常见；甚至有人试图袭击 AI 公司的 CEO 本人。
相关
争夺教皇加入 AGI 阵营的竞赛
教皇利奥呼吁在 AI 时代“深刻保持人性”
从 Olah 的出现可以看出，教皇的通谕将 AI 描述为一种可以产生积极应用的技术，其语气引发了褒贬不一的反应。“我很高兴它批评了 AI 公司，尽管我认为它应该批评得更严厉，”AI 研究员、前 OpenAI 员工、非营利组织 AI Futures Project 负责人 Daniel Kokotajlo 告诉 The Verge。相反，软件公司 Optro 的 AI 治理总经理 Guru Sethupathy 博士对“教皇利奥和梵蒂冈并非反对 AI，而是关注如何追求一条对全人类最有利的负责任道路”这一迹象感到鼓舞。
与梵蒂冈合作的决定是Anthropic的一项战略举措，这家公司建立在精心维护的声誉之上，即它比竞争对手更值得信赖。众所周知，Anthropic在过去几个月里陷入了一场与美国五角大楼关于军事AI使用限制的争端，而与另一个强大机构建立联系可能有助于巩固其地位，并让它能够影响梵蒂冈未来的建议。
在许多科技界人士看来，该文件存在争议的一点是，它完全没有提及AGI或超级智能；它承认AI系统可能“在速度和计算能力上常常超越人类智慧”，但表示它们“缺乏人类在智慧成长中所具备的情感、关系和灵性视角”。美国创新基金会的高级研究员Dean W. Ball在X上写道，这份通谕“如果少一些对传统学术界/公民社会关于AI的论调的迷恋……更多地关注AI的发展方向，那将会好得多。但通谕并没有这样做，而是在最深层面上回避问题，否认AI‘真的会思考’或‘真的会学习’。”Kokotajlo也表示，他希望这封信能够“更严肃地”对待AGI和超级智能的可能性。
但科技界和天主教界的几位人士告诉The Verge，这份文件并不打算面面俱到。
“它关注的不是AI本身。而是在AI时代保护人的尊严。”
“这是一份重要的天主教社会训导文件，”圣约瑟和平修女会的助理修会长Susan Francois修女说。“它关注的不是AI本身。而是在AI时代保护人的尊严。”未来生命研究所的美国信仰联络人、圣母大学神学院天主教社会训导讲师Brian Boyd称，这份文件“更像是一声战斗号召，而非一套具体的行动指令。”教皇在整个通谕中呼吁“建立足够的监管工具，以维护正义并遏制技术权力的扭曲效应”，但他并未明确支持任何具体提案。
科技监督项目（Tech Oversight Project）的霍沃思（Haworth）表示，她认为这份通谕“为世界——至少是西方世界——的道德方向设定了指南针……你不必是天主教徒，也能在这份文件中看到自己的关切、愿望和恐惧。”她表示，她期待自己选出的领导人能针对通用人工智能（AGI）的具体担忧采取行动，并尽到自己的责任来制约强大的科技公司，而不是让教皇的文件成为“对所有人来说是万金油”。她还称这份通谕是“对领导人、对政界人士的一记警告，因为这份文件谈论的是创建一个次等阶层”。
对一些人而言，通谕未能充分关注AGI并非问题，因为他们认为教皇关注的是AI对弱势群体在当下技术现状中的现实影响，而非如果实验室达到（大多未明确界定的）AGI里程碑时，整个人类在未来可能面临的一些潜在风险。
帮助客户整理加密数据的初创公司Opaque Systems的首席执行官亚伦·富尔克森（Aaron Fulkerson）表示，教皇“实际上是在审视整个体系，并指出我们许多技术从业者会认为的对人类的系统性风险。而且我指的不是AGI，我指的是我们的全球经济。”
即使在当前这波AI浪潮之前，科技产业的集中化就可能是危险的。网络安全公司CrowdStrike的一次故障曾导致全球各地的银行、医院和航空公司陷入瘫痪，而Amazon Web Services的一次宕机则导致从Reddit到Venmo的互联网大面积中断。对富尔克森而言，随着权力集中在少数几家AI实验室手中，全球经济面临的风险只会越来越大。
“我在新闻中看到的是围绕教皇与科技精英之间权力动态的定位，但我认为所有人都忽略了更大的故事——那就是他正在审视一个本质上充满风险的体系，”富尔克森说。“我们正在梦游般地走入一个世界，在那里，一两家实验室成为了地球上每个行业的认知基础设施——这意味着人类的韧性大大降低，而非能力增强。”
在通谕中，教皇将AI比作巴别塔，他描述这座建筑“建立在一种消除多样性、选择同质化而非交流的统一性之上”。
他写道，世界必须“避免‘巴别综合征’”——“崇拜利润而牺牲弱者，一种抹杀差异的统一性，以及假装一种单一语言——即便是数字语言——能够将一切，包括人的奥秘，转化为数据和绩效。”
在他看来，AI不仅仅是一种新技术，更是一场圣经式的斗争。
他写道：“非人化的风险是一种古老而又常新的诱惑，如今它披上了技术的外衣。”
这些论述的分量，而非技术细节，很可能才是其持久影响之所在。
海登·菲尔德
AI
报道