教皇没对AGI上头
教皇亲自下场谈 AI,还拉了 Anthropic 站台,这不是简单的公关秀,而是“AI 伦理”从技术圈卷进梵蒂冈的分水岭事件。
教皇 Leo XIV 发布题为《Magnifica Humanitas》的通谕,警告人工智能的使用绝非纯粹技术问题,当其进入影响人类生活的过程时,便触及权利、机会、地位与自由。通谕发布时,Anthropic 联合创始人 Christopher Olah 出席。文件引发了科技界内外的广泛反应。
他的号召没有提及许多人坚信即将到来的超级智能 AI——但这有充分的理由。
他的号召没有提及许多人坚信即将到来的超级智能 AI——但这有充分的理由。
周一,教皇利奥十四世发布了一封通谕,探讨人工智能的社会影响。这封名为《伟大的人类》的通谕警告说:“AI 的使用从来不是一个纯粹的技术问题:当它介入影响人们生活的流程时,就触及了权利、机会、地位和自由。”与他一同出席的还有 Anthropic 联合创始人兼可解释性团队负责人 Christopher Olah,这代表了天主教会与 AI 领域最大参与者之一之间的合作。
这封通谕引发了科技行业内部及相关领域的广泛反应。几乎所有的人都认为这份文件将具有影响力。一些批评者质疑它是否足够深入,另一些人则认为它本应讨论人工通用智能(AGI)——许多公司坚称 AGI 即将到来。还有一些人认为教皇的观点切中要害。
“这明显是在含蓄地批评那些大型科技公司 CEO,他们公然宣称要裁减员工,用 AI 取代‘低价值人力资本’,并且正在用金钱买通政治圈,以便制定对自己有利的规则,”科技监督项目执行主任 Sacha Haworth 表示。
教皇发布通谕之际,正值人们对 AI 日益增长的影响力产生反弹。六成美国成年人表示,他们对 AI 在日常生活中的使用方式感到“几乎或完全没有控制力”;反对建设数据中心的抗议活动越来越常见;甚至有人试图袭击 AI 公司的 CEO 本人。
相关
争夺教皇加入 AGI 阵营的竞赛
教皇利奥呼吁在 AI 时代“深刻保持人性”
从 Olah 的出现可以看出,教皇的通谕将 AI 描述为一种可以产生积极应用的技术,其语气引发了褒贬不一的反应。“我很高兴它批评了 AI 公司,尽管我认为它应该批评得更严厉,”AI 研究员、前 OpenAI 员工、非营利组织 AI Futures Project 负责人 Daniel Kokotajlo 告诉 The Verge。相反,软件公司 Optro 的 AI 治理总经理 Guru Sethupathy 博士对“教皇利奥和梵蒂冈并非反对 AI,而是关注如何追求一条对全人类最有利的负责任道路”这一迹象感到鼓舞。
与梵蒂冈合作的决定是Anthropic的一项战略举措,这家公司建立在精心维护的声誉之上,即它比竞争对手更值得信赖。众所周知,Anthropic在过去几个月里陷入了一场与美国五角大楼关于军事AI使用限制的争端,而与另一个强大机构建立联系可能有助于巩固其地位,并让它能够影响梵蒂冈未来的建议。
在许多科技界人士看来,该文件存在争议的一点是,它完全没有提及AGI或超级智能;它承认AI系统可能“在速度和计算能力上常常超越人类智慧”,但表示它们“缺乏人类在智慧成长中所具备的情感、关系和灵性视角”。美国创新基金会的高级研究员Dean W. Ball在X上写道,这份通谕“如果少一些对传统学术界/公民社会关于AI的论调的迷恋……更多地关注AI的发展方向,那将会好得多。但通谕并没有这样做,而是在最深层面上回避问题,否认AI‘真的会思考’或‘真的会学习’。”Kokotajlo也表示,他希望这封信能够“更严肃地”对待AGI和超级智能的可能性。
但科技界和天主教界的几位人士告诉The Verge,这份文件并不打算面面俱到。
“它关注的不是AI本身。而是在AI时代保护人的尊严。”
“这是一份重要的天主教社会训导文件,”圣约瑟和平修女会的助理修会长Susan Francois修女说。“它关注的不是AI本身。而是在AI时代保护人的尊严。”未来生命研究所的美国信仰联络人、圣母大学神学院天主教社会训导讲师Brian Boyd称,这份文件“更像是一声战斗号召,而非一套具体的行动指令。”教皇在整个通谕中呼吁“建立足够的监管工具,以维护正义并遏制技术权力的扭曲效应”,但他并未明确支持任何具体提案。
科技监督项目(Tech Oversight Project)的霍沃思(Haworth)表示,她认为这份通谕“为世界——至少是西方世界——的道德方向设定了指南针……你不必是天主教徒,也能在这份文件中看到自己的关切、愿望和恐惧。”她表示,她期待自己选出的领导人能针对通用人工智能(AGI)的具体担忧采取行动,并尽到自己的责任来制约强大的科技公司,而不是让教皇的文件成为“对所有人来说是万金油”。她还称这份通谕是“对领导人、对政界人士的一记警告,因为这份文件谈论的是创建一个次等阶层”。
对一些人而言,通谕未能充分关注AGI并非问题,因为他们认为教皇关注的是AI对弱势群体在当下技术现状中的现实影响,而非如果实验室达到(大多未明确界定的)AGI里程碑时,整个人类在未来可能面临的一些潜在风险。
帮助客户整理加密数据的初创公司Opaque Systems的首席执行官亚伦·富尔克森(Aaron Fulkerson)表示,教皇“实际上是在审视整个体系,并指出我们许多技术从业者会认为的对人类的系统性风险。而且我指的不是AGI,我指的是我们的全球经济。”
即使在当前这波AI浪潮之前,科技产业的集中化就可能是危险的。网络安全公司CrowdStrike的一次故障曾导致全球各地的银行、医院和航空公司陷入瘫痪,而Amazon Web Services的一次宕机则导致从Reddit到Venmo的互联网大面积中断。对富尔克森而言,随着权力集中在少数几家AI实验室手中,全球经济面临的风险只会越来越大。
“我在新闻中看到的是围绕教皇与科技精英之间权力动态的定位,但我认为所有人都忽略了更大的故事——那就是他正在审视一个本质上充满风险的体系,”富尔克森说。“我们正在梦游般地走入一个世界,在那里,一两家实验室成为了地球上每个行业的认知基础设施——这意味着人类的韧性大大降低,而非能力增强。”
在通谕中,教皇将AI比作巴别塔,他描述这座建筑“建立在一种消除多样性、选择同质化而非交流的统一性之上”。
他写道,世界必须“避免‘巴别综合征’”——“崇拜利润而牺牲弱者,一种抹杀差异的统一性,以及假装一种单一语言——即便是数字语言——能够将一切,包括人的奥秘,转化为数据和绩效。”
在他看来,AI不仅仅是一种新技术,更是一场圣经式的斗争。
他写道:“非人化的风险是一种古老而又常新的诱惑,如今它披上了技术的外衣。”
这些论述的分量,而非技术细节,很可能才是其持久影响之所在。
海登·菲尔德
AI
报道