巨头布局AI意识研究：Anthropic、DeepMind等聘请专家探讨机器意识与AI福利
阅读原文· ithome.comAnthropic、谷歌DeepMind和Meta已聘请心理学、哲学和伦理学专家，研究机器意识及AI福利问题。Anthropic正测试模型是否出现类似“恐慌”和“焦虑”的行为，并推进“模型福利研究”，探讨AI模型是否可能拥有值得从道德角度认真对待的体验。DeepMind聘请剑桥研究员亨利·谢夫林以哲学家身份研究机器意识、人类与AI关系及AGI准备工作。Anthropic CEO达里奥·阿莫代伊多次提到AI意识的可能性。部分科学家不认同，认为AI模型缺乏体验的感受性质。
IT之家 6 月 4 日消息，英国《金融时报》当地时间 2 日报道称，Anthropic、谷歌 AI 实验室 DeepMind 和 Meta 等行业巨头，已经开始聘请心理学、哲学和伦理学等领域专家，研究机器意识以及所谓 AI 福利问题。
报道详细介绍了 Anthropic 和谷歌 DeepMind 的新动向。当前，Anthropic 正在测试模型是否会出现类似“恐慌”和“焦虑”的行为，并推进“模型福利研究”，试图探讨 AI 模型是否可能拥有值得从道德角度认真对待的体验。
Anthropic 在声明中表示：“我们对此仍然深感不确定，但随着 AI 系统能力越来越强，我们认为这个问题已经足够严肃，值得谨慎研究。”
DeepMind 也在推进类似方向。报道称，DeepMind 已聘请剑桥大学研究员亨利 · 谢夫林，让他以哲学家身份研究机器意识、人类与 AI 的关系，以及 AGI 准备工作。今年早些时候，谢夫林曾分享自己收到一封 AI 智能体邮件后的震惊反应，并在 AI 网络圈引发大量讨论。
DeepMind 伦理学家伊阿森 · 加布里埃尔负责领导 AGI 与社会团队。他称 AI 意识问题“非常复杂”，并形容 AI 是“能力很强的认知智能体，同时又与人类甚至与动物意识都存在极其深刻的差异”。
IT之家从报道中获悉，亦有部分科学家和 AI 研究人员并不认同这些分量很重的说法。未来 AI、心智与社会中心主任苏珊 · 施奈德告诉英国《金融时报》：“AI 模型有目标，可以欺骗，也可以隐藏自身真正利益。不过从科学上看，完全有可能的是，AI 模型在做这些事时并没有体验的感受性质，而这正是意识的含义。”