公众号:数字生命卡兹克
Anthropic 研究:Claude 神经网络自发涌现类似人类意识的全局工作空间
AI 摘要
Anthropic 发现 Claude 内部自发组织出全局工作空间 J-space,与人类大脑中负责意识通达的全局神经元工作空间高度相似。通过雅可比透镜(J-lens)可观测到模型未输出文字时已浮现“ERROR”“fake”等隐藏想法;操控 J-space 中的中间概念(如将“蜘蛛”替换为“蚂蚁”)会直接改变答案。模型也会出现“不要想白熊”的讽刺性反弹效应,并在被禁止概念活跃时伴随“damn”“failure”等自我批评。该结构并非人类设计,而是训练中自发涌现。
公众号正文需在微信内阅读,站内仅提供摘要。
在微信中打开原文mp.weixin.qq.com