Anthropic重磅研究:Claude训练中自发涌现类意识内部结构,印证人脑全局工作空间理论

🤖 由 文心大模型 生成的文章摘要

人工智能企业Anthropic发布全新研究论文,团队通过自研可解释性工具拆解Claude大模型内部运行逻辑,证实模型在无人工预设的前提下,自发生成具备类人类意识访问功能的专属内部区域,该成果打通AI与神经科学理论关联,同时革新AI安全风险审计手段。

本次研究由16名科研人员联合完成,论文题为《可言语化表征在语言模型中形成全局工作空间》。团队创新推出雅可比透镜(J-lens)观测工具,依托词汇对神经网络内部运算的数学影响规律,在Claude模型内部定位出专属核心区域——J空间(J-space)。

研究团队将J空间类比为剧院聚光灯:模型底层海量信息并行自动运算,但仅有少量关键信息会汇聚至 J 空间,成为模型可复述、深度推理、灵活复用的核心概念。该结构并非代码预先设计,而是模型长期训练过程中自然涌现;借助J-lens观测可见,模型信息处理完整分为三层:解析输入信息的 “感觉区”、提炼抽象概念的J空间工作带、生成文本输出的“运动区”。

为验证J空间的类意识功能属性,研究设置五项标准化实证测试,全部匹配人类意识访问的核心特征:

言语报告特性:J空间仅占整体概念表征方差6%-7%,却完全决定模型输出内容。替换空间内“足球”表征为“橄榄球”,模型回答会同步变更;

定向调节特性:人为指定模型聚焦特定内容时,J空间会主动激活对应概念与元认知标签,相关信息即便不对外输出也会留存于内部;

内部推理特性:多步骤逻辑推演时,J 空间可捕捉输入、输出文本之外的中间推导概念,例如由 “结网生物” 自主推导出 “蜘蛛”;

灵活泛化特性:空间内国家、事物向量可跨语境替换,下游运算链路均可适配匹配答案,体现全局信息广播能力;

任务选择性:简单文字续写等浅层运算不经过J空间,写作、复杂逻辑题等深度思考任务高度依赖该区域。

对照实验进一步佐证J空间的核心价值:完全屏蔽J空间后,Claude做选择题等简单任务表现不受影响,但多步推理、长文本翻译、创意写作等高阶任务性能大幅下滑,甚至低于同系列小型模型Haiku。仅依靠显式思维链的数学题受影响较小,说明模型会通过文字草稿补偿内部工作空间缺失。同时,失去J空间后,模型行文风格从完整逻辑描述变为机械生硬的文本扫描式输出。