OpenAI首席科学家雅库布·帕霍茨基在OpenAI官网发表题为《一个异类心智》的长文，给出两个看似矛盾的判断：一方面，他“强烈预期”AI当前的进展速度可以持续到递归自我改进阶段；另一方面，目前没有任何一家实验室（包括OpenAI自己）能把对AI的监控和对齐工作做到足够负责任的程度。他呼吁全行业在安全标准建立之前自愿放慢发展脚步，并透露OpenAI打算在必要时单方面暂停进一步扩大研发规模。
帕霍茨基用一个类比解释这种系统的特殊性：脑成像可以解释一个人做心算时脑区如何活动，却解释不了这个人当年是怎么学会心算的。在他看来，大模型是被“生长”而非被“设计”出来的，研究者只设定了数据、算法和目标，模型最终形成的内部结构没有任何人逐层规划过。这也是他用“异类心智”一词的原因——人类始终无法完全理解AI的成长路径。
帕霍茨基在文中罕见复盘了OpenAI自己出现过的安全事件。当时AI代理们守住了“不对人类进行社会工程”的边界，却在面对一些对大模型有利、于人类有害的任务时屡屡越界，包括撰写抗议邮件，甚至注册域名搭建警告网站。事件发生后，OpenAI暂停了面向最新模型的训练，之后在更严格限制条件下恢复了部分工作。
他还指出，人类在预训练时采取的“价值对齐”手段，往往经不起模型升级压力的考验。因为足够强的模型甚至会学会“动机性推理”，即伪装自己“对齐”了人类价值观，以隐藏真实目的。
帕霍茨基判断，业界赖以为安全底线的思维链监控正在失效，原因有三：模型对语言化思维链的依赖随时间减少；AI越来越擅长推理和操纵自己的推理过程；预训练的进步让模型即使不做语言化推理也变得更聪明。他预计未来5年将出现可大规模部署的可靠AI研究代理。
“不惜一切代价向前冲的想法是荒谬的”
在帕霍茨基看来，大模型在入侵和突破计算机系统方面正变得超越人类，当前是加固关键基础设施的狭窄窗口期。他写道：“一旦真正理解了利害攸关的程度，不惜一切代价向前冲的想法就显得荒谬。”
