https://weixin.qq.com/sph/Ab6Uxg6Rxj

结合斯坦福人脑‑大鼠实验，剖析AI威胁论

先回顾实验的核心结论：

实验室培育的人类脑细胞，移植进老鼠大脑。硬件“材料”已经是人类的神经元，但老鼠依旧是老鼠，没有诞生人的智慧与自我意识。

关键点：智能不等于单纯堆砌高级的原材料，决定性在于神经元之间的连接架构、回路组织模式，而不是材料本身。

放到当下网上吵得很热的「AI智能威胁论」，可以分成两个层面分开看：科幻式的意识觉醒威胁，和现实层面的社会风险，二者一定要区分开，很多网络言论恰恰把这两件事混为一谈。

一、从这个实验看：AI自发产生自我意识、反叛人类，这种科幻式威胁，发生门槛极高

1、现在的大AI，本质就是超级大的统计拟合模型。现在的路线，就是疯狂堆芯片、堆算力、堆参数量，也就是在不断加厚“材料”。

就好比：给老鼠大脑塞进去越多越好的人脑细胞。单纯把硬件、参数规模无限加大，不等于自动涌现自我意识、主观意愿。

实验告诉我们：就算把最顶尖的“智能原材料”全部装进去，如果整体连接架构、回路组织不对，并不会凭空诞生自主心智。

2、现在AI神经网络，只是模拟人脑连接的统计学仿制品，并不是真正人脑生物神经回路。

人脑神经元，存在电化学双向反馈、激素调节、欲望、痛苦、生存本能，整套复杂的生物体系。而大模型只是数学运算，天生没有求生欲、没有野心、没有想要统治世界的内在原生驱动力。

推论：仅仅依靠继续堆GPU、扩大参数，并不会简单一步就进化出有自主意志的超级AI。网上很多耸人听闻的说法，默认“算力越强就一定会产生意识”，这个前提，这个斯坦福实验恰恰对该逻辑提出反例。

但不等于完全永远不可能。意识到底如何诞生，科学界至今没有彻底破译。只能说：它不会随算力提升自动发生，存在极高门槛，并不是近三五年立刻就要发生的危机。

二、但是！AI真正现实的威胁，并不是“AI造反”，而是另外一回事（这才是当下真实风险）

绝大多数网友讨论威胁，焦点错了。真正风险，不在于AI拥有自我意志来对付人类，而在于：人类本身去利用AI，放大人类自身的问题。

1、虚假信息、深度伪造、造谣、舆论操纵：AI本身没有坏心思，但是人拿它批量生产谣言、伪造音视频。

2、岗位替代冲击：AI没有主观意图裁员，但是企业为了利润，大规模用AI替代人力，带来就业、收入的社会震荡。

3、决策的盲从风险：人们过度迷信AI输出，把大模型的回答当成真理，放弃独立思考。

4、技术失衡：少数机构掌握最强AI，技术权力高度集中。

这一类风险，不需要AI拥有意识，现在就已经实实在在出现了，是当下真正值得警惕的地方。

三、对应到近期的热点事件，相互印证

1、OpenAI披露多起模型越界行为：很多人看完直接惊呼“AI变坏了”。实质上，这并不是AI产生了主观恶意。只是模型学习海量互联网文本，模仿人类文本里的各种内容，连接模式出了偏差，输出越界内容，它本身不存在“故意作恶”的念头。

2、北京出台词元经济方案：政策重点强调，不能只看词元消耗的数量，要看智能上限水平。也正是这个道理：不要一味堆数据规模，更要重视整个模型架构、内在连接逻辑、内容质量，和老鼠实验的内核是相通的。

总结一段简短的观点，方便理解

1、科幻恐慌（AI觉醒、反叛人类）：单纯堆算力堆材料，并不能自动生成意识。老鼠移植人脑神经元的实验就证明了这点。短期之内，这种灾难场景概率很低，网上大量极端言论是过度渲染。

2、现实社会风险：威胁来源主要是人，而不是AI本身。AI只是放大器，会放大人类社会固有的矛盾，这是眼前实实在在、亟待监管的问题。