从Karpathy泼冷水到彭罗斯预言：我们到底是在造人，还是在造幽灵？

Update: 2025-11-06

Description

Andrej Karpathy近期在一场访谈中对当前AI行业热潮泼出的一盆冷水。冷水也刷屏了。仔细看看这盆冷水，泼的还蛮有意思，也给了我们很多启发，于是决定发挥《文理两开花》灵魂拷问引领反向叙事的传统，从Karpathy对“智能体元年”系统性的反驳切入，灵魂拷问一下当前AI发展的核心局限。

比如：“预训练”的本质到底是不是一种“山寨版的进化”？ AI为何“不能当人用”的那些认知缺陷，如缺乏睡眠、反思与做梦机制，会不会引发的“模型坍塌”风险？还有强化学习（RLHF）到底是不是还如此惊艳？它有什么大家不愿意挑明的现实困境？ “AI裁判”真的有后门吗？

既然是《文理两开花》，那我们一定会从技术层面上升至哲学思辨：为何AI没有肉体，就缺少了“趋利避害”的内在驱动力？人类智能的独特性究竟源于何处？从业界讨论延伸至科学与哲学的边界，彭罗斯（Penrose）的量子意识理论是不是又在你脑中劈了一条“闪电”？

最精彩的部分来了，大家一定要听到最后。尤其是在AI领域正发愁写论文的同学们：Will老师有一个惊为天人的观点，且他正准备写成论文发表。Will老师大胆提出一个新颖的类比：Transformer模型中的随机性，是否与人脑中产生意识的量子过程有异曲同工之妙？

</figure>

（Will老师供图）

本期播客录完之后，我自己也激动了半天：是一场畅快淋漓的、从技术批判到哲学畅想的脑力风暴，最终回归灵魂拷问：人类自身反思和创造能力到底意味着什么？

太激动，以至于都忘了做广告：

</figure>

还是非常希望大家能够支持我们的新书《数字世界生存手册》！

我们在《文理两开花》中念叨了一年的书终于出版了。经常听节目的朋友都知道，这本书的整体逻辑和主要框架，核心还是围绕 “六个大筐” ——那六个底层逻辑展开，而这“六个大筐”正是数字世界的核心内容。

说到这六个大筐，我们第一次提及还是在疫情期间的 2020 年，到现在已经有些年头了。这么多年过去，这套底层逻辑完全经得起市场起起落落的考验，依然可以解释从数字货币到AI等等数字世界中发生的很多事情。我们当初构建的整个框架，直到今天还在被数字世界中发生的每一件事不断印证着。基本上可以说，大家现在看到的整个数字世界，尤其是数字货币领域的每一个发展动态，其实都能和这本书里的框架非常有效地贴合起来，并且能从中得到充分的验证。这一点还是挺让人欣慰的。

所以，请大家多多支持！也请大家持续关注我们后续的宣发活动！

时间戳：

· 00:06:54 “智能体元年”是伪命题？Karpathy的核心反驳：我们不是在造人，是在造“幽灵”。

· 00:08:33 AI为何不能“当人用”：详解认知能力的缺失，以及睡眠、反思与做梦机制的不可或缺。

· 00:13:47 十年之约：为何说AI的基本功尚未打牢，现在谈论取代人类为时过早。

· 00:14:09 历史的回响：从彭罗斯的《皇帝新脑》看当前AI热潮下的审慎与怀疑。

· 00:20:20 智能的标准之争：图灵测试、结果论与本体论，我们该如何评判AI？

· 00:20:50 中美AI的两条路：务实的“应用主义”与追寻终极的“AI God”。

· 00:23:00 感知的鸿沟：为何外行觉得AI惊艳，而专家看到的却是局限？

· 00:26:15 实践永远先于理论：用“蒸汽机”类比，理解大模型作为工具的革命性意义。

· 00:30:42 智能爆炸还是平滑曲线？AI对社会的影响，以及自我进化的可能性。

· 00:31:07 通往超级智能的“断梯”：为何AI无法自动化AI研究，写出真正创新的代码？