OpenAI创始成员Karpathy颠覆AI趋势：大模型将“减负”变小，教育成核心竞争力，看懂AI未来的关键解读。
核心内容：
1. 大模型现状：99.9%参数存储无用信息，是“暴力拟合”非智能
2. 破局方向：蒸馏技术让大模型“瘦身”，聚焦0.01%认知核心
3. 未来趋势：教育成核心，AI赋能个性化学习（如Eureka Labs课程）

OpenAI 创始成员、特斯拉前 AI 总监，同时也是斯坦福 CS231n 创始人

近期，他在播客 No Priors 中进行了整整 16 分钟的交流，这期对话值得所有关心 AI 未来的人认真听一遍。

原因在于，他的观点与当前整个行业的发展方向截然相反。

大模型有 99.9% 的容量用于一件事：储存垃圾

Karpathy 提出的首个重磅观点，指向大模型的架构。

他给出了一组数据：如今的互联网训练数据里，认知相关内容只占 0.01%，其余 99.9% 都是无用信息。

没有看错，确实是0.01%。

换言之，如今拥有几千亿参数的大模型，把绝大部分参数容量都用来记忆互联网废话，包括重复帖子、低质营销文、彼此抄袭的洗稿以及毫无意义的水贴，这些内容全部被吸收进去。

这属于暴力拟合，并非智能。

该如何解决？Karpathy 表示，蒸馏技术取得的效果远远超出预期。让大模型监督小模型，可以提炼出那 0.01% 的认知核心，再将其压缩到非常小的参数规模。按他的说法，认知核心甚至能够低于 10 亿参数。

10 亿参数意味着什么？它可以运行在手机和边缘设备上，成本还能低几个数量级。

他还作出一个更值得关注的判断：未来不会由单一大模型主宰一切，而会出现类似企业的分层结构。

位于最高层的是能力极强的云端大模型，作用相当于 CEO；下层则分布着许多成本极低的领域专用小模型，甚至能够采用开源模型，如同各部门的执行者。拥有不同能力、面向不同领域的多个模型并行协作，整体更像一个专业分工明确的生态集群。

不是由一个人掌握所有能力，而是让团队成员各负其责。

仔细观察当前趋势就会发现，MoE 架构、Agent 编排框架与垂直领域模型都在沿着这条路线发展，只是 Karpathy 比多数人更早看清了终局。

“我不希望未来的人类遭到自动化边缘化”

技术话题结束后，主持人直接问道：你为何离开 OpenAI 投身教育？

Karpathy 同样给出了直接的回答：

“我始终属于赋能人类的一方。当前大部分 AI 研发方向倾向于取代人类，我希望开发可以赋能人类的 AI，不愿未来的人类被自动化边缘化。”

这并非一句空泛的理念宣言，因为他有非常具体的实践作为支撑。

他的核心逻辑在于：若每个人都能拥有一位定制化的完美导师，接受一对一教学，并适配个人的语言、水平和学习风格，人类能够取得的成就上限便会显著提高。

现有研究已经证明，学生接受一对一辅导后，成绩可以提高一个标准差。

问题在于，过去只有富人负担得起这种一对一的完美导师。硅谷精英家庭每年花几万美元聘请私教，普通家庭却可能连课外班都无法承担。

借助 AI，这件事的成本能够降至接近零。

这正是 Eureka Labs 想做的事情。其第一门课程名为 LLM101n，达到本科技术方向水平，服务全球 80 亿人并支持多语言。它并非入门科普，而是认真教授如何从零开始训练自己的大模型。

他也坦率承认，目前 AI 尚无能力独立产出优质课程。因此采取人机分工：后台由人类教师设计课程与教学材料，前端则由 AI 对接学生，并适应不同的语言和水平。

不夸大，也不描绘空想，而是一步一步推进。

学习这件事的性质将发生变化

这或许是整期播客中最值得深入思考的观点。

在 Karpathy 看来，学习可以分为两个时代：

在前 AGI 时代，学习服务于实用目标：认真读书、考入好大学、找到好工作，再实现阶层晋升。此时学习是一种工具和手段，也是不得不完成的事情。

进入后 AGI 时代，学习将转变成一种娱乐。

“学习如同给大脑健身，虽然需要付出努力，其本身却也是一种独特的乐趣。”

正如今天去健身房，不是为了保命，也不是因为缺席就会挨饿，而是享受逐渐变强的过程，学习也是如此。当 AI 承担大多数重复性劳动以后，人类反而能够投入更多时间与精力，追寻纯粹的智识乐趣。

此外，现有的“上学-毕业-工作”线性路径也将被打破。随着技术迭代持续加快，人们会更频繁地重新进入学习状态，更新个人知识体系。教育将不再局限于人生前二十年，而会贯穿整个一生。

这一判断实际上已出现迹象。现在有许多 30 多岁的人正在学习 AI、编程和新技能，并非出于老板要求，而是源于个人意愿。学习正由“被迫”逐步转向“主动”。

Karpathy 还提出一个尖锐观点：现有学术传承谱系本质上属于圈层 gatekeeping。导师-学生关系、学术血统及推荐信网络并非传播知识的机制，而是在分配稀缺资源。

他期待 AI 教育打破这种结构。如果一名非洲学生和一名斯坦福学生能得到同等质量的教育，学术圈的壁垒也就不复存在。

他还有一句话令我思考许久：“文化对一个人的影响，比知识教育更加深刻。”

他曾在多伦多大学就读，那里的校园文化更倾向稳定就业，学生普遍希望进入大公司工作，几乎没人重视创业。这种环境会潜移默化地塑造人。斯坦福则截然不同，周围的人都在创业、折腾和试错，你也会受到带动。

如果 AI 教育能够营造新的社群文化，使全球学习者组成追求创新和探索的网络，那么它带来的价值将远远超过课程本身。

那么结论是什么

Karpathy 最后向有孩子的人提出建议：孩子应当优先学习数学、物理和计算机科学。

原因不在于这些科目“有用”，而在于它们能够塑造最佳的核心思考能力。应该把 80% 的时间用于这类需要大量训练的内容，而非记忆类内容。这种思维训练越早启动越好，成年以后再进行塑造会困难得多。

这番话由斯坦福 CS231n 创始人说出，自然有着不同的分量。他本人正是沿着这条道路成长：在多伦多大学学习计算机和物理，到斯坦福读博并研究神经网络，随后在特斯拉与 OpenAI 将技术转化为产品。

---

当所有人都在比拼模型参数、融资规模和估值时，Karpathy 却选择了一条看似最缓慢、最不性感的道路。然而认真听完他的观点就会发现，他或许比大多数人看得更加长远。

因为等到 AI 足够强大，真正稀缺的将不再是技术，而是能够驾驭技术的人。

最具价值的事情，正是培养这样的人。

—文章精选—
AI 自纠错循环：借助一个三角色架构，使模型自行发现错误吴恩达推出桌面应用 OpenWorker，意在让 AI 从「聊天工具」转变为「真正的同事」
Google工程负责人发布长文：AI正在夺走程序员培养判断力的机会
北京已将Harness Engineering纳入政策：智能体经济迎来制度地基

登录后查看其余 70% 内容