新闻动态

【导语】2025年虽被视为智能体Agent爆发之年，但OpenAI创始成员安德烈·卡帕西却泼下冷水：当前AI Agent存在无法持续学习、非真正多模态、操作电脑不可靠等核心缺陷，实现实用化仍需十年。他直言强化学习效率低下、模型坍塌阻碍进步，AGI更不会突然降临，而是如蒸汽机般渐进融入社会，人类需抓住窗口期为协同演进做好准备。

2025年被称为智能体Agent之年，当行业的热潮席卷全球之际，OpenAI创始成员、特斯拉前AI总监安德烈·卡帕西（Andrej Karpathy）近日在接受播客节目“Dwarkesh Patel Show”采访时给这股热潮泼下一盆冷水，他直言，当前AI Agent技术尚处早期，还存在“无法持续学习、非真正的多模态、不能自如操作电脑”等核心缺陷，要实现真正的实用化还需要十年左(zuǒ)右。

OpenAI创始成员、特斯拉前AI总监安德烈·卡帕西（Andrej Karpathy）近日在接受播客节目采访。

AGI为何还需要十年

卡帕西认为，尽管当前大语言模型展现出令人惊叹的能力，但Agent真正能够使用的标志是它成为一个员工或实习生，人类愿意雇佣它和自己一起干活、工作。显然，Agent当前还做不到这一步。

原因在于Agent还存在三大核心缺陷：无法持续学习、非真正的多模态、不能自如操作电脑。现在的AI无法记住和用户的每一次互动，当关掉对话窗口后，它就会忘掉。它无法像人类一样，通过日常经历持续学习巩固。

AI虽然能看图写字，但无法真正理解并完成复杂任务。卡帕西举例，AI能(néng)写(xiě)代码，但无法制作一张精美的PPT，因为超出了本质是文本处理器的能力范围。同时，AI操作电脑、点击软件的能力还非常初级和不可靠。

卡帕西借用其在特斯拉开发自动驾驶的经验提出，从“演示”到“产品”有着巨大的鸿沟，“这是一场向数字‘9’的进军，一个在90%的情况下能工作的演示达成了第一个9，但要达到99.99999%的可靠性，还有更多的‘9’需要走。这就是为什么这些事情要花这么长时间。”

强化学习很糟糕

谈及强化学习（Reinforcement Learning），卡帕西直言，“强化学习很糟糕，只是碰巧之前的其他方法更糟糕。”

在强化学习中，试图找到一个问题的解决方案，AI可能会进行数百种不同的尝试。“就像做选择题，它蒙了100次，只有最后1次对了，但它会把整个蒙题过程都当成‘正确经验’，这种学习方式存在严重的效率问题。而⼈类永远不会这样做。”其中的原因是第一，现实世界⼈类不会进行数百次试运行；第二，当人类找到解决⽅案时，会有⼀个相当复杂的反思复盘过程。

另一个深层问题是模型坍塌（model collapse）。模型生成的内容多样性会悄然减少，分布范围变窄，即使单个输出看起来仍然合理。卡帕西举例，你可以让 ChatGPT讲个笑话，但它反复输出的可能只是少数几个模式化的笑话。这一特性阻碍了AI实现持续学习，而如果让(ràng)AI使(shǐ)用(yòng)自(zì)己(jǐ)产(chǎn)出(chū)的(de)数(shù)据(jù)，就(jiù)会(huì)导(dǎo)致模型在自有数据上产生更加同质化的内容，陷入恶性循坏。

虽然人类也会存在类似的思维定式，但可以通过交流、阅读等方式来对抗这一趋势。儿童之所以是高效的学习者，正因为他们不擅长记忆，反而被迫去发现通用模式。当前AI缺乏这种主动寻求并整合多样性的内在机制，必须依赖(lài)人(rén)类(lèi)产(chǎn)生(shēng)的(de)真实数据，这是个很大的瓶颈。

但卡帕西同时也深刻认识到，强化学习仍是当前AI发展道路上不可或缺的一环。原因在于，传统的监督学习（Supervised Learning）存在明显的天花板。监督学习严重依赖大量、高质量的标注数据。但对于“好代码”、“好决策”这类无法明确定义、无法通过标注数据学习的概念，只能通过设计一个奖励函数来让模型自己摸索什么是“好”。这正是强化(huà)学(xué)习(xí)的(de)应(yīng)用(yòng)场(chǎng)景(jǐng)。

AGI的(de)渐(jiàn)进(jìn)式(shì)路径

卡(kǎ)帕(pà)西(xi)坚(jiān)持(chí)AGI的(de)早(zǎo)期(qī)定(dìng)义(yì)——能(néng)执(zhí)行(xíng)任(rèn)何(hé)具(jù)有(yǒu)经(jīng)济(jì)价(jià)值(zhí)任(rèn)务(wu)的(de)人(rén)类(lèi)水(shuǐ)平(píng)系(xì)统(tǒng)。但(dàn)目(mù)前(qián)AI的(de)实(shí)际影响仍有限，其应用高度集中在编码等高度结构化、文本驱动的领域。“人们把物理的东西都拿走了，只是在讨论数字知识工作，这是一个相当重大的让步。原始定义是人类可以做的任何任务，包括举起一件东西。”

与很多人对AGI“奇点”时刻的想象不同，卡帕西认为，AGI不会在某一天突然降临并引爆智能爆炸，而是会像蒸汽机、电力和互联网等历史上的通用技术一样，缓慢地融入并延续过去2.5个世纪来约2%的年度GDP增长趋势。

卡帕西一直试图在GDP（Gross Domestic Product，国内生产总值）的增长趋势中找到AI对其产生的明显影响，理论上GDP应该显著上升。“但后来我看了⼀些我认为⾮常具有变⾰性的其他技术，⽐如计算机或移动电话等。你在GDP中找不到它们，GDP是同样的指数。” 他进一步举例，即使人们认为2008年iPhone 推出是个重⼤的地震式变化，而实际上不是，一切都如此分散、如此缓慢地扩散，以⾄于⼀切最终都被平均到同样的指数中。

这种渐进性源于技术革命的本质：新技术从演示到成熟产品的扩散需要时间。就像自动驾驶关于一场向数字“‘9’的进军”，每一个“9”的可靠性提升都需要付出巨大努力。AGI的发展同样会遵循这条路径，先自动化一些封闭、结构化的任务，再逐步攻克更复杂的工作，其间社会需要(yào)时(shí)间(jiān)来(lái)调(diào)整(zhěng)基(jī)础(chǔ)设(shè)施(shī)、法(fǎ)律(lǜ)和(hé)技(jì)能(néng)体(tǐ)系(xì)。

卡(kǎ)帕(pà)西(xi)相(xiāng)信(xìn)未(wèi)来(lái)将(jiāng)会是多个AI实体逐渐增强自主性，与人类社会协同演进。因此人们拥有宝贵的窗口期进行准备，可以系统地调整教育、社会保障和法律法规，以确保人类在AGI时代能够持续繁荣。