[新年专访②]Marcus:“AGI 可以实现,但现有 AI 只是模式识别器…AI 投资已达互联网泡沫级过热”
纽约大学教授 Gary Marcus:
LLM只是高度复杂的模仿,泛化与可靠性受限
仅靠深度学习难以实现AGI,需转向神经+符号路径
GDP增长多受投机性投资驱动
为纠错而增加的“work slop”反而损害生产率
如同互联网泡沫:技术方向对了,但投资时点错了
“目前构成人工智能(AI)基础的巨型语言模型(LLM)看上去颇为‘聪明’,但本质上更接近于在既有数据上做组合后给出结果的‘扩展版模仿(extended version of imitation)’。在准确性和可靠性方面,它们的局限性十分明显,但市场的期待和投资规模却远远超前于技术的真实成熟度。”
在美国以认知科学为基础的AI批评者中广为人知的 Gary Marcus,美国纽约大学(NYU)心理学与神经科学名誉教授,近日在通过视频连线接受本报新年专访时作出了上述评价。他三十余年来一直研究AI的结构性局限与风险,并持续主张,仅凭以深度学习为中心的路径,很难抵达通用人工智能(AGI)。
Marcus 教授指出,当今AI系统核心的LLM“与其说是在理解新概念,不如说更接近‘模式识别器(pattern recognizers)’”。正因如此,一旦遇到超出训练范围的陌生情境或真实环境,就很容易出错,尚未达到社会所期待的那种可靠性水平。
这一评价与最近以硅谷为中心、在部分AI企业和投资者之间扩散的乐观论形成鲜明对比。业界认为,LLM已经在特定领域证明了其在生产率提升等方面的实际效用,并且通过扩大模型规模以及引入多模态、智能体技术,其泛化能力也在快速改善。不过,一直对这类主流观点持相对批判态度的 Marcus 教授坚持认为,这些局部成果难以直接推导出“全面可靠性”。
他并未否认AI在中长期层面的发展潜力本身,只是强调:“要实现AGI,必须进行结构性转型,例如采用将传统符号主义AI与神经网络路径相结合的‘神经—符号AI(neuro-symbolic AI)’。”
对于围绕AI产业的投资过热争议,他则表达了尤其强烈的忧虑。他指出:“最近美国国内生产总值(GDP)增长的相当一部分,与其说源自AI带来的实际生产率提升,不如说更多来自围绕AI期待所引发的投机性投资。”除英伟达等半导体企业之外,目前尚缺乏明确证据表明AI已经真正创造出巨额利润。
他尤其指出,生成式AI并非提升了工作效率,反而因为增加了错误修正和返工,出现了使生产率下降的“work slop(工作泥沼)”现象。
Marcus 教授最后警示称:“在互联网泡沫时期,技术方向本身是正确的,但投资时点是错误的。AI也终有一天会成功,但当前市场的步伐显然大大超前于那个时点。”
以下为与 Marcus 教授的问答实录。
-如何评价作为当今AI系统核心的LLM?
▲LLM最根本的局限在于其一般化能力。这类模型在基于既见数据生成相似结果方面非常出色,但在对新情境进行深度理解或推理方面却很薄弱。因此,一旦面临训练数据中并不充分存在的情境,就很容易出错。它们并非简单复制,但本质上仍更接近高度复杂化的模仿。
-当前以深度学习为中心的路径,在AGI讨论中处于怎样的位置?
▲仅依靠目前这种深度学习方式,很难实现AGI。我认为AGI的出现是可能的,但为此必须把传统的符号主义AI与神经网络路径整合得更加精细。需要出现所谓“神经—符号AI”之类的结构性突破,也很可能还需要尚未出现的全新理念。
-如何看待社会和市场对近期AI技术与产业的评价?
▲总体而言,AI目前被高估了。占据主导地位的LLM在准确性和可靠性方面依然不足。即便是在被认为运作相对良好的领域,如计算机编程,错误依旧频繁。LLM本质上是模式识别器,而现实世界中的大多数问题都要求超越模式识别的能力。
-有观点称,AI提高了生产率,从而拉动了美国经济增长。
▲这一说法包含相当大的混淆。目前GDP增长的很大一部分,并非来自实际生产率的提升,而是源于围绕AI的投机性投资效应。包括麻省理工学院(MIT)在内的多项研究表明,多数企业即便投资了AI,也没有获得可见的投资回报。(根据MIT发布的《2025年企业环境中的AI现状报告》,该机构梳理了300个公开的生成式AI导入案例,并对企业等进行了调查,结果显示,尽管企业投入了数百亿美元资金,但其中95%的投入尚未获得可见的投资回报。)在ChatGPT问世之后,曾有人期待“AI可以完成10名员工的工作”,但现实中,由于错误导致工作效率反而下降的案例正不断增加。
-市场对AI企业的期待和股价评估是否合理?有观点担忧这让人联想到互联网泡沫。
▲我不认为这是合理的。英伟达是一家出色的公司,但当前的企业价值是建立在“其他公司将利用英伟达芯片赚取巨额利润”这一前提之上。然而,支撑这一前提的明确证据目前仍然不足。英伟达对 OpenAI 进行股权投资,而 OpenAI 又大举采购英伟达半导体的这种循环式金融结构,同样存在夸大真实需求的风险。从投资过热这一点看,当下的AI热潮与互联网泡沫极为相似.
-AI将对劳动力市场产生怎样的影响?
▲短期的恐慌被夸大了。就目前而言,很难说AI正在大规模取代工作岗位。一些企业为了削减成本,以AI为借口裁减人力。二十年后情况很可能会发生变化。随着AI发展进入实质性替代劳动力市场的阶段,这将成为整个社会无法回避的问题。
-你如何看待AI的短期与长期风险?
▲短期内,网络犯罪、虚假信息、未经同意的深度伪造色情内容等风险已经成为现实。从长期看,如何让AI按照人类意图行事的“对齐(align)”问题,是最关键的课题。尤其在军事等一旦出错代价极其惨重的领域,风险会更大。我并不认为AI会让人类灭绝,但通过虚假信息扩散、生物恐怖主义、军事误判等方式给人类造成严重损害的可能性,完全是现实存在的。
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。