对话梅宏院士：大语言模型的天花板已现，AGI之路何在？

在近日于浙江省东阳市横店举办的第二十一届中国计算机大会（CNCC2024）期间，搜狐科技对中国科学院院士、北京大学教授梅宏进行了深度访谈。梅宏教授作为计算机软件领域的权威专家，对当前人工智能大模型的发展现状、技术局限以及伦理问题提出了独到见解。

针对AI大模型是否将取代程序员的问题，梅宏表示了明确的否定态度。他指出，现有AI技术路径缺乏人类智能的核心要素——创造力，因此无法取代程序员。AI虽然能在代码推荐、错误避免等方面提供辅助，但终究只是工具，无法独立完成用软件实现业务需求的任务。梅宏强调，AI在应用层面还面临伦理道德、知识产权以及产出质量等诸多挑战，全面取代人类程序员仍遥不可及。

梅宏进一步从科技伦理的角度探讨了AI取代人类的问题。他认为，智能是人类区别于动物的最重要特征，是人类成为地球主人的关键所在。因此，去追求造出一个替代人类智能的东西，既无必要也不合伦理。他呼吁，我们应该将AI视为工具，用来帮助人类提升做事效率和质量，而不是替代人类。

在谈到AI大模型的未来发展时，梅宏表示，当前大模型的成功主要依赖于海量数据的支持，特别是自然语言文本和视频数据。然而，随着可开放访问的数据被逐渐用尽，大模型的能力很可能在未来几年内达到天花板。他指出，除了数据问题外，大模型还面临模型行为不可解释性、缺乏可信性等障碍。因此，在推进AI行业应用时，应优先积累数据，为AI的发展提供坚实基础。

对于大模型能否通往通用人工智能（AGI）的问题，梅宏持悲观态度。他认为，现有大模型的技术路径无法实现通用人工智能。他解释说，大模型严重依赖数据和算力，而实际上可开放访问的数据已经接近枯竭。大模型的工作原理与人类大脑相差甚远，无法像人类一样进行创造性思维和归纳演绎。因此，梅宏呼吁全球共同维护一个开放共享的基础模型，避免无谓的浪费。

在谈到机器是否会产生意识和思想时，梅宏表示了否定态度。他认为，现在的AI没有所谓的意识和思想，只是基于概率统计对已有内容进行整理和组织。他解释说，大模型的工作原理是将数据分布或生成过程表示为概率分布函数，并通过神经网络逼近这些函数。因此，大模型可以产生基于内容“基元”的新组合，但无法“无中生有”做出超越人类预期的事情。他强调，我们不应该过度使用类人的术语来描述机器，以免在公众中造成误解。