图灵奖得主：大语言模型发展接近瓶颈 缺乏真正推理能力

图灵奖得主：大语言模型发展接近瓶颈 缺乏真正推理能力！图灵奖得主、Meta首席AI科学家杨立昆在20日播出的“Big Technology Podcast”科技播客节目中，讨论了当前生成式AI难以做出科学发现的原因及未来AI的发展方向。他指出，大语言模型等现有AI技术基于文本训练并通过统计规律生成答案，无法创造新事物，存在局限性。人类能运用常识和心理模型思考并解决新问题，这是AI大模型所不具备的能力。这些模型只是在大量文本数据上进行训练以进行检索和生成，缺乏对物理世界的理解和抽象推理能力。

杨立昆认为，当前大语言模型的发展已接近瓶颈，训练数据的增长带来的回报逐渐递减，进一步获取数据不仅成本高昂，而且效果有限。仅仅通过扩大大语言模型规模和增加训练数据无法实现人类水平的AI，因为大模型缺乏真正的推理能力和对物理世界的理解能力。他认为，“真正的AI”需要理解物理世界，拥有持久的记忆，支持推理和规划。

据报道，杨立昆曾在今年2月预测，AI技术到2030年前将迎来进一步的革命。然而，目前的AI系统依然受限，现有技术难以支撑家用机器人和自动驾驶汽车。他正在研究一种新的系统，旨在通过建立一个模型来预测物理世界的行为，从而帮助AI“理解”现实。他表示，如果能够开发出像猫或老鼠一样聪明的系统，那就算是一大进步。