哥伦比亚大学计算机科学教授：为什么LLMs无法发现新的科学 从GPT-1到GPT-5，LLMs在模拟人类语言方面取得了巨大进步。但它们能否超越这一点，进行新的发现并推动科学进步？ 哥伦比亚大学著名计算机科学教授Vishal Misra对此持反对意见。LLMs将极其复杂的世界压缩到贝叶斯流形中，虽然在流形上的信心很高，但在训练数据之外进行推理时，LLMs会出现幻觉。真正的AGI不仅能够在更大、更复杂的流形上进行推理，还能完全创造新的流形。 0:00 引言 0:32 LLMs和人类通过流形进行推理 4:15 令牌预测、熵与信心 10:20 Vishal的背景 14:10 发明RAG 17:30 关于进步是否停滞的问题 21:00 矩阵模型 28:10 为什么LLMs无法递归自我改进 34:02 定义AGI 38:25 未来架构 42:00 建模与提示工程 47:20 什么能证明AGI已经到来？ 50:01 总结思考 @vishalmisra @martin_casado @eriktorenberg