Feng Liu|2026年06月17日 07:03
Kevin Xu @kevinsxu 这篇写的很有意思:为什么一些中国的 AI 实验室要蒸馏?
- Anthropic 报告点名 DeepSeek、Moonshot、MiniMax 这 3 家中国 AI 实验室在搞蒸馏,但 Kevin 认为这背后主要的原因是这些独立实验室缺乏高质量数据,是不得已为之的「绝望之举」。与之对比,大型中国科技公司内部实验室,比如阿里 Qwen、字节,可通过内部业务单元获取真实世界数据,对蒸馏依赖度较低(所以目前 Anthropic 还没有当场抓住他们的把柄);
- Kevin Xu 提出,中国没有成熟的数据产业来支撑 AI 实验室——这非常反直觉,因为普遍的观点是认为中国具有数据优势,毕竟中国人口众多,产生了大量数据,并且中国缺乏数据隐私。Kevin 的看法是,对于某些垂直领域,如制造业和供应链,这种看法是对的,因为中国有大量的制造业和供应链,但对于训练大型前沿模型有用的通用知识或信息,大部分来自互联网或结构化知识工作时,中国团队无优势可言。(很多中国团队给他反馈,使用国内的一些数据供应商质量很差,是浪费时间)
- 他认为,反蒸馏政策对中国的独立实验室影响最大,但不会从根本上改变竞争格局,因为聪明的学生终将超越老师,无论是否允许蒸馏存在。(Feng Liu)
分享至:
脉络
热门快讯
APP下载
X
Telegram
复制链接