Anthropic CEO Dario Amodei(达里奥·阿莫代):我不是末日论者,但我们必须正视 AI 风险

CN
3 小時前

撰文:Techub News 整理

导语

近日,Anthropic 联合创始人兼 CEO Dario Amodei(达里奥·阿莫代)在其旧金山总部接受了深度专访。作为 OpenAI 前核心成员、GPT-3 项目负责人,以及如今估值数百亿美元的 AI 明星公司 Anthropic 的掌舵人,Amodei 的观点始终备受关注。近期,他关于 AI 可能取代大量白领工作、呼吁加强芯片出口管制等言论,引发了行业内外广泛讨论,甚至招致了“末日论者”的批评。在这场对话中,Amodei 全面回应了这些争议,详细解释了 Anthropic 的技术路径、商业逻辑以及对 AI 未来发展的核心判断。

摘要

  • Dario Amodei(达里奥·阿莫代)强烈驳斥“末日论者”标签,强调自己深刻理解 AI 的巨大益处,但正因如此才必须警示风险。
  • 他坚信 AI 能力正遵循“扩展定律”呈指数级提升,而市场普遍低估了这种指数增长即将带来的颠覆性影响。
  • Anthropic 专注于企业级 AI 应用,认为这是最能体现模型价值、并推动技术向善的商业模式,其营收已连续数年实现10倍增长。
  • Amodei 认为,AI 的安全性与能力发展密不可分,Anthropic 通过发布负责任扩展政策、投资可解释性研究等举措,致力于引领一场“竞优”而非“竞劣”的行业竞赛。
  • 他批评部分行业领袖对其动机的曲解是“无耻的谎言”,并呼吁以更严肃、诚实的态度对待 AI 这项高风险高回报的技术。

驳斥“末日论者”:深刻理解益处,方能严肃警示风险

访谈伊始,主持人便直指核心:近期 Dario Amodei(达里奥·阿莫代)关于 AI 经济影响和安全性的诸多警告性言论,让他被贴上了“末日论者”的标签。Amodei 对此反应强烈,甚至用了“愤怒”一词。

他讲述了个人的家庭经历作为回应:他的父亲曾罹患重病,并在2006年去世。然而,就在其父去世后仅三四年,该疾病的治愈率就从约50%跃升至95%。“我比任何人都更理解这项技术能带来的益处有多么紧迫,”Amodei 说道,“当我写下《充满爱意的机器》那篇文章时,我列举了这项技术能让数十亿人生活变得更美好的所有方式。”

Amodei 认为,一些在社交媒体上为“加速”欢呼的人,似乎并不真正关心技术的人文主义益处,而只是沉浸在肾上腺素的刺激中。当这些人称他为“末日论者”时,在他看来完全丧失了道德可信度。“我理解这项技术的好处。你听到我刚才说的了……我理解这项技术的好处。”

他明确表示,自己的立场并非要减缓技术发展,恰恰相反,是为了让技术能够持续、安全地进步。“我警告风险,是为了我们不必减速。这样我们才能投资安全技术,继续推动该领域的进步。”

坚信指数增长:市场普遍低估了 AI 的颠覆速度

Amodei 被许多业内人士认为是主流 AI 实验室领导者中对技术发展时间线预估最短、最激进的一位。他对此的解释源于对“扩展定律”的坚定信念。

他避免使用“AGI”(通用人工智能)或“超级智能”这类他认为“毫无意义”、“像营销术语”的词汇。但他确信,AI 能力正沿着一条明确的指数曲线攀升:每隔几个月,通过投入更多算力、数据和新的训练方法,我们就能获得一个比前一个更强大的模型。最初这只是“预训练”阶段的扩展,现在则加上了“强化学习”或“推理”这第二阶段,两者正在同步规模化。

“人们不太擅长理解指数增长,”Amodei 指出,“如果某物每六个月翻一番,那么在它发生前两年,它看起来只完成了1/16的进度。”他认为,我们正处在2025年年中,模型能力在经济层面的影响力已经开始爆发。他以 Anthropic 的营收为例:2023年从零增长到1亿美元,2024年达到10亿美元,而2025年上半年,已从10亿美元增长到约45亿美元。“如果这个指数再持续两年(我不说它一定会),你就会达到数千亿美元的规模。”

他将此与1990年代的互联网浪潮类比:当时网络速度和计算机底层性能快速提升,短短几年内就催生了全球数字通信网络,而当时几乎没人预见到其影响和速度。“这就是我的出发点……我认为人们被指数增长愚弄了,没有意识到它可能有多快。”

对于业内关于“规模化收益递减”的讨论,Amodei 基于 Anthropic 的模型表现予以否认。他以编码能力为例,指出从 Claude 3.5 Sonnet 到 Claude 3.7 Sonnet,再到 Claude 4.0 系列,每一代模型在编码上都比前代有实质性提升,基准测试分数和实际使用量都在呈指数增长。“我们看不到任何收益递减的迹象。”

Anthropic 的商业模式:押注企业级应用,与指数增长对齐

当被问及生成式 AI 是否是一门真正的生意时,Amodei 用 Anthropic 的业绩给出了肯定答案。他强调,Anthropic 是历史上在同等规模上增长最快的软件公司。

与 OpenAI 侧重消费者产品(如 ChatGPT)、谷歌侧重将 AI 融入现有产品套件不同,Anthropic 选择了不同的道路:专注于企业级 AI 应用。Amodei 解释,这包括企业、初创公司、开发者和使用模型提高生产力的高级用户。“我们的观点是,AI 的商业使用(甚至可能比消费者使用)将会更大。”

他认为,专注于商业用例能为模型改进提供更好的激励。“一个思想实验:假设我有一个模型,其生物化学水平相当于一个本科生。然后我改进了它,使其达到博士生水平。如果我面向消费者,也许只有1%的消费者在乎这一点。但如果我去辉瑞公司说,我把模型从本科生物化学水平提升到了研究生水平——这将是世界上最重要的事情,他们可能为此支付十倍的费用。”

因此,让模型变得更智能、更能解决世界性问题(如生物医学、地缘政治、经济发展等),并与企业的价值创造直接挂钩,这不仅是一个更具潜力的市场,也更能推动技术向善。“我想说,我们押注于 AI 的商业应用,是因为它最符合指数增长的趋势。”

关于 Anthropic 的定价策略和盈利能力,Amodei 承认定价方案和速率限制非常复杂,早期对一些使用模式的影响估计不足,并已进行调整。他强调,从模型创造的价值角度看,提供特定智能水平的成本会下降,而提供前沿智能的成本可能保持稳定,但其创造的经济价值会大幅上升。

对于公司目前尚未盈利的状况,Amodei 提供了一个独特的视角:应将每个模型视为一个独立的“风险项目”。公司可能每年投入巨资训练下一代模型(导致账面亏损),但上一代已部署的模型本身是盈利的。“如果模型停止变得更好,或者公司停止投资下一个模型,你可能会有一个可行的业务……但每个人都在投资下一个模型。”这反映了行业对指数级增长的预期和投入。

安全与能力交织:倡导“竞优”而非“竞劣”

作为 OpenAI 前核心成员、GPT-3 项目的推动者,Amodei 离开并创立 Anthropic 的动机一直是外界关注的焦点。他透露,最初构建 GPT-2 和 GPT-3 其实是 AI 对齐工作的延伸,是为了大规模研究和应用“基于人类反馈的强化学习”等技术,以让模型更好地遵循人类意图。

这段经历让他深刻认识到,AI 系统的“对齐”(安全性)与“能力”发展是紧密交织的,很难将两者分开工作。真正能引导领域向更积极方向发展的,是组织层面的决策:何时发布、内部研究什么、在系统上做什么样的工作。而这正是他决定另起炉灶的原因之一。

Amodei 驳斥了“他认为只有自己能安全构建 AI 从而想控制整个行业”的批评,称这是“无耻的谎言”。“我从未说过任何接近这样的话……这是一个令人难以置信的、充满恶意的歪曲。”

相反,他提出 Anthropic 的目标是引领一场“竞优”竞赛。“在‘竞劣’中,无论谁赢,每个人都是输家,因为你制造了不安全的系统……在‘竞优’中,无论谁赢,每个人都是赢家。”Anthropic 的做法是树立榜样:率先发布“负责任扩展政策”、公开可解释性研究成果、分享“宪法AI”方法、公布危险能力评估方式等,并鼓励其他公司效仿。“我们试图为该领域树立榜样……但这其中存在一种相互作用,即成为一个强大的商业竞争者是有帮助的。”

资源与人才:坚信使命与文化不可购买

面对像 xAI、Meta 等拥有万亿市值母公司支持的对手在算力集群上的巨额投入,Amodei 承认 Anthropic 筹集了近200亿美元“不算少”,同时在与亚马逊等合作建设的数据中心规模上,并不逊色于其他公司。

但他认为,相比纯粹的算力资源,“人才密度”才是更关键的因素。Anthropic 之所以能保持资本效率(用更少的资源做出更好的模型),核心在于顶尖人才的聚集和高效协作。他提到,尽管面临巨头公司的高薪挖角,但 Anthropic 的流失率很低,许多人甚至拒绝与马克·扎克伯格会面。

Amodei 将之归因于公司文化和使命认同。“我们拒绝妥协我们的原则……因为我们有信心,人们加入 Anthropic 是因为他们真正相信这个使命。”他认为,竞争对手试图用金钱购买“与使命的一致性”,但这恰恰是买不到的。“我对他们试图做的事情相当悲观。”

对开源与行业未来的看法

对于开源模型可能带来的“颠覆”风险,Amodei 持不同看法。他认为,在 AI 领域,开源(更准确说是“开放权重”)的运行方式与传统软件开源不同。模型的权重并非像源代码那样易于理解和协作改进。最终,大型模型都需要在云上进行推理,这本身就有成本和效率门槛。

“当我看到一个新模型时,我不在乎它是否开源……我只问,它是一个好模型吗?它比我们更擅长某些事情吗?这才是唯一重要的事情。”他认为,将“开源”作为思考竞争的主要维度是一个“干扰项”。

在访谈的最后,Amodei 再次强调了当前处境的严峻性:数万亿美元资本站在加速 AI 的一边,而 Anthropic 尽管估值很高,但相对于这股力量仍然很小。他不断发声警示风险,即使这会招致同行、政府官员和资本方的批评。

“我们需要更多的深思熟虑、更多的诚实、更多愿意违背自身利益行事的人。我们需要人们真正投入去理解现状,真正去做研究,真正为我们的处境增添一些光明和见解。”Amodei 总结道,“我正在努力这样做。如果能有其他人也尝试做同样的事情,那将非常有帮助。”

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下載

X

Telegram

Facebook

Reddit

複製鏈接