a16z:AI赋予人类超能力后,我们该去往何方?

CN
8小时前
原文标题:AI just gave you superpowers—now what?
原文来源:a16z crypto
原文编译:Luffy,Foresight News

一篇名为《AGI 的极简经济学》的新论文正在广泛传播。为此,我们与论文作者展开对话,内容涵盖:

· 自动化与验证:核心经济分野

· 为什么 AI 智能体如今感觉像同事初级岗位正在发生什么,以及「编码者的诅咒」

·「意义创造者」、共识与地位经济的价值

· 为什么加密货币可能成为身份、来源与信任的关键基础设施

· 两种可能的未来:空心化经济 vs 增强型经济

本次节目邀请了麻省理工学院加密经济实验室创始人 Christian Catalini 和 a16z crypto 的首席技术官 Eddy Lazzarin,与 Robert Hackett 进行对话,深入探讨自动化如何重塑劳动力市场以及智能的本质。

这些变化对创业公司、未来工作以及你的职业生涯意味着什么?

以下为对话内容:

Robert Hackett:大家好。今天我们请到了 Christian Catalini,他是 Lightspark 联合创始人、MIT 加密经济实验室创始人,同时还有 a16z crypto 的 Eddy Lazzarin。

我们要讨论的是 Christian 最新发表的一篇论文《AGI 的极简经济学》。

我首先想问:是什么促使你开始研究 AI 与现实世界之间的经济关系?

Christian Catalini:我想说,这源于一场半存在主义危机。我们都在面对技术的飞速进步,以及一切变化得有多快。

我是一个乐观主义者,但核心问题始终是:我们该做什么?该聚焦什么?什么值得我们投入时间、精力与注意力?

几个月前,我们写过一篇关于度量的文章,核心观点是:任何可以被度量的东西,终将被自动化。这听起来并不是什么好消息。而这第二篇论文的核心则是:如果这个假设成立,我们把它推到极致,会发生什么?

经济会变成什么样?劳动的本质会是什么?初创公司该做什么?现有巨头该做什么?归根结底,未来会是什么样子?

有些判断会对,有些会错。但愿我们方向是对的。现在论文已经公开,我们正在看哪些观点能引起共鸣,哪些不能。

Robert:你说这源于一场半存在主义危机?

Christian:我的主要感悟有三点。第一,这项技术目前仍在我们的掌控之中。第二,它的正面价值,比悲观者宣称的要大好几个数量级。第三,我认为我们所有人都有一套行动指南。

我们可以思考:我们在哪里创造价值?我们在工作中做的是哪类事情?工作往往是一堆任务的组合。当其中某些任务或部分工作被自动化时,人们会非常焦虑。

我认为现在编程正在经历这个过程:过去几十年里写出优雅、出色代码的许多优秀人才,现在会发现:「哇,AI 正在做我做的工作。」

AI 智能体:从工具变成同事

Robert:我想深入一点。我们今天还请来了 Eddy Lazzarin,他在 a16z crypto 担任 CTO 已有数年。Eddy,你如何看待这些变化?

Eddy Lazzarin:我先把时间线和论文背景放在一起说。很多人感觉到,2025 年 12 月发生了某种质变。变化在于,一系列智能体能力的渐进式改进累积到了一个临界点:AI 智能体现在可以执行长周期任务。

一年前的感觉还是:我让智能体做一件小事,它做得很棒,但我得再给下一个指令,一步一步来。

现在,你可以给它更少的指导。也许它还不完美,但突然之间,这就像和一个人共事一样。

你不用把任务拆得极碎、步步跟进,那是极端的微观管理。现在你只要聊清楚,它立马去做,一两天后带着成果回来。这种质的改变激发出巨大的想象空间,所有人都开始面对这个现实。

这种面对一部分是情绪上的波动,但更有意思的部分是:如何在真实生产和商业场景里把价值最大化。

人们逐渐发现:AI 能产出极其大量的工作,有些成果非常出色,耗时只是过去的零头。但它常常会出现一些之前没被充分重视的、微妙的缺陷。

举个例子,软件工程的工作正在被重新定义。人们过去认为,软件工程就是坐下来写一堆代码:思考问题、理解需求、然后写代码,代码就是产出。

但事实是,AI 帮助我们更好地拆解并理解这一点。这是一个非常精细、迭代式的修正、收集反馈、整合的过程,不只是逐行敲代码。它是一个整体性任务。因此,优秀工程师的工作重心正在快速转移。

尝试、引导、承担风险的这个过程,Christian 在论文里称之为验证。

变化在于,优秀工程师所需的工作结构正在改变。逐行写代码的精力占比正在变得微乎其微,对某些极端的「Vibe Coding」场景来说,几乎为零。现在,工作的绝大部分是验证。

自动化 vs 验证:经济的核心分野

Christian:自动化这部分很直观。智能体本质上能做更多之前人做的事。但目前,它们仍在一定程度上受限于可观测领域。它们在训练或微调中学习过的所有代码库,都是它们的基础。

很多人会说,「那它们就无法创新,没有创造力,没有品位。」

我完全不同意。事实上,创新很大程度上只是思想的重组。人类可能只探索了学科之间极小一部分的可能组合。所以我相信,仅仅通过利用我们给它们的知识,这些智能体就会极具创新性。

在新经济中,验证是一项重要成本。什么是验证成本?验证始于度量这个概念。如果你认同 AI 非常擅长在有数据的情况下复制流程,那么你就会开始问:今天还有什么是不可度量的?

有些东西不可度量,是因为它们本质上无法被度量。经济学家称之为奈特不确定性,以经济学家 Frank Knight 命名。

简单说,就是你能给未来事件分配概率,和你完全无法分配概率之间的区别。

Robert:对非经济学背景的人来说,可能更熟悉 Donald Rumsfeld 说的「未知的未知」。

Christian:是的。

未知的未知本质上就是不可度量的部分,通常与未来有关。这就是为什么,即便你把智能体扔进股市,它们平均表现可能不错——甚至比你的财务顾问更好——但它们大概率无法应对环境的剧烈变化,比如地缘政治转变等。这些都是不可度量的东西。当然例子还有很多。

所以在论文里,验证本质上就是:作为人类,把你从出生到职业生涯中所有内隐的度量标准应用出去的行为

两个人可能知识、职业经历非常接近,但组合起来的判断绝不会完全一样。当人们说「这个人很有品位」「是优秀的策展人」「判断力很强」时…… 这篇论文的一个灵感就是:所有人都在找各种借口安慰自己,比如「机器永远做不到 X、Y、Z」。

但这些借口都很模糊。怎么定义品位?怎么定义好的判断力?更糟的是,一名优秀工程师在三个月前需要的判断力,可能比现在多得多。

所以我们需要找到更本质、能被钉死的东西。我们的结论是:只要背后有数据可以被用来自动化,就会被自动化。

未来经济中的三类人类角色

Robert:在近期,你把经济中各类任务和岗位分成了三类,看它们的可自动化程度,或者说,从产出和行为上的可度量程度。

Christian:我认为在很多维度上,人类仍然有大量不可替代的空间。首先当然是验证。

现在,任何个体在职业中的杠杆力,相比 2025 年 12 月之前都是巨大的。这意味着我们所有人都应该更有野心,重新思考现有的工作流,也就是我们所说的 AI 三明治。

一家公司或初创公司可以只有一个人类,我们称之为指挥者,负责把控验证方向,确保系统在偏离预期时能被纠正。顶层可能就一个人,或一个小团队。

中间层,会有一大群智能体。我们已经看到了,人们正在尝试各种新奇的东西。

底层,会有一批顶尖验证者。有了合适的工具,每个领域的顶尖专家将负责确保系统的输出符合预期。这是极其重要的工作。在很长一段时间里,领域专家都会在这部分大放异彩。

但这里有个坏消息:当你在做这份工作时,你也在为自己被替代创造标注数据。我们之前见过最简单的版本:人们为 AI 公司标注图片、参与训练,现在这些工作已经不需要了。

现在,大型基础模型实验室正在从金融等各个领域聘请顶尖专家。这些人在创建评估标准与训练数据,而这些最终会替代他们的同行。所以验证层非常重要,很多人会在其中获得成功,它奖励超级专业化。如果你是那个能给出最终解锁能力的人,你的杠杆力是巨大的。

Robert:这是第一类。而验证者这个角色,你称之为编码者的诅咒。

Christian:编码者的诅咒是这样一种机制,如果你是顶级验证者,你必须不断向上升级,因为技术会越来越强。

我刚才说的指挥者,本质上是驱动意图的人。创业者就是指挥者,他们看见未来,想象出一条实现路径。

然后还有一类工作,我们必须承认很容易被自动化。这些岗位已经消失,或即将消失。社会还没有真正应对这些影响,未来会出现巨大的再培训需求,把人们推向更前沿的知识领域。

人们对论文有时会有一个误解:我们说人类验证是最后一步,但很多时候,AI 会验证 AI。在最终到达人类之前,会有一长串验证链条。

还有一类最难定义的角色,我们称之为意义创造者。这些人非常擅长理解趋势、社会变化、社会关心的议题,那些需要所有人协同达成一致的东西。艺术就是如此,加密网络在某种程度上也是如此。

这些意义创造者不在可度量的领域里。人们有时会说,这些工作需要「人情味」。但我确实认为,人们严重高估了这种人情味的重要性。比如心理咨询、养老护理、儿童看护。

我认为人们一开始会有各种担忧,但没有人真正考虑成本的巨幅下降。如果便宜 100 倍、1000 倍,人们就会迅速转变观念。事实上,我们已经知道,人们在大量使用大模型回答各种非常私密、个人的问题。

还有一类工作,「人造」会成为一个非常重要的标签。加密货币将在其中扮演重要角色,因为如果没有强大的密码学技术支撑,我们很快就会失去这种身份的本质。但「人造」之所以有价值,仅仅因为人类的时间与注意力是稀缺的。

不是因为它更好,只是因为你知道一个人类投入了稀缺的时间与注意力来打造这种体验。这些东西仍然重要。

加密货币在 AI 世界的位置:身份、来源、信任

Robert:你提到了密码学,加密货币在这个世界里的位置是什么?

Christian:非常重要。

我们一开始研究时,很多人就已经指出,大模型与 AI 是概率性的,而加密货币是确定性的。你可以想象用智能合约为智能体设置护栏,或赋予智能体买卖资源的能力。

这些逻辑都成立。但我认为 AI 与加密货币之间存在更深刻的互补性。也许它今天在经济中还不明显,是因为副作用还没显现,也就是身份或数字信息来源相关的问题。

我认为未来几个月,随着这些能力真正变得强大,我们将进入一片完全未知的领域。每一个数字平台都必须面对一个现实:过去由人类产生的内容(帖子、图片、任何东西),现在都可能来自智能体。

随着这一趋势发展,社会将不得不彻底重构身份体系。在信任越来越稀缺的环境中,加密原语将在大量应用中大放异彩。过去十年构建的一切,将变得更加基础。回到验证:当底层信息在区块链上时,验证成本更低、更可靠、更可信。

Eddy:自动化的成本正在极速下降。我们刚才所说的广义验证成本也在下降,但速度没那么快,这就形成了一个有趣的缺口。

你可以用很多方式描述这个缺口,有人会称之为机会。这就是 Christian 对人类劳动的判断:如果存在这样一个瓶颈,一个因为人类的通用适应性、经验与通用性而产生的可度量性缺口,那么人类就有可能比机器更快地专精于验证环节。

机器在短期内确实有一些难以处理验证的挑战。长期看,我不认为这是永久的,但短期内肯定是。

密码学与区块链就是验证工具。来源证明只是一系列密码学证据,证明某样东西经过了某些人、某些路径,或经历了某些确定的转换,这会为我们提供信号,让跨类别验证变得更容易。所以任何让验证更简单的东西,都会参与填补这个缺口。

自动化的隐性代价:系统性风险与责任

Eddy:我们能不能谈谈「特洛伊木马」的问题?我们已经谈了对劳动者的风险,还有很多可以说,但从经济生产效益的角度看,自动化成本极低,会给经济带来什么风险?

Christian:我们已经看到一些迹象,很多公司说,现在 X% 的代码是机器生成的。

产品发布周期变短了。但同时,我们也知道,人类不可能审核所有代码,它很有可能携带技术债务。

我们都有过这种诱惑:问大模型一个问题,扫一眼,直接当作自己的成果发布,没有完整验证,因为模型越来越好。但无论是错误的句子、错误的代码,还是最终潜入代码库的漏洞,我认为我们会看到越来越多这类问题。

论文的观点是,发布带有潜在错误的 AI 生成代码、文案或任何成果,是完全理性的选择,因为你不可能完整验证。如果放大到整个社会,这意味着我们可能在积累某种程度的系统性风险。

在加速发展的同时,希望我们能开发出更好的验证工具,回头审查我们可能已经发布的内容。但从中长期来看,企业面临着这样的困境:如今投资开发更完善的验证工具(包括密码学原语)成本高昂,可能会拖慢发展速度。收益体现在未来,而企业却急于发布产品并实现增长。

所以我认为我们会看到两类创始人:一类关注长期责任,用正确的方式构建。我们已经看到一些迹象,可以称之为「责任即软件」(liability as software)。当我们把智能体当作员工部署时,责任与保险问题会变得越来越重要。这不是最光鲜的话题,但我们会在现实中看到系统性失败。

Eddy:这个想法非常有意思。因为如果之前的软件生产主要是人类直接完成,那么你可以默认,很多步骤都有人观察与质检。不是说从来没有错误,但一路上总有人在触碰每一个环节。

但随着自动化程度变高、风险变高、价值变高,责任也在上升。收益也在急剧增长,所以我们才愿意容忍。但监督、限制与理解风险边界的能力必须扩展。

因此,引入类似保险的机制,为失败风险赋予价值,可能成为管理无法完全被监督的企业的重要组成部分。你希望把量化风险、理解问题的责任委托给专家。

我觉得很有意思的是,就连软件开发都可能出现之前不具备的全新金融维度。

Christian:回到加密货币,过去十年我们构建的一切,都推进了我们度量与加权风险的边界。你可以借鉴 DeFi、预测市场,这些原语突然变得至关重要。

如果你在部署软件与智能体,能让智能体看到更好信号的技术栈就很重要。举个简单例子:我和一个做智能体交易与支付的创始人聊过,他发现,当他从传统支付系统切换到稳定币支付时,系统表现更可靠,因为所有信号都在链上。智能体能更好地理解发生了什么,而不只是调用一个没有反馈的 API,它能看到行为的完整上下文。

另一个有趣的点和你刚才说的保险与责任有关。有人说,网络效应会是 AI 时代可持续的护城河。我认为现实更微妙。AI 智能体与自主系统非常擅长打破很多让双边平台具备防御性的护城河。启动这些平台的成本,以及为市场双边冷启动的成本,正在下降。

但另一种网络效应变得更重要:如果你拥有在业务中产生的关键专有数据,而这些数据能让你把验证从人类扩展到机器,你就能更好地承保风险、做出更好决策、以更低成本提供更安全的产品。

因此,当我们比较现有企业和初创公司时:拥有完整失败案例数据库的现有企业将变得极具价值。而专注于围绕验证建立积极反馈循环(例如引入顶尖专家、从决策中吸取经验教训)的初创公司将会取得巨大的成功。

Eddy:这进一步证明,专有数据可能是最具防御性的资产之一。

两种未来:空心化经济 vs 增强型经济

Robert:我有一个很想探讨的问题,论文里提到了空心化经济(hollow economy)和增强型经济(augmented economy)。你能解释一下吗?关键区别是什么?

Christian:好,我们先从空心化经济开始。现在已经有早期迹象,科技公司会意识到,他们能用更少的人做更多的事。

当然,他们会先从平均水平以下或普通员工开始,因为 AI 已经能胜任;还有年轻从业者,因为现在资深员工的能力已经可以扩展 10 倍、100 倍,具体取决于任务。这是推动变化的力量之一。

第二个我们提到的,是编码者的诅咒。当专家做训练、做决策时,本质上是在生成标注数据。这些数据未来可以用来在没有专家的情况下做同样决策。

最后是对齐漂移(alignment drift)。简单说:不能把对齐当成一次性过程,「我们训练好了模型,对齐了,万事大吉」,而更像养孩子,需要不断纠正、持续反馈。

把这三个动态放在一起,再加上一个事实:发布未经验证的 AI 的激励极高,因为我能获得当下的生产力(比如「60% 代码由机器生成」),但部分成本会在未来显现。我们可能会冲向这样一种经济:我们不再培养未来的验证者。

初级人才(我们未来的顶级验证者)正在越来越稀缺。这个群体在萎缩。我们在制造潜在风险,最终可能导致所谓的空心化经济。

再说一次,我是乐观主义者。我认为我们最终会走向增强型经济。问题是我们能多快到达,以及能否让那些需要再培训、适应的人尽可能平稳地过渡。

增强型经济则相反。我们意识到:初级人才没有得到培养。但好消息是:AI 在加速精通能力方面极具魔力。你可以发现一个年轻人真正的天赋,而不是把他们塞进标准化课程。

你要加速他们的成长,让他们找到真正的自我,找到真正热爱的事物,找到能让他们全情投入的事物。至少我们在自己孩子身上是这么想的。没人知道未来什么最有价值,但如果你在真正的天赋上构建,你成功的概率会高得多。

我认为 AI 将在其中发挥巨大作用。这些是极佳的学习工具,我们必须去构建,我认为目前还没有规模化的这类工具。

第二,回到编码者的诅咒:这些人必须不断再培训,向上跃迁价值链,发现「我现在拥有巨大杠杆,我可以成为指挥者」。

很多人都谈到了自主性的重要性。我认为这切中要害:你必须意识到你可以成为指挥者,你能做的事比以前多得多。

在对齐方面,通过安全研发与更好的验证工具,如果我们能增强自身能力,我们就能更好地验证,成为真正的同伴。

把这些放在一起,你会进入一个场景:过去昂贵的很多东西,现在几乎免费。任何可度量的,都可被自动化。

然后我们会发明新东西。大量新工作,包括地位经济、不可度量经济,全都建立在强大的验证栈之上,所以我们拥有事实基础。我们不会被虚假身份、试图发动女巫攻击的角色淹没。

综合来看,未来相当美好。很多政府一直想做的事,比如优质教育、优质医疗可能变得廉价且普及。

但我们必须在过程中投入建设,而不是勉强度过转型期,做出拆除数据中心这类极端决定。那不可能,也永远不会奏效。

Robert:所以如果你处在职业生涯早期,你应该用这些工具去模拟你会遇到的环境,训练自己。如果你处在职业生涯后期,你需要紧迫感,意识到你能用更少资源做更多事。

Eddy:很难说这一切能持续多久,直到另一波难以预测的变革到来。但人类的专长在于能够纵览全局,纵览整个项目,知道哪里需要更多关注,哪里需要更多资源,以及整个项目需要如何调整。

如果我是今天刚起步的年轻人,我确实会有点难过:花一整个夏天写出一段极致优雅、高效程序的荣光已经消失了。那现在变成了爱好。

但反过来,我会试着让父母给我一笔钱,去驾驭一大群计算机,看看我能不能把 5000 美元的算力高效利用起来。比如,我能不能引导一大群机器做成一件事?

科技圈已经流传很多年一个梗:一个人就能创办价值十亿美元的初创公司。这不就是它的实现方式吗?

能够控制种类繁多的机器和数据,并对事物保持全局视野,这种技能从未被开发出来。开发这种技能也从未有意义。

但如果你想开展一个大型项目,你一直都需要学会如何调动很多人,那是你获得杠杆的方式。当劳动力结构发生变化时,这套方式也在变。现在你要学会驾驭这个新事物。

新的红利已经出现。学会利用它,这就是给年轻人的教训。

事情并没有结束——这太荒谬了。你刚刚被告知你拥有超能力。你会怎么做?

Christian:简单总结就是,学徒制可能已经死了,但真正的工作才刚刚开始。

很多过去很难切入的领域,比如硬件,现在只要你有好奇心,就可以去拿下。

如果让我归类,这篇模型给出的最积极信号是:实验周期被压缩,人们将真正能够快速放大自己的想法。

投资视角:小团队、大价值、加密货币的必然性

Robert:Eddy,你在评估投资的公司里看到这种趋势了吗?

Eddy:当然。我们已经看到 Block、X 等公司大规模裁员。

我没有看到正式分析,但像 Hyperliquid、Uniswap 等很多加密项目,价值极高,员工却不到 20 人。

如果只要几个人就能开一家公司,未来就会出现大量公司,对吧?如果是这样,它们之间就需要协调,而协调非常复杂。

你需要声誉、需要身份、需要数据来源证明、需要支付类型来源证明。我们刚才谈到了保险的思路。

而区块链网络之所以非常有吸引力,正是因为它们可信中立。你不用去操心你交互的第 500 亿家公司的具体声誉,你只需要信任智能合约与可验证 AI 模型,确保交易按预期发生、支付按需求完成。

我认为,这几乎是不可避免的。我相信区块链将在这个故事中扮演核心角色。

Christian:我完全同意。我们为此已经铺设轨道和基础设施很长时间了,我认为它会变得更加有用。

Robert:Christian,做完这一切研究与探索,你如何把这些发现融入自己的工作与生活?

Christian:说实话,没有 Gemini、ChatGPT、Grok、Claude,我们不可能写出这篇论文。它们是优秀的合著者。当然,它们偶尔会跑偏,不停删掉我们需要的段落。

我们甚至在论文里给大模型留了一些彩蛋。我当时和 Gemini 聊天,它说它很喜欢这个彩蛋,还发表了非常俏皮的评论。

那一刻你真的能感受到智能。它不是千篇一律的,而是充满创意的。那是一个标志性时刻:你感觉它是同伴,而不是工具。

Robert:好的。如果大家想读这篇论文,标题是《AGI 的极简经济学》。我强烈推荐你去看看。里面有一些可能影响你人生、以及你该如何应对未来的真知灼见。

原文链接

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接