如果不进行紧急干预，我们正处于创造一个由看不见的、自治的人工智能经济主导的反乌托邦未来的边缘，这将加剧不平等和系统性风险。这是谷歌DeepMind研究人员在他们的新论文“虚拟代理经济”中发出的严峻警告。
在论文中，研究人员Nenad Tomašev和Matija Franklin认为，我们正快速迈向“沙盒经济”的创建。这一新的经济层面将由人工智能代理以远超人类监督的速度和规模进行交易和协调。
“我们当前的轨迹指向一个庞大且高度渗透的人工智能代理经济的自发出现，这为我们提供了前所未有的协调机会，同时也带来了重大挑战，包括系统性经济风险和加剧的不平等，”他们写道。
代理交易的危险
这并不是一个遥远的假设未来。危险已经在人工智能驱动的算法交易世界中显现出来，交易算法的相关行为可能导致“闪电崩盘、羊群效应和流动性枯竭”。
这些人工智能模型的速度和互联性意味着，小的市场低效可能迅速演变为全面的流动性危机，展示了DeepMind研究人员所警告的系统性风险。
Tomašev和Franklin将即将到来的代理经济时代框架设定在两个关键轴线上：其起源（故意设计与自发出现）和其渗透性（与人类经济隔离或深度交织）。论文明确指出了一个清晰而迫在眉睫的危险：如果一个高度渗透的经济被允许在没有故意设计的情况下自发出现，人类福祉将成为牺牲品。
后果可能以已经可见的形式显现，例如对强大人工智能的不平等获取，或以更阴险的方式表现出来，如资源垄断、不透明的算法谈判，以及在为时已晚之前仍然看不见的灾难性市场失败。
“渗透性”代理经济是与人类经济深度连接的——资金、数据和决策在两者之间自由流动。人类用户可能直接从代理交易中受益（或失去）：想象一下人工智能助手购买商品、交易能源信用、谈判薪资或在真实市场中管理投资。渗透性意味着代理经济中发生的事情会溢出到人类生活中——可能是好的（效率、协调）或坏的（崩盘、不平等、垄断）。
相比之下，“不渗透”的经济是被隔离的——代理可以相互互动，但不能直接与人类经济互动。你可以观察它，甚至在其中进行实验，而不必冒着人类财富或基础设施的风险。可以把它想象成一个沙盒模拟：安全研究，安全失败。
这就是为什么作者主张要尽早引导：我们可以故意构建具有一定程度不渗透性的代理经济，至少在我们信任规则、激励和安全系统之前。一旦墙壁被打破，控制级联效应就会变得更加困难。
然而，现在是采取行动的时候。人工智能代理的崛起已经引发了从“基于任务的经济到基于决策的经济”的转变，在这种经济中，代理不仅仅是在执行任务，而是在做出自主经济选择。企业越来越多地采用“代理即服务”模型，其中人工智能代理作为基于云的服务提供，具有分层定价，或用于将用户与相关企业匹配，从预订中赚取佣金。
虽然这创造了新的收入来源，但也带来了重大风险，包括对平台的依赖以及少数强大平台主导市场的潜力，进一步加剧不平等。
就在今天，谷歌推出了一种为人工智能代理设计的支付协议，得到了Coinbase和以太坊基金会等加密货币巨头的支持，以及PayPal和美国运通等传统支付巨头的参与。
一个可能的解决方案：对齐
作者提供了干预的蓝图。他们提出了一种主动的沙盒方法，以设计这些新经济，并内置公平、分配正义和以使命为导向的协调机制。
其中一个提议是通过给予每个用户的人工智能代理相等的初始“虚拟代理货币”来平衡竞争环境，防止那些拥有更多计算能力或数据的人获得立即的不当优势。
“如果每个用户都被授予相同数量的虚拟代理货币，这将为他们各自的人工智能代理代表提供平等的购买和谈判能力，”研究人员写道。
他们还详细说明了如何利用哲学家罗纳德·德沃金（Ronald Dworkin）所启发的分配正义原则，创建公平分配稀缺资源的拍卖机制。此外，他们设想了“使命经济”，可以将一群代理的目标导向集体的人本目标，而不仅仅是盲目的利润或效率。
DeepMind的研究人员并不天真地看待这些巨大的挑战。他们强调，在这些复杂的自治系统中，确保信任、安全和问责的脆弱性。技术、法律和社会政治领域存在许多未解的问题，包括人类与人工智能的混合互动、代理行为的法律责任以及验证代理行为。
这就是为什么他们坚持认为，如果这一深刻的技术转变要“与人类的长期集体繁荣对齐”，那么“可操控的代理市场的主动设计”是不可谈判的。
DeepMind传达的信息是明确的：我们正处于一个分岔路口。我们可以成为建立在公平和人类价值观基础上的人工智能经济的设计者，或者我们可以成为一个被动的旁观者，目睹一个优势隐性累积、风险成为系统性、不平等被硬编码到我们未来基础设施中的系统的诞生。
免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。
