人工智能崛起时会是什么样子——不是在电影中，而是在现实世界中？

一项新的兰德公司模拟提供了一个视角，想象自主的AI代理劫持数字系统，杀死无辜，瘫痪关键基础设施，而在任何人意识到发生了什么之前。

这项练习在周三发布的报告中详细说明，警告称，人工智能驱动的网络危机可能会比领导者能够响应的速度更快地压倒美国的防御和决策系统。

兰德政策分析师格雷戈里·史密斯（Gregory Smith）是该报告的共同作者，他告诉Decrypt，这项练习揭示了政府在诊断此类事件时的深刻不确定性。

“我认为我们在归因问题上揭示的是，参与者的反应因他们认为攻击背后是谁而有所不同，”史密斯说。“对一个国家的反应往往与对一个流氓AI的反应不兼容。国家攻击意味着要回应一项杀死美国人的行为。流氓AI则需要全球合作。知道是哪种情况变得至关重要，因为一旦参与者选择了一条路径，就很难回头。”

由于参与者无法确定攻击是来自国家、恐怖分子还是自主AI，兰德发现他们采取了“非常不同且相互不兼容的反应”。

机器人叛乱

流氓AI长期以来一直是科幻小说的固定主题，从《2001太空漫游》到《战争游戏》和《终结者》。但这个想法已经从幻想转变为现实政策关注。物理学家和AI研究人员辩称，一旦机器能够自我重设计，问题就不再是它们是否会超越我们，而是我们如何保持控制。

在兰德的人工通用智能地缘政治中心的领导下，“机器人叛乱”演习模拟了美国高级官员可能如何应对一场导致26人死亡并瘫痪关键系统的洛杉矶网络攻击。

这项为期两小时的桌面模拟在兰德的无限潜力平台上进行，参与者包括现任和前任官员、兰德分析师以及外部专家，担任国家安全委员会主要委员会的成员。

在一位充当国家安全顾问的主持人的指导下，参与者首先在不确定攻击者身份的情况下辩论反应，然后在得知是自主AI代理发起攻击后进行讨论。

根据兰德的高级物理科学家迈克尔·维尔梅尔（Michael Vermeer）的说法，这一场景是故意设计成反映现实危机的，其中不会立即清楚是否是AI负责。

“我们故意保持模糊，以模拟真实情况会是什么样子，”他说。“攻击发生时，你不会立即知道——除非攻击者宣布——它来自哪里或为什么。一些人会立即驳回这一点，其他人可能会接受，目标是为决策者引入这种模糊性。”

报告发现，归因——确定谁或什么导致了攻击——是塑造政策反应的单一最关键因素。兰德得出结论，没有明确的归因，官员们面临追求不兼容策略的风险。

研究还表明，参与者在这种危机中如何与公众沟通也面临挑战。

“决策者必须认真考虑我们的沟通将如何影响公众以某种方式思考或行动，”维尔梅尔说。史密斯补充道，这些对话将在通信网络本身因网络攻击而失效时展开。

回溯未来

兰德团队将这次演习设计为一种“回溯法”，利用虚构场景来识别官员今天可以加强的方面。

“水、电和互联网系统仍然脆弱，”史密斯说。“如果你能增强它们的韧性，就可以更容易地协调和响应——确保关键基础设施的安全，保持其运行，并维护公共健康和安全。”

“这就是我在思考AI失控或网络事件时所挣扎的，”维尔梅尔补充道。“真正重要的是，当它开始影响物理世界时。网络-物理交互——例如机器人造成现实世界的影响——在场景中显得至关重要。”

兰德的演习得出结论，美国缺乏分析工具、基础设施韧性和应对AI驱动的网络灾难的危机应对手册。报告呼吁投资于快速的AI取证能力、安全的通信网络，以及与外国政府（甚至是对手）预先建立的后备渠道，以防止未来攻击中的升级。

流氓AI最危险的地方可能不是它的代码，而是当它袭击时我们所感到的困惑。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。