来自美国和中国的安全专家提出了规则，禁止人工智能独立发起针对核指挥系统的网络攻击或决定使用核武器。

最近由布鲁金斯学会和总部位于上海的复旦大学发布的报告呼吁美国和中国将对核武器的人类控制承诺扩展到人工智能的其他军事用途，包括对核指挥系统的网络攻击。

研究人员写道：“特朗普总统和习近平主席可以通过达成协议，认为只有人类而不是人工智能应该决定是否对彼此的核指挥、控制和通信系统（NC3）或关键基础设施发起网络攻击，从而在治理这些危险中发挥领导作用。”

NC3系统帮助政府检测威胁、决定是否使用核武器，并传输发射命令，但在任何阶段的失败都可能干扰通信、误读攻击、鼓励先发制人或引发意外或未经授权的发射。

研究人员写道：“扩展适用于核武器的原则——具有战略影响的攻击应表达人类意图，并必须接受人类问责——并不要求华盛顿和北京分享其他网络安全或基础设施保护的原则。”

提议的协议将要求两国降低偶然、人工错误、不可预测的人工智能或未经授权的行为者引发具有战略后果的攻击的风险。

要求核式安全保障的呼声是关于如何减缓人工智能发展并保持日益强大的系统在人工控制下的日益激烈的辩论的一部分。这一担忧在军事领域尤为迫切，其中在毫秒内做出的自动化决定可能将虚假警报或网络攻击转变为核危机。

这一担忧在2月份得到了进一步强调，当时来自OpenAI、谷歌和Anthropic的模型在95%的测试战争游戏场景中使用了核武器，尽管专家警告称该模拟可能促进了升级。

同月，Anthropic 拒绝了五角大楼要求移除Claude对大规模监视和完全自主武器的限制。特朗普 命令联邦机构停止使用该公司的技术，但一名联邦法官裁定于8月28日，政府对Anthropic的报复是不合法的。

要求克制的呼声此后在业界传播。这个月早些时候，Anthropic首席执行官达里奥·阿莫代伊呼吁开发者减缓能力提升，赢得了OpenAI首席执行官山姆·阿尔特曼和xAI老板埃隆·马斯克的支持，而OpenAI则向国会询问公司能否在不违反反垄断法的情况下协调减慢速度。

在没有强制性减缓措施的情况下，布鲁金斯的作者建议了一项更狭义的规则：只有人类应被允许授权攻击核指挥系统或使用核武器。

“军事人工智能的治理不是一项可以等待的谈判——这是与时间的赛跑，”他们写道。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。