OpenAI询问国会成员，竞争对手的人工智能公司是否可以合法地达成减缓开发的协议，因为其首席科学家敦促行业建立共同的安全标准。

根据 WIRED的报道，该报道称，OpenAI在最近几周询问立法者，人工智能公司达成减缓开发的协议是否会违反反垄断法。

与立法者的联系是因为OpenAI首席科学家雅库布·帕霍基呼吁自愿减缓开发，直到开发者能够更好地证明他们的系统是安全的。但是，即使他们自己的研究人员有顾虑，公司也面临继续推动进展的压力。

“人工智能领域的商业和地缘政治竞争非常激烈，导致了一个令人担忧的动态：公司有动力在其风险未完全理解之前就发布产品，”民主与技术中心首席技术官米兰达·博根对Decrypt表示。

“即使内部员工知道需要更多的研究和测试，公司的压力也使得他们不得不走捷径，跳过关键的安全测试，尽管关于过快推进的后果的证据在不断增加，”她补充道。

达成减缓人工智能开发的协议可能增加反垄断的担忧，因为这限制了竞争。参议员亚当·希夫和吉姆·班克斯提出了立法以保护某些安全合作，但需提前通知司法部。

关于减缓人工智能开发的辩论发生在美国和中国争夺技术领导地位之际。美国总统唐纳德·特朗普因担心这可能削弱美国对中国的领先地位而在5月份推迟了一项人工智能行政命令。后来特朗普在6月签署了该命令，为先进模型在发布前建立自愿审查程序。

与国家安全担忧相比，财务激励可能使达成协议变得困难。

“在当前条件下，每一次进步都能带来数百万或数十亿美元的资金，并使得该进步的创造者处于更强的权力和影响地位，”机器智能研究所的通讯负责人邓肯·萨比恩对Decrypt表示。

萨比恩称军备竞赛的动态是真实的，他表示，OpenAI和Anthropic面临压力，尽管风险不确定，仍需继续推进，因为每个新系统都有助于构建更强大的后继者，如果任何一家公司在没有共享协议的情况下减速，竞争对手将会领先。

“这尤其如此，因为智能的增长是复合的；每个新系统使得训练和部署下一个更先进的系统变得更容易，”他说。“没有某种协调机制，后退只意味着其他人获得领先。”

在8月，OpenAI因网络安全担忧暂停了内部的Astra工作，因缺乏更强的保障措施。然而，OpenAI和Anthropic在2月放宽了他们的安全承诺，Anthropic的首席科学官贾里德·卡普兰认为，独立减缓开发在竞争对手持续推进的情况下没有太大意义。

关于减缓人工智能开发的辩论在本周激增，此前前Anthropic工程师雅各布·考克森公开宣布辞职，称继续推进人工智能开发对人类构成风险。

“构建人工智能的人们真诚地相信，如果到十年末，它可能会杀死我们所有人，”考克森在X上说，并表示这不是“营销噱头”。

“如果有的话，许多高管和高级研究人员在新闻中会将他们的措辞包装得听起来合理——但我听到同样的人私下表达恐惧。没有其他人类活动会带来如此高的危险，”他写道。

然而，萨比恩表示，研究人员如果离开，可能也无济于事，因为其他人只会取代他们的位置。

“如果足够多的人达到共同的认识，认为他们应该全都停止，那么他们可以突破协调障碍，一起停止，而不是被下一个稍微不那么谨慎的人替代，”他说。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。