报告:人类的克劳德人工智能在五角大楼的机密系统中面临不确定的未来

CN
2小时前

2月24日的会议是在数周的紧张局势之后举行的,焦点是Anthropic在其自身政策中对Claude的使用立场,这是一种在2025年价值高达2亿美元的试点合同下集成到机密国防部网络中的大型语言模型。Claude目前是唯一一个在特定安全五角大楼系统中完全授权运行的大型语言模型。

根据Axios的报道,Hegseth与副秘书Steve Feinberg和总法律顾问Earl Matthews一起,反对Anthropic对美国人进行大规模监控和在没有人类监督的情况下操作完全自主武器系统的限制。国防官员认为这些限制会妨碍合法的军事用途,不应凌驾于国会和行政权力之上。

Anthropic坚持认为,其安全措施旨在防止滥用,同时仍然能够支持国家安全应用。该公司表示,其政策并不阻止合法的军事使用,但禁止在没有同意的情况下跟踪个人或在没有人类控制的情况下部署致命系统。

“根据一位熟悉谈判的消息源,Anthropic从未反对其模型用于‘合法军事行动’,”福克斯新闻的国家安全首席记者Jennifer Griffin在X上报道。“它还向Hegseth表示,自己从未向五角大楼或Palantir抱怨其模型在马杜罗突袭中的使用。”

Claude已经用于情报分析、网络防御和行动计划。报告指出,它在1月3日的行动中提供了规划和实时分析,该行动导致了委内瑞拉总统尼古拉斯·马杜罗的被捕。Anthropic随后在进行内部合规审查时请求澄清该模型的参与,五角大楼官员将其解读为批评。

报告:Anthropic的Claude AI在机密五角大楼系统中面临不确定未来

1月9日,Hegseth发出了一份备忘录,敦促人工智能(AI)提供商消除他所描述的限制性条件。该指令为重新谈判奠定了基础,并最终促成了2月24日的会议。

五角大楼已设定了2月27日的最后期限,要求Anthropic修改其条款。可能的回应包括援引国防生产法以强迫遵守或将Anthropic指定为供应链风险,这一步骤可能要求承包商放弃与Claude相关的系统。

官员们承认,从现有基础设施中分离Claude将是操作上复杂的。尽管如此,国防部仍然有其他选择。像xAI的Grok模型、OpenAI的ChatGPT以及Google的Gemini这样的竞争者也在类似的国防部合同下,如果谈判出现停滞,可能会扩大它们的角色。

这一争端突显了关于军事环境中人工智能治理的更广泛问题,特别是随着联邦法律围绕新兴技术的不断发展。关键的问题是,当私营人工智能开发商的系统嵌入国家安全操作时,是否能保持独立的伦理政策。

社交媒体平台上的反应非常坦诚。“无证监控又回来了,”一位X用户在回应Griffin的X帖子时写道。“这件事需要比现在更大范围的报道。这有严重的宪法侵犯风险,”另一位在Griffin的报道上回复道。还有一些人带着一丝黑色幽默开玩笑说,Skynet的到来可能并不遥远。“Skynet来了……2029年的时间表已经开始,”该用户评论道。

双方都将2月24日的讨论称为实质性讨论。Anthropic是否会在最后期限之前调整其安全措施,可能决定五角大楼最先进的人工智能集成之一的未来。

  • 2月24日五角大楼会议讨论了什么?
    会议集中在Anthropic对Claude AI的限制及其是否限制合法军事应用。
  • 五角大楼为何对Anthropic施压?
    国防官员认为该公司的安全措施妨碍了授权的国家安全使用。
  • 如果Anthropic不遵从会发生什么?
    五角大楼可能会援引国防生产法或将该公司指定为供应链风险。
  • 是否有Claude的替代品?
    是的,xAI、OpenAI和Google的模型都在国防部合同下,如果需要可以扩展。

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接