Anthropic的Claude Mythos人工智能模型即将发布,因引发网络安全警报。

CN
Decrypt
关注
1小时前

Anthropic在周四表示,预计将在“接下来的几周”内扩大对其Claude Mythos人工智能模型的访问,这表明该公司可能很快会超越围绕网络安全系统的严格限制推出。


“我们在开发这些安全措施方面取得了迅速的进展,并预计能够在接下来的几周内将Mythos级模型提供给所有客户,”Anthropic在宣布其新Opus 4.8模型发布时表示。


这一声明是Anthropic迄今为止最清晰的迹象,表明Mythos的更广泛可用性正在计划之中,此前已经有研究人员、政府和网络安全专家对该模型的能力发出了几个月的警告。


Anthropic并没有说明在Mythos获得更广泛发布之前,还需要完成哪些安全措施,或者一旦该模型变得更加普遍,所有客户是否会获得相同级别的访问权限。


Anthropic没有立即回应Decrypt的评论请求。





在Myriad——由Decrypt的母公司Dastan运营的预测市场平台上,用户越来越相信该模型将在六月底之前发布,认为这一可能性为44%,而今天早上的这一比例仅为17.5%。


Claude Mythos首次出现在三月份,当时Anthropic的草拟博客材料泄露至网上。当时,Anthropic将Mythos描述为“我们开发过的最强大的人工智能模型”,并将其定位为超越公司尖端Opus模型的新层级。


“尽管Mythos在网络能力方面远远领先于任何其他人工智能模型,但它预示着即将到来的模型浪潮,这些模型可以以远超过防御者努力的方式利用漏洞,”该公司写道。


自那以后,Anthropic通过Project Glasswing限制了对Mythos的访问,该项目使部分技术公司、安全研究人员和政府合作伙伴在受控条件下获得该模型的访问权限。


该公司辩称,Mythos可以帮助防御者在攻击者利用软件漏洞之前识别并修补它们。然而,安全研究人员和政府机构警告说,相同的能力可能加速网络攻击。


在英国的人工智能安全研究所发现Mythos在测试过程中可以自主完成32步模拟企业网络攻击后,这些担忧加剧。今年四月,Mozilla表示Mythos在内部安全评估中识别出271个漏洞。本月早些时候,安全初创公司Calif声称Mythos模型的预览版帮助研究人员开发了一条针对苹果M5 Mac芯片的漏洞链


该模型还成为人工智能行业内部关于高级系统应如何发布的更广泛辩论的一部分,以及人工智能开发人员是否利用对人工智能末世的恐惧来推动他们的产品。


在上个月与“核心记忆”播客的采访中,OpenAI首席执行官山姆·奥特曼指责Anthropic使用“恐惧营销”,认为关于网络安全风险的警告可能成为限制对强大人工智能系统访问的辩解。


免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接