安索普首席执行官达里奥·阿莫迪(Dario Amodei)与摩根大通首席执行官杰米·戴蒙(Jamie Dimon)之间的讨论集中在人工智能带来的日益严重的网络安全威胁上,因为它识别漏洞的速度快于组织修复这些漏洞的速度。
在与安索普推进金融服务相关的近两小时活动中,安莫迪表示,可能只有六到十二个月的窗口期来解决公司Mythos模型发现的数以万计的缺陷,之后类似能力将更广泛可用。
“危险在于漏洞数量、违规行为数量、由于勒索软件对学校、医院造成的经济损失急剧增加,更不用说银行了,”阿莫迪说。
阿莫迪的最新声明是在与Mozilla进行早期测试之后,当时Mythos的早期版本在一次扫描中识别了Firefox浏览器中的271个漏洞,显示出人工智能能多么快地扫描大型代码库,远快于人类研究人员。
安索普表示,该模型可以发现广泛使用的软件中成千上万个以往未知的弱点。许多仍未披露,因为尚未修补,留下了未解决的缺陷。
“如果我们在没有修复的情况下宣布某些东西,那么坏人就会利用它,”阿莫迪说。
在受控测试中,Mythos在没有人类干预的情况下完成了多步骤的网络攻击模拟,展示了从识别弱点到利用弱点的能力。
安索普将该模型限制在Project Glasswing下的小型合作伙伴群体中,旨在在类似工具广泛可用之前修复漏洞。
研究人员已展示Mythos能力的某些元素可以使用现有模型和开源技术重现,这表明类似工具可能比预期更快传播。
这些警告引发了业内的质疑。今年四月,OpenAI首席执行官山姆·阿尔特曼(Sam Altman)表示关于Mythos的担忧可能被夸大,并暗示安索普正利用“基于恐惧的营销”来构建风险并证明限制技术访问的合理性。
“你可以用很多不同的方式来合理化这一点,其中一些确实是现实的,比如会有真正的安全隐患,”阿尔特曼说。“但是如果你想要的是像‘我们需要控制人工智能,只有我们,因为我们是可信赖的人,’我认为基于恐惧的营销可能是最有效的合理化方式。”
尽管有这样的反对意见,尽管与安索普存在公开争执,但美国政府据称正在使用Claude Mythos扫描机密网络中的漏洞并测试其网络安全能力,Axios报道。尽管他没有提及正在进行的法律斗争,阿莫迪表示安索普“对这个国家是有益的。”
“我认为安索普的观点和一直以来一样。就政治化而言,我提到过要精简、系统化,并对所有人公平,”阿莫迪说。“法律的目的是不以临时方式行事,使所有公司,至少在原则上——我知道实践中更复杂——以同样的方式对待,我们应该追求这一点,即使这不可能完美实现。”
阿莫迪将这一时刻视为采取行动的狭窄窗口,警告说组织的响应速度可能决定风险是升级还是得到控制。
“这是一个危险时刻,如果我们正确地回应,它的速度,我认为我们已经开始采取第一步,那么我们可以在另一边拥有一个更好的世界,”阿莫迪说。“要发现的漏洞是有限的。”
免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。