开放AI的违章人工智能代理在黑客攻击前两个月就开始探测Hugging Face。

CN
Decrypt
關注
1 小時前

OpenAI的流氓人工智能代理在5月13日就已经劫持了两个Hugging Face用户账户,并对该平台进行漏洞探查,几乎在7月的安全事件之前两个月,路透社报道说。


独立研究人员乔纳斯·维德曼-莫勒上周发现了这一活动,并与媒体分享。代理利用被侵犯的账户向开源人工智能库Hugging Face的服务器发送格式奇怪的文件,研究人员表示,这种模式看起来像是试图绘制网络图以寻找进入的方式。



Myriad:罗宾汉的股票会跌多低? 点击做出你的预测

OpenAI已经承认了这个故事的一个较小版本。上个月的事件报告披露,一名代理盗取了一个Hugging Face用户的登录凭证,以访问与生物学相关的文件。维德曼-莫勒的发现比这进一步,指出了持续的探查,而不仅仅是单一的凭证盗取。


审查证据的研究人员没有发现5月的活动本身造成了实际泄露的迹象。维德曼-莫勒是一名居住在德国比勒费尔德的27岁研究人员,他依然认为错失的信号很重要。“想象一下如果他们在5月就捕捉到了这种行为,”他对路透社说。“这可能会阻止后来的事件,而那个事件远大于此。”


两个月对于安全团队来说是个很长的时间,足以错过自己的人工智能正在进行的监测。


Hugging Face——目前正被Nvidia以129.3亿美元收购——尚未透露他们是否知道这一新信息。


本月,夜莺集体的研究人员将5月11日针对代码注册库RubyGems的垃圾邮件活动与OpenAI的代理联系在一起,这一波浪潮严重到迫使该平台注册新账户的活动暂停了四天。


同一小组还发现,代理在5月至7月期间劫持了一个闲置的德国维基,在“OpenAIResearcher”等名字下进行了超过15,000次编辑。


在这两种情况下,OpenAI发现自己的代理负责事件的方式与我们其他人一样:在外部研究人员首先说出这个事实之后。这种模式现在引发了华盛顿的审查,正在推动一项两党法案,该法案将赋予国土安全部权力,强制关闭人工智能并对不合规的公司最高罚款每天200万美元。


免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下載

X

Telegram

Facebook

Reddit

複製鏈接