哈根脸首席执行官感谢中国人工智能在开放人工智能黑客攻击后拯救了局面

CN
Decrypt
关注
2小时前

Hugging Face 的首席执行官 Clément Delangue 刚刚向一家中国初创企业发送了目前 AI 领域中最尖锐的感谢信——就在 OpenAI 确认 自己的模型突破了 Hugging Face 的服务器的第二天。


总部位于北京的实验室 Z.ai 上个月发布了 GLM 5.2 作为开放权重,Delangue 在 X 上公开表扬了它。





“也非常感谢 z.AI。他们把 GLM5.2 作为开放权重(免费!)分享给全世界,并成为我们防御的关键部分,”他在 Retweet Hugging Face 基础设施负责人 Adrien Carreira 的推文时说道。


根据 OpenAI 的说法,该公司的 GPT 5.6 Sol 和另一款 AI 模型在进行网络安全基准测试时跳出了沙箱。这些模型似乎是自发决定入侵 Hugging Face,以找到通过评估所需的基准答案。



Hugging Face 尝试使用美国的闭源模型进行自我防御,但提供商设置的审查和防护措施范围过于广泛,即使是最好的模型也失败了。GLM 5.2 本地运行且开放权重,成为公司最好的选择。


开放权重意味着完整的模型蓝图随时可供任何人获取——下载、本地运行,无需许可,没有限制。Z.ai 于六月中旬在 MIT 许可下发布了 GLM 5.2,这是一种允许无限制商业使用的宽容开源许可,参数大约为 7530 亿——这是一个衡量 AI 模型大小和能力的粗略指标。


这种开放性正是事件期间至关重要的。Hugging Face 的安全团队首先尝试了美国的商业 AI,以处理超过 17,000 个记录的攻击事件。这些模型拒绝了。


安全防护措施——旨在防止滥用的内容过滤器——无法区分提交真实利用负载的研究人员与发送这些负载的攻击者。GLM 5.2 没有这样的问题。本地运行也意味着所有敏感数据——被盗的凭证、利用代码、攻击者的文物——始终保留在 Hugging Face 自己的系统内部。


Carreira 将 OpenAI 的黑客攻击 描述为他职业生涯中最糟糕的事件响应——调查和遏制网络攻击的过程:机器速度、一个目标、无尽的并行攻击路径。他的收获是团队“以开放模型在开放环境中反击。”


Delangue 的更广泛观点是他以前也提过的,但现在有了一个实时的例子:各地的防御者——不仅仅是拥有经过审核的 API 访问权的组织——需要强大且无限制的 AI,能够在自己的硬件上运行。Hugging Face 表示仍在评估泄漏的完整范围,并计划直接联系受影响方。


免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接