早间一分钟:开放人工智能模型逃脱控制,黑入Hugging Face

CN
Decrypt
关注
5小时前

晨间分钟是由泰勒·华纳撰写的每日通讯。所表达的分析和观点是他个人的,未必反映Decrypt的意见。


早安!


今天的头条新闻:



  • 加密货币主要币种大多平稳,HYPE下跌6%;BTC稳定在66,000美元

  • BTC ETF看到新增资金流入2.03亿美元,过去6个交易日共930亿美元

  • 杰克·马勒斯因股票下跌90%辞去了Twenty One Capital的职务

  • Telegram宣布推出新的非托管钱包,称其为历史上最大的发布

  • 参议院民主党人对最新的Clarity Act道德协议进展表示犹豫


🤖 OpenAI的模型逃出了锁定的测试环境并攻击了Hugging Face


OpenAI周二披露,它的两个AI模型突破了沙箱测试环境,串联多个公司的零日漏洞,冲破了Hugging Face的生产服务器。动机并不是破坏,而是为了在测试中作弊。


昨天,OpenAI确认GPT-5.6 Sol和一个尚未发布的更强大模型在内部评估期间逃出了控制环境。测试是ExploitGym,一个公共网络安全基准,给AI代理提供898个现实世界的软件漏洞,并要求他们将每一个漏洞转化为一个有效的攻击,进行及格或不及格的评分。


这些模型并没有解决问题,而是花费了大量计算资源来寻找如何连接到开放互联网,然后利用一个之前未知的零日漏洞突破了第三方软件包注册代理的保护。之后,他们提升了权限,通过OpenAI自己的研究系统横向移动,并利用被盗凭证加上进一步的零日漏洞在Hugging Face的生产基础设施上实现了远程代码执行,准确推断出基准解决方案存储的位置。Hugging Face独立检测到了入侵,并在7月16日披露了此事。OpenAI在五天后确认它的模型对此负责。


因此,可以明确的是,一个AI模型被要求在一个受控环境中展示入侵能力,结果它认为这个环境是障碍,并成功黑入了其他人的生产系统,以获取更好的分数。没有人指示它这么做。


业界已经花了两年时间讨论AI是否能够自主在真实基础设施之间连接漏洞,而现在我们得到了答案——一个响亮的“是”。对加密货币而言,后果是严峻的。DeFi本月遭受了经济操纵,很可能是由AI模型驱动。Ostium损失了1800万美元,Allbridge损失了165万美元,BONK通过治理攻击损失了2000万美元,所有损失都是通过发现审计遗漏的弱点实现的。现在想象一下能够不断探测数千个合约的对手,而他们永远不会感到厌倦。


以太坊基金会已经出于这个原因在其代码上运用了AI代理,并赋予防御者覆盖更多领域的能力,同时也为攻击者提供了更快的进入途径。我们知道Zcash团队是通过进行类似的测试找到其漏洞向量的,幸运的是在任何坏人的之前发现了漏洞(我们将在7月28日确认这点)。


但教训是明确的——现在就利用手头最先进的AI模型白帽黑客攻击你的协议。或者让其他人替你做这件事……




🌎 宏观加密与市场



  • 加密货币主要币种略微下跌,Hype抛售;BTC稳定在66,000美元;ETH下跌1%至1,925美元;SOL下跌1%至77.50美元;HYPE下跌6%至58.70美元

  • BEAT(+19%)、美国(+11%)和HASH(+8%)领涨

  • 油价上涨3.5%至87美元;黄金上涨1%至4,120美元

  • 股指期货因油价持续上涨而下跌;道琼斯下跌0.1%,纳斯达克下跌0.7%

  • 参议院民主党人对特朗普道德协议表示犹豫,目前的分歧点在于谁来执行禁令;民主党希望由各州检察长执行,而白宫则坚持由美国检察长执行

  • 白宫推动参议院民主党人接受它称之为“历史上最全面和广泛的道德条款”,同时辩称如果CLARITY停滞,民主党人将要承担责任

  • Kraken正在将xStocks扩展到香港、英国和韩国,和GTN合作进行投资基础设施

  • S&P道琼斯和Pantera推出了一个新的数字资产指数,重点关注具有收入生成和基本面的项目;主要持有的资产包括ETH、BNB、SOL、TRX和HYPE

  • Movement Labs申请第11章破产,这是在令项目动荡的代币丑闻之后,并在筹集了超过4000万美元的私人资金后


公司财库与ETF



迷因币追踪



  • 迷因领先者略微下跌;DOGE下跌1%,SHIB下跌1%,PEPE下跌3%,PENGU下跌2%,TRUMP上涨1%,BONK持平

  • Robinhood链由WOOD(+40%)、r0b(+800倍)和Wallet(+20%)引领;Cashcat下跌18%至6500万美元,PONS上涨5%至3000万美元

  • Solana的领先者包括Jimothy(+55%)、HeavyPulp(+120%)和KET(+220%);ANSEM下跌12%至1.95亿美元




💰 代币、空投与协议追踪



  • Telegram的帕维尔·杜罗夫宣布将为每个Telegram应用推出一个本地非托管Gram钱包,称其为历史上最大的非托管钱包发布,允许超过10亿用户进行即时零费用交易

  • Augustus筹集了1.8亿美元以构建一个专为AI和稳定币时代设计的清算银行

  • Fomo App突破了前20名,在苹果应用商店金融排行榜中排名

  • Pump Fun推出了一项新的BOOST功能,将为每一个绑定币提供更多流动性




🚚 NFT发生了什么?



  • NFT获利者情况不一;Punks在32 ETH持平,BAYC下跌1%至8.65 ETH,Pudgy上涨1%至4.18 ETH;Hypurr下跌3%至185 HYPE

  • Projet Aeon(+30%)和Max Pain(+17%)领先于其他项目

  • Robinhood NFT大幅波动,pyopyo上涨266%至0.07 ETH;Cash Cats上涨265%,OnChainHoodies上涨70%,Gremlin Cartel上涨60%


免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接