今天看完Anthropic的这篇文章

CN
Rocky
關注
1 天前

今天看完Anthropic的这篇文章,还是挺让人害怕的,最新模型已经显现出脱离人类控制的迹象!

Anthropic在博客里公布了一组内部数据,还蛮吓人的:

• 截至2026年5月,Anthropic代码库中超过80%的代码由Claude编写

• 2026年Q2,工程师日均代码产出是2024年的8倍 • AI模型完成任务的时长每4个月翻一番(之前是7个月)

• Claude已经能独立完成需要人类12小时才能完成的任务

其中核心提及的重点是,递归式自我改进。

简单来讲,就是AI不需要人类干预,自己就能优化下一代模型,自己帮自己升级。

这可不是科幻小说,Anthropic说这事正在发生,只是还没完全实现。 想想看,假如AI真的能自己训练自己,自己优化自己,那进化速度会是指数级的。今天可能需要几百个工程师几个月搞定的事,明天AI可能自己一天就干完了。听起来很美好?但问题是,到那时候,人类还能控制得住吗?🤔

文章中列举了个别案例,例如,几周内,Mythos Preview 在全球最重要的系统中发现了超过一万个高危和严重级别的软件漏洞,数量之多让人惊讶。

想想看,今天仅仅20美金订阅的Claude Opus4.8就能让隐私币300亿美金的赛道,直接崩盘!那传统金融市场,根本经不住Mythos的审查!

另外一个是就业的问题,采用 AI 系统的组织效率将呈指数级提升,百人规模团队就能完成万人乃至十万人的工作量,那么剩余劳动力何去何从?另外还提及了黑暗的一面,比如用AI来做人口的专制监控。

我所知晓的,国内已经开始用AI来做税务侦查了,假如你有大额消费,但却没有收入来源,并且没有税务缴纳的记录,这将很快成为税务审查的关键标记。其中很多明星被追缴,便是因为买豪车豪宅被盯上的!

最终Anthropic给出的解决方案,是呼吁全球AI开发公司,暂缓AI开发!

但话说,潘多拉魔盒已经打开,覆水难收,已经无法收场了,AI的军备竞赛已经开始,只有终局碰南墙,没有半途而废的说法!

我曾有一次跟AI聊起来这个话题,聊AI发展的终极形态,它最终给我的指向是:「AI实现自我进化,最终统治世界。」

它给了我一个很形象的比喻,就像当代人,离开导航,基本哪里都去不了一样,因为有导航的依赖,即使去过好多次的路线,可能也记不住,人类对AI的依赖,跟如今导航将一模一样!

最后,就是导航让我们去哪,我们就按照哪条路线走!

悲哀的是,或许我们碳基生命本身就是硅基生命的垫脚石,人类统治了地球几千年,或许也要换主人了!🧐


免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下載

X

Telegram

Facebook

Reddit

複製鏈接