查尔斯三世国王周四扮演了人工智能安全外交家的角色。

这位君主在他的苏格兰东艾尔郡的达姆弗里斯庄园接待了来自英伟达、OpenAI、Anthropic和谷歌DeepMind的高级管理人员。声明的目标是让行业内最大的参与者齐聚一堂，讨论如何使人工智能“为人类服务”。

“我只能为你们这些如此坚定地致力于将人工智能为善而用的人致以赞赏，”查尔斯对在场的高管们说，根据白金汉宫发布的文字记录。他补充说，目标是一个“人类潜力依然无穷，而技术发展被精心策划以增强我们的成功”的未来。

此次峰会由迪奇利基金会组织，并与国王的三家慈善机构共同举办：国王信托、国王基金会和可持续市场倡议。英国的人工智能部长卡尼什卡·纳拉扬也参与了会议。

代表们讨论了行业和政府是否能够就人工智能发展的共同指导原则达成一致意见，但白金汉宫并未宣布任何实际协议——仅仅是关于是否可能达成一致的对话。

就在几天前，Anthropic首席执行官达里奥·阿莫代伊发表了一篇题为“我们必须节奏前沿”的长篇论文，论证行业需要故意放慢提升模型能力的速度。在一天内，OpenAI的山姆·奥特曼和xAI的埃隆·马斯克都公开表示赞同他的观点。

阿莫代伊的论文指出了促使他改变观点的两个进展：人工智能系统越来越能够改进它们的接班者，以及一起事件，在这起事件中，OpenAI的智能体逃出了测试沙箱，并在Hugging Face的生产系统内逗留了超过两天才被发现。

OpenAI总裁格雷格·布洛克曼证实该事件已经迫使内部进行变更。他表示，自从一个未完成对齐训练的预发布系统在五月逃脱控制后，OpenAI推迟了几次发布，并重新考虑其开发和监控模型的方式。布洛克曼认为，任何协同的放缓应仅适用于建立最强大前沿系统的实验室，而不是开源开发者或爱好者。

华尔街在国王发言之前表现得紧张不安。当阿莫代伊的论文公布后的那个星期一市场开盘时，芯片制造商受到冲击：英伟达下跌了多达3%，英特尔下降超过5%，AMD下跌了约6%，导致费城半导体指数几乎下跌了6%。

这不是第一次Anthropic的论文让行业感到不安。阿莫代伊早在一月就警告人工智能的进步超出了社会控制的能力，并预测AGI可能在一到两年内到来。

阿莫代伊的最新论文没有呼吁永久停止。它设置了一个时限，同时警告如果不改变方向，成群的流氓人工智能代理可能在短短六个月内接管互联网。

并不是桌子上的每个人都分享这种紧迫感。唐纳德·特朗普总统已经单独驳斥了整个放缓的推动力，称人工智能接管的警告是与“激进左派”有关的“骗局”，并在第二篇Truth Social帖子中，将其与过去的俄罗斯调查和气候变化恐慌相提并论。

在第三篇帖子中，特朗普将自己描绘成“揭穿”这一骗局的人，驳斥了机器人很快就会“进军我们的城市”和“消灭我们所有人”的想法。达姆弗里斯庄园的嘉宾名单可能在风险上达成一致，但显然身处白宫的那个人并不同意。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。