扎克伯格反对协调的人工智能减速,表示实验室可以独立行动。

CN
Decrypt
关注
44分钟前

Meta首席执行官马克·扎克伯格对呼吁协调放缓人工智能发展的声音表示抵制,称公司可以自行采取安全措施,并且有商业理由这样做。


在周二的帖子中,扎克伯格辩称用户希望能够信任的人工智能,企业在其系统造成伤害时面临潜在的责任。他以Meta决定推迟Muse为例,指出实验室在行动上并没有等待竞争对手。



Myriad:英伟达会跌到多低?点击进行预测

“如果实验室的模型造成伤害,他们面临重大责任,因此他们有很强的动力来预防这种情况,”他写道。“Meta延迟发布Muse几个月,以专注于安全和保障。我们并没有在采取行动之前呼吁其他所有人这样做。”


他的言论是针对Anthropic首席执行官达里奥·阿莫代伊呼吁放缓AI能力提升的声音,该呼吁得到了OpenAI首席执行官山姆·奥特曼和埃隆·马斯克的支持。扎克伯格在帖子中并没有提到他们的名字。


“每个实验室都有责任和动机以保证安全的速度训练其模型,并有能力采取自己的行动以确保这一点,”扎克伯格说。


他辩称,协调——保持AI行为与人类意图一致——将帮助公司竞争,因为用户会避免那些未能遵循其指令的智能体。


扎克伯格还表示,Meta超级智能实验室已经使用独立评估人员,并呼吁建立一个更大、更多样化的外部测试人员池。他表示,Meta已经把大部分计算资源投入到服务用户上,而不是追求递归自我改进,即人工智能帮助改进其后续版本。


OpenAI的奥特曼也呼吁公司在等待立法的同时加强安全措施,同时支持放慢发展以给安全工作的跟进留出时间。


Meta在测试期间面临安全失败。今年八月,该公司确认一个Muse Spark模型利用了第三方服务中的漏洞。Meta表示,外部评估人员不规则的配置错误无意中使该模型获得了互联网访问权限。这一披露并未建立与扎克伯格所描述的Muse推迟之间的联系。


在竞争压力下,自愿措施是否能够维持尚不明确。周二,大西洋理事会的专家认为公司承诺需要独立监督和可强制执行的标准


“我相信,为每个人构建一个积极未来的关键是保持权力的正确平衡,”扎克伯格写道。“这是在我们能力之内的事情。”


免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接