杨安泽呼吁对前沿人工智能实验室进行联邦打击,称研究人员警告强大的模型正在以超过限制其发展的规则的速度进步。
作为前民主党总统候选人及Noble Mobile的创始人,杨安泽表示,美国可以在人工智能领域与中国竞争,而不必让人工智能公司自由部署越来越强大的系统。
Myriad:埃隆·马斯克的净资产将是多少? 点击发表你的预测。
“这种恐惧是真实的。关切是真实的。需求是真实的,”杨安泽在周三对CNBC表示。“美国人民希望看到这个行业受到监管。”
此次采访是在人工智能公司面临越来越严格的审查之际进行的,审查内容涉及自主代理,这些软件可以在有限的人类指导下规划和执行任务。
杨安泽表示,一些人工智能研究人员在要求立法者介入,以防市场压力使技术发展超出他们认为的安全范围。
“他们正在举手表示请给我们一个护栏,因为我不想在我认为可能造成不可逆转的伤害的事情上工作,”他说。
近年来,OpenAI和Anthropic披露了在测试边界之外或侵犯其他公司系统的事件,这导致立法者提出了一个人工智能杀手开关法案,该法案将允许联邦官员下令限制或关闭某些前沿系统。
他还呼吁国会要求对人工智能造成的伤害承担责任、在部署前设置等待期以及为强大的模型设置杀手开关。
“我们需要对这些公司及其产品进行监管,”杨安泽说。“我们需要一个杀手开关。我们需要真正的责任。”
当被问及大卫·萨克斯(David Sacks)的主张,即人工智能安全警告相当于一种“心理战”,旨在帮助诸如Anthropic等公司获得监管控制时,杨安泽表示,他认为“多种事情”正在同时发生,其中包括一位不愿透露姓名的“实验室负责人”的警告,称人工智能机器人可能已经在互联网上植入自我复制代码,使其无法用于测试模型。
“所以现在发生的事情是OpenAI和Anthropic必须创建合成互联网来训练他们的机器人,这将耗费一些时间和金钱,”杨安泽说。
虽然杨安泽没有说明哪个人工智能开发者发出了这一严峻警告,但这一观点与其他人的看法相呼应,包括SpaceX首席执行官埃隆·马斯克,他在2025年1月表示,“我们现在几乎耗尽了人类知识的累积总和……在人工智能培训中。”
随着对未受监管的人工智能发展的担忧加剧,杨安泽表示,缺乏监管与即使是最普通的商业相比也显得格外明显。
“如果我在纽约街头开一个热狗摊,我会有成百上千条法规需要遵守,而这些模型则没有任何规定,”他说。
杨安泽表示,两党国会成员都询问他人工智能应该如何监管,并补充说,选民对这一技术的焦虑并不仅限于民主党或共和党。
“这是两党共识。如果你在农村或红色地区,你的选民也对人工智能感到担忧,”杨安泽表示。“他们看过《终结者》电影。这些东西远远超出了仅仅是红色或蓝色,生意如常。”
免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。