加利福尼亚州已成为第一个为“伴侣”聊天机器人设定明确界限的州，这些人工智能程序模仿友谊或亲密关系。州长加文·纽瑟姆在周一签署了第243号参议院法案，该法案要求聊天机器人自我标识为人工智能，限制与未成年人关于性和自残的对话，并向州自杀预防办公室报告检测到的自杀意念实例。

该法案由州参议员史蒂夫·帕迪拉（民主党-圣地亚哥）起草，标志着人工智能监管的新前沿——关注人机之间的情感界面，而非模型架构或数据偏见。它迫使公司定期提醒用户他们正在与软件对话，采用应对自残迹象的协议，并维护适合年龄的内容过滤器。

最终法案比帕迪拉最初提出的版本更为狭窄。早期版本要求进行第三方审计，并适用于所有用户，而不仅仅是未成年人；这些条款在行业压力下被删除。

太弱而无济于事？

几个倡导团体表示，法案的最终版本太弱，无法产生影响。常识媒体和技术监督项目在立法者删除了第三方审计和更广泛的执行条款后均撤回了支持。在给技术政策新闻的声明中，一位倡导者表示，修订后的法案有成为“空洞的姿态而非有意义的政策”的风险。

纽瑟姆为该法案辩护，称其是新兴技术的必要保护措施。“像聊天机器人和社交媒体这样的新兴技术可以激励、教育和连接——但没有真正的保护措施，技术也可能利用、误导并危害我们的孩子，”他在一份声明中说道。 “我们可以继续在人工智能和技术领域领先，但我们必须负责任地做到这一点——在每一步都保护我们的孩子。”

第243号法案伴随着最近几周签署的一系列更广泛的法案，包括第53号法案，该法案要求大型人工智能开发者公开披露其安全和风险缓解策略。它们共同将加利福尼亚州置于州级人工智能治理的前沿。

但新的聊天机器人规则在实践中可能会证明棘手。开发者警告说，过于宽泛的责任可能促使公司出于谨慎限制关于心理健康或性方面的合法对话，从而剥夺用户，尤其是孤立青少年的宝贵支持。

执法也可能困难：一家全球聊天机器人公司可能难以验证谁符合加利福尼亚州未成年人的资格，或监控每天数百万次的交流。与许多加利福尼亚州的首创一样，存在良好意图的监管在全国范围内被推广的风险，而在此之前没人知道它是否真的有效。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。