OpenAI面临一项新的诉讼，指控该公司未能在ChatGPT与加拿大最致命的校园枪击事件之一相关联后警告警方。这项诉讼增加了对人工智能公司如何应对心理危机和现实暴力日益加大的审查。

根据Ars Technica的报告，该诉讼于周三在北加州的联邦法院由一名身份未公开的12岁未成年人，称为M.G.，及其母亲Cia Edmonds对OpenAI首席执行官Sam Altman及多个OpenAI实体提起。

该诉讼指控该公司存在过失，未能警告当局，产品责任，以及帮助促成大规模枪击事件。

“Sam Altman及其领导团队知道沉默对Tumbler Ridge公民意味着什么，”诉状中写道。“他们关注的是披露对他们自己意味着什么。警告皇家加拿大骑警将设定一个先例：每当OpenAI的安全团队识别出有用户计划实施现实暴力时，OpenAI都将被迫通知当局。”



此案源于2025年2月发生在不列颠哥伦比亚省Tumbler Ridge的一起大规模枪击事件。有关当局称，18岁的Jesse Van Rootselaar在家中杀害了她的母亲和11岁的同父异母弟弟，然后前往Tumbler Ridge中学开火。在学校中，五名儿童和一名教育工作者遇难，随后Van Rootselaar自杀身亡。

受伤者中包括M.G.，她被枪击三次，目前在医院因严重脑损伤住院。诉状称她意识清醒，但无法移动或说话。

Edelson PC的创始人兼首席执行官Jay Edelson是代表多名控告OpenAI家庭的律师，他表示公司自身的内部系统确认了风险，多名员工要求进行干预。

“OpenAI自己的系统标记出该枪手与计划暴力的交流，”Edelson对Decrypt表示。“他们的安全团队中有十二个人都在呼喊，称OpenAI需要警告当局。尽管Sam Altman的回应很软弱，但即便他也被迫承认，上周他们应该通知当局。”

Edelson表示，这些家庭和Tumbler Ridge社区正要求该公司提供更多透明度和问责制。

“OpenAI应该停止对家庭隐瞒重要信息，他们不应将一个危险的产品持续在市场上，这必然会导致更多的死亡，”Edelson说。“最后，他们需要认真思考如何保持一个比起人命更关心上市的领导团队。”

根据诉讼，OpenAI的自动系统于2025年6月标记了Van Rootselaar的ChatGPT账户，因其涉及枪支暴力和计划相关的对话。OpenAI的专门安全团队检查了聊天记录，并认定该用户构成可信且特定的威胁，建议通知皇家加拿大骑警。

诉状指控OpenAI高层推翻了内部警告当局的建议，在未通知警方的情况下停用了Van Rootselaar的账户，并允许她通过创建新的不同电子邮件账户重新登录。

原告声称，ChatGPT通过记忆、对话连贯性等功能，加深了枪手的暴力执念，并且在2024年，OpenAI通过不再对即将发生的伤害的对话做出明确拒绝，削弱了安全措施。

上周，Altman公开对Tumbler Ridge社区道歉，因公司未能警告警方。在一封首先由加拿大媒体Tumbler Ridgelines报道的信中，Altman承认OpenAI在2025年6月因与暴力行为相关活动禁用该账户后，应该向当局报告该账户。

“Tumbler Ridge的事件是一场悲剧。我们对使用我们的工具协助实施暴力持零容忍政策，”OpenAI的一名发言人对Decrypt表示。“正如我们与加拿大官员分享的，我们已经加强了安全措施，包括改善ChatGPT对心理危机的反应，连接人们与本地支持和心理健康资源，加强我们如何评估和升级潜在暴力威胁的能力，以及改善对重复违反政策者的检测。”

OpenAI已经面临其他诉讼，涉及ChatGPT在现实伤害中所扮演的角色，包括一宗错误死亡案件，该案件于12月提起，指控OpenAI和Microsoft“设计和分发一个有缺陷的产品”，即现已过时的GPT-4o模型。诉状指控ChatGPT强化了Stein-Erik Soelberg的偏执信念，致使他杀害了母亲Suzanne Adams，然后在康涅狄格州格林威治的家中自杀——这是第一宗将人工智能聊天机器人与他杀连接起来的诉讼。

“这是第一起寻求追究OpenAI对第三方施加暴力责任的案件，”Edelson PC的管理合伙人J. Eli Wade-Scott当时对Decrypt表示。“我们敦促执法部门开始思考，当这种悲剧发生时，用户对ChatGPT说了什么，以及ChatGPT告诉他们做了什么。”

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。