《堡垒之夜》游戏开发商Epic Games在游戏中添加了一个由生成性AI驱动的达斯·维德角色，基于已故配音演员詹姆斯·厄尔·琼斯的授权形象。但事情很快就出现了问题，因为玩家能够诱使这个AI角色说出种族歧视和恐同的言论以及脏话。

在周五作为《星球大战》/《堡垒之夜》跨界活动的一部分推出的“《堡垒之夜：银河战斗”，达斯·维德在《堡垒之夜》中的对话是由位于纽约的语音AI公司ElevenLabs创建的。这个AI驱动的角色能够实时回应玩家。

在推出几个小时内，社交媒体上开始流传视频，显示玩家诱使这个AI驱动的《星球大战》反派说出种族和恐同的侮辱性言论以及脏话。玩家能够让达斯·维德说出听起来像仇恨言论、侮辱或其他脏话的词语或名字。

多名玩家在社交媒体上分享了视频，显示该角色用贬义词作出反应。针对其中一个病毒式传播的视频，Epic Games表示已经推出了一个热修复，以纠正维德令人惊讶的新词汇。

“我们立即推出了一个热修复，这种情况不应该再发生，”该公司在X上写道。

在给Decrypt的后续电子邮件中，Epic Games承认在达斯·维德加入《堡垒之夜》之前存在内容审核的疏漏。

“虽然我们在我们的保护措施中添加了几条具体规则和指示，以防止达斯·维德说脏话或重复脏话，但在这种情况下，我们的过滤器没有捕捉到一个特定的脏话变体，”Epic Games的一位发言人告诉Decrypt。“我们的热修复专门解决了这个词。”

根据发言人的说法，AI功能包括三层安全过滤器。第一层是Gemini的可配置安全设置。第二层添加系统指令，以防止AI生成违反社区规则或可能伤害玩家的回应。第三层是最终审核，以捕捉任何剩余的违规行为，例如仇恨或露骨的语言、自残的提及，或危险或非法活动的提及。

AI生成的达斯·维德是使用詹姆斯·厄尔·琼斯的录音档案构建的。琼斯于2024年去世，之前已将他的声音形象授权给卢卡斯影业，使得该角色在他去世后仍能在新媒体中继续出现。

“没有詹姆斯·厄尔·琼斯在《星球大战》电影中为维德配音的传奇表演，达斯·维德不会如此阴险，”Epic Games在一份声明中表示。“我们很荣幸能展示已故琼斯先生的声音，感谢他的遗产给予我们这个机会，让玩家体验这一切。”

自2023年以来，该公司通过其Epic Games Store平台接受生成性AI创作，尽管竞争对手一直在努力阻止这一新兴技术。

这并不是AI生成内容在《堡垒之夜》中首次引发关注。2024年1月，Epic在玩家的强烈反对下迅速清除种族主义的AI生成图像，涉及用户创建的岛屿。当时，Epic Games表示，所有用户创建的岛屿在发布前都会由审核员进行审核，但表示团队采取的是轻度审核。

“如果我们的审核团队对创作者的内容违规不确定，我们会假设创作者的良好意图，因此我们不会过度审查，”Epic Games表示。

编辑：安德鲁·海沃德

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。