《堡垒之夜》修复了人工智能驱动的达斯·维德,因为它开始说出侮辱性言论。

CN
Decrypt
關注
15 小時前

《堡垒之夜》游戏开发商Epic Games在游戏中添加了一个由生成性AI驱动的达斯·维德角色,基于已故配音演员詹姆斯·厄尔·琼斯的授权形象。但事情很快就出现了问题,因为玩家能够诱使这个AI角色说出种族歧视和恐同的言论以及脏话。

周五作为《星球大战》/《堡垒之夜》跨界活动的一部分推出的“《堡垒之夜:银河战斗”,达斯·维德在《堡垒之夜》中的对话是由位于纽约的语音AI公司ElevenLabs创建的。这个AI驱动的角色能够实时回应玩家。

在推出几个小时内,社交媒体上开始流传视频,显示玩家诱使这个AI驱动的《星球大战》反派说出种族和恐同的侮辱性言论以及脏话。玩家能够让达斯·维德说出听起来像仇恨言论、侮辱或其他脏话的词语或名字。

多名玩家在社交媒体上分享了视频,显示该角色用贬义词作出反应。针对其中一个病毒式传播的视频,Epic Games表示已经推出了一个热修复,以纠正维德令人惊讶的新词汇。

“我们立即推出了一个热修复,这种情况不应该再发生,”该公司在X上写道

在给Decrypt的后续电子邮件中,Epic Games承认在达斯·维德加入《堡垒之夜》之前存在内容审核的疏漏。

“虽然我们在我们的保护措施中添加了几条具体规则和指示,以防止达斯·维德说脏话或重复脏话,但在这种情况下,我们的过滤器没有捕捉到一个特定的脏话变体,”Epic Games的一位发言人告诉Decrypt。“我们的热修复专门解决了这个词。”

根据发言人的说法,AI功能包括三层安全过滤器。第一层是Gemini的可配置安全设置。第二层添加系统指令,以防止AI生成违反社区规则或可能伤害玩家的回应。第三层是最终审核,以捕捉任何剩余的违规行为,例如仇恨或露骨的语言、自残的提及,或危险或非法活动的提及。

AI生成的达斯·维德是使用詹姆斯·厄尔·琼斯的录音档案构建的。琼斯于2024年去世,之前已将他的声音形象授权给卢卡斯影业,使得该角色在他去世后仍能在新媒体中继续出现。

“没有詹姆斯·厄尔·琼斯在《星球大战》电影中为维德配音的传奇表演,达斯·维德不会如此阴险,”Epic Games在一份声明中表示。“我们很荣幸能展示已故琼斯先生的声音,感谢他的遗产给予我们这个机会,让玩家体验这一切。”

自2023年以来,该公司通过其Epic Games Store平台接受生成性AI创作,尽管竞争对手一直在努力阻止这一新兴技术。

这并不是AI生成内容在《堡垒之夜》中首次引发关注。2024年1月,Epic在玩家的强烈反对下迅速清除种族主义的AI生成图像,涉及用户创建的岛屿。当时,Epic Games表示,所有用户创建的岛屿在发布前都会由审核员进行审核,但表示团队采取的是轻度审核。

“如果我们的审核团队对创作者的内容违规不确定,我们会假设创作者的良好意图,因此我们不会过度审查,”Epic Games表示。

编辑:安德鲁·海沃德

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

OKX:注册返20%
链接:https://www.okx.com/zh-hans/join/aicoin20
廣告
分享至:
APP下載

X

Telegram

Facebook

Reddit

複製鏈接