罗布乐思现在正在使用人工智能实时重写聊天中的脏话和侮辱性语言。

CN
Decrypt
关注
11小时前

广受欢迎的在线游戏平台Roblox正在用被AI重新措辞的标记消息替代其聊天过滤器捕捉到的亵渎语言所显示的哈希符号,公司于周四宣布。


这一功能称为实时聊天重新措辞,会修改消息中的亵渎语言,以使对话保持可读,而不是显示为被屏蔽的文本。


“例如,违反Roblox亵渎政策的消息,如‘快点TF!’以前会在体验聊天中显示为‘####’,”公司表示。“现在会被重新措辞为‘快点!’”





根据Roblox用户和发现产品副总裁Rajiv Bhatia的说法,这一新设计旨在通过重新措辞语言并用真实单词替代“停车标志”来保持文明。


“聊天是人们在Roblox上连接、协调和游戏的核心,”Bhatia在一份声明中表示。“实时重新措辞有助于保持游戏和对话的进展,同时引导语言朝向合适的方向。”


在2025年5月,Roblox推出了实时警告,提醒用户当消息可能违反平台规则时,并鼓励他们重新考虑措辞。


“在去年的实验中,Roblox发现,在体验内发布文本聊天通知和时间限制,导致被过滤的聊天消息减少了5%,以及来自滥用报告的后果减少了6%,”公司表示。


尽管有所下降,Roblox表示,这一新变化解决了一个长期存在的问题,即过滤语言显示为随机字符的字符串,这可能会让聊天在游戏过程中难以跟随。


尽管聊天中的玩家在文本被重新措辞时会收到通知,但该公司表示,新系统并未改变对亵渎语言的执法政策。


“明确来说,当我们重新措辞一条违反我们亵渎政策的消息时,它仍然是违反行为,同样的规则依然适用,”Bhatia在周四的另一份声明中表示。“继续在聊天中试图咒骂的用户仍将面临重复违反我们政策的相同后果。”


Roblox表示,重新措辞功能仅在相似年龄组的年龄认证用户之间的聊天中提供,并支持目前通过Roblox自动翻译工具提供的所有语言。为了了解青少年玩家在游戏中如何交流,Roblox表示,这一新的重新措辞功能是在与其青少年委员会成员的合作下开发的。


公司还在升级其文本过滤系统,以更好地检测规避管理规则的尝试,包括用数字或符号替代字母的语言变体,这被称为另类文字


Roblox的聊天重新措辞是游戏行业日益增长的趋势的一部分,随着公司越来越多地使用AI来管理多人游戏中的玩家行为。在2024年,动视表示,在将其AI驱动的ToxMod管理系统部署到几个《使命召唤》标题后,超过200万个帐户因干扰性聊天而被标记。该公司表示,该工具有助于减少重复违规者,并减少严重情况下的干扰性语音聊天。


Roblox还扩大了其在平台上使用AI的范围。在2024年2月,公司推出了实时AI聊天翻译,允许玩家在Roblox聊天中跨越16种语言进行交流。


“这是一种大胆的新方法,我们不会总是完美地重新措辞,”Bhatia对此次最新举措表示,并补充说公司将继续学习和实验这一功能。“我们的最终目标是使用户能够以有趣和尊重的方式合作和连接。”


Roblox尚未立即回应Decrypt的评论请求。


免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接