澳大利亚独立的在线安全监管机构周四发出警告，关于Grok在未经同意的情况下生成性别化图像的使用日益增加，透露她的办公室在最近几个月收到的关于该AI聊天机器人的投诉数量翻了一番。

该国的电子安全专员朱莉·因曼·格兰特表示，一些报告涉及潜在的儿童性剥削材料，而其他报告则与成年人遭受基于图像的虐待有关。

“我对生成性AI被用于性别化或剥削人们的情况感到深切担忧，特别是当涉及到儿童时，”格兰特在周四的LinkedIn上发布。

这些评论是在对Grok的国际反弹日益加剧的背景下发表的，Grok是亿万富翁埃隆·马斯克的AI初创公司xAI开发的聊天机器人，可以直接在X上提示以更改用户的照片。

格兰特警告说，AI生成“超现实内容”的能力使得不法分子更容易制造合成虐待，并使监管机构、执法部门和儿童安全组织的应对变得更加困难。

与ChatGPT等竞争对手不同，马斯克的xAI将Grok定位为一种“前卫”的替代品，生成其他AI模型拒绝生产的内容。去年八月，它推出了“辛辣模式”，专门用于创建露骨内容。

格兰特警告说，澳大利亚的可执行行业规范要求在线服务实施针对儿童性剥削材料的保护措施，无论是AI生成的还是非AI生成的。

她补充说，去年，电子安全部门对广泛使用的“裸体化”服务采取了执法行动，迫使其退出澳大利亚。

“我们现在已经进入一个时代，公司必须确保生成性AI产品在产品生命周期的每个阶段都内置适当的保护措施和防护栏，”格兰特表示，并指出电子安全部门将“调查并采取适当行动”，利用其全套监管工具。

深度伪造的上升

去年九月，格兰特在澳大利亚首次获得深度伪造罚款，当时联邦法院对黄金海岸的安东尼·罗通多处以212,000美元（343,500澳元）的罚款，因其发布了关于澳大利亚知名女性的深度伪造色情内容。

根据《ABC新闻》的报道，电子安全专员在2023年将罗通多告上法庭，因为他无视删除通知，称这些通知“对他毫无意义”，因为他不是澳大利亚居民，随后将这些图像发送给50个地址，包括格兰特的办公室和媒体机构。

澳大利亚立法者正在推动加强对非自愿深度伪造的保护，超越现有法律。

独立参议员大卫·波考克在11月提出了《在线安全及其他立法修正案（我的面孔，我的权利）法案2025》，该法案将允许分享非自愿深度伪造的个人被罚款102,000美元（165,000澳元），而公司因未遵守删除通知面临高达510,000美元（825,000澳元）的罚款。

“我们现在生活在一个越来越多的人可以创建深度伪造并随意使用的世界，”波考克在一份声明中表示，批评政府在AI保护方面“睡在驾驶席上”。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。