根据《卫报》的报道，Meta使用人工智能来监管其平台，导致产生大量低质量报告，这些报告耗尽了资源并减缓了儿童虐待调查。

这一消息传出之际，新墨西哥州执法官员上周作证称，人工智能生成的报告令调查人员不堪重负，并减缓了儿童剥削案件的进展。

来自针对儿童互联网犯罪特别小组的官员特别提到Meta的自动化系统，称每个月生成成千上万条无法使用的线索，并将其转发给执法部门。

“我们从Meta收到很多线索，但这些线索简直就是垃圾，”新墨西哥州ICAC特别小组的特工本杰明·兹维贝尔在针对该公司的州审判中作证说。



另一名ICAC官员匿名告诉《卫报》，该部门的网络线索在2024年至2025年间翻了一番。

“这相当令人不知所措，因为我们收到的报告太多了，但报告的质量在我们采取严肃行动的能力上真的很缺乏，”他们说。

在与Decrypt共享的一份声明中，Meta的一位发言人表示，该公司长期以来与执法部门合作，并指出司法部和国家失踪与被剥削儿童中心对其报告流程给予了赞扬。

“在2024年，我们收到了来自美国当局的9000多项紧急请求，并在平均67分钟内解决了这些请求，对于涉及儿童安全和自杀的案件更快，”发言人说。

“根据适用法律，我们还向NCMEC报告明显的儿童性剥削影像，并支持他们优先处理报告，从帮助建立案件管理工具到标记网络线索，以便他们知道哪些是紧急的，”他们补充道。

然而，ICAC官员表示，Meta发送的某些报告并不具备犯罪性质，而其他报告缺乏追究案件所需的可行证据。

这一增长发生在报告法案签署为法律之后，该法案于2024年5月签署生效，扩大了报告要求，包括计划或即将发生的虐待、儿童性贩卖和相关剥削，同时要求公司更长时间保存证据。

数据概览

Meta仍然是NCMEC网络线索热线最大的报告来源，占2024年收到的2050万条线索的约三分之二，较2023年的3620万有所下降。这一下降部分归因于Meta报告实践的变化。

在其2025年8月的完整性报告中，Meta表示，Facebook、Instagram和Threads在2025年第二季度向NCMEC发送了超过200万条网络线索报告。其中，超过528,000条涉及与儿童的不当互动，而超过150万条涉及儿童性虐待材料的分享或转发。

尽管有这些数字，公民社会的政策倡导者JB Branch表示，过度依赖人工智能使得报告法案对审查案件的调查人员的效率降低，并认为，虽然算法长期以来有助于减少审核员的工作量，但人类审核员却是最有效的过滤器。

“问题的一部分在于，很多科技公司裁掉了内容审核员，用人工智能安全功能取而代之，”Branch告诉Decrypt。“因此，由于过度谨慎，造成了错误积极报告的过量选择。”

Branch表示，过去，审核链中通常会有更多的人类审核员能够识别和移除那些不需要升级的内容。

“因为这些公司已经从链条中移除了人类内容审核员或审核人员，更多的事情被传递过去，因为他们想要谨慎行事，”他说。“他们基本上在拖着更广泛的网，捕捉到一些根本不合格的东西，并且他们严重依赖人工智能工具来做到这一点。”

调查人员表示，错误的AI生成的线索的影响现在正在影响审查它们的特别小组。

“这在打击士气。我们淹没在线索中，我们想走出去做这项工作，”一名ICAC官员据报道说。“我们没有足够的人手来维持这一点。我们无法跟上涌入的洪水。”

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。