随着深度伪造、虚假信息和人工智能辅助作弊在网上和课堂上蔓延，谷歌DeepMind于周二推出了SynthID检测器。这个新工具扫描图像、音频、视频和文本，以检测谷歌日益增长的人工智能模型嵌入的隐形水印。
SynthID检测器旨在在一个地方跨多种格式工作，旨在通过识别由谷歌的人工智能生成的内容来带来更大的透明度，包括音频人工智能NotebookLM、Lyria和图像生成器Imagen，并突出显示最有可能被水印标记的部分。
“对于文本，SynthID会查看接下来将生成哪些单词，并改变适合的单词选择的概率，这不会影响整体文本的质量和实用性，”谷歌在演示中表示。
“如果一段文字包含更多首选单词的实例，SynthID将检测到它被水印标记，”它补充道。
SynthID在文本生成过程中调整单词选择的概率分数，嵌入一个不会影响输出的含义或可读性的隐形水印。这个水印可以在后续用于识别由谷歌的Gemini应用程序或网络工具生成的内容。
谷歌首次在2023年8月引入SynthID水印，作为检测人工智能生成图像的工具。随着SynthID检测器的推出，谷歌将这一功能扩展到音频、视频和文本。
目前，SynthID检测器处于有限发布状态，并为记者、教育工作者、设计师和研究人员提供了试用程序的候补名单。
随着生成性人工智能工具的普及，教育工作者发现越来越难以判断学生的作品是否原创，即使是在旨在反映个人经历的作业中。
使用人工智能作弊
《纽约杂志》最近的一份报告突显了这一日益严重的问题。
圣克拉拉大学的一位技术伦理教授布置了一篇个人反思论文，结果发现一名学生使用ChatGPT完成了这篇论文。
在阿肯色州小石城的阿肯色大学，另一位教授发现学生依赖人工智能来撰写他们的课程介绍论文和课堂目标。
尽管越来越多的学生使用其人工智能模型在课堂上作弊，OpenAI在2023年关闭了其人工智能检测软件，理由是准确率低。
“我们认识到，识别人工智能撰写的文本一直是教育工作者讨论的重要议题，同样重要的是认识到人工智能生成文本分类器在课堂上的局限性和影响，”OpenAI当时表示。
加剧人工智能作弊问题的是像Cluely这样的新工具，这是一款旨在绕过人工智能检测软件的应用程序。由前哥伦比亚大学学生Roy Lee开发，Cluely在桌面级别上规避人工智能检测。
作为一种在考试和面试中作弊的方式进行推广，Lee筹集了530万美元来开发该应用程序。
“在我发布了一段自己在亚马逊面试中使用它的视频后，它迅速走红，”Lee之前对Decrypt表示。“在使用它时，我意识到用户体验非常有趣——没有人探索过这种透明屏幕叠加的想法，它可以看到你的屏幕，听到你的音频，并充当你计算机的第二个玩家。”
尽管像SynthID这样的工具有其潜力，但许多当前的人工智能检测方法仍然不可靠。
在10月，Decrypt对领先的人工智能检测器进行的测试发现，四个领先的人工智能检测器中只有两个，Grammarly、Quillbot、GPTZero和ZeroGPT，能够确定美国独立宣言是由人类还是人工智能撰写的。
免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。
