人工智能如何将宣传转变为一种强大的武器

CN
Decrypt
關注
11 小時前

伊朗轰炸袭击中最疯狂的片段并不是由五角大楼的摄像头或CNN的摄制组拍摄的,而是由谷歌的AI视频制作工具生成的。

在本周早些时候伊朗对以色列的导弹攻击后,假AI视频开始像恶性谣言一样传播,显示特拉维夫和本古里昂机场似乎遭到重创。

这些场景极其逼真,尽管袭击是真实的,但根据法医公司的说法,网络上病毒式传播的视频并不真实。

这就是2025年战争的状态,AI生成的深度伪造、聊天机器人生成的谎言和视频游戏画面被用来以前所未有的频率和渗透来操控公众认知。

当世界在周日为伊朗的回应做好准备时,美国对伊朗关键核设施的攻击与以色列一起,成为自1979年伊朗革命以来对伊斯兰共和国的最重大西方军事行动,数百万人转向社交媒体获取更新。

然而,许多人并没有得到真相,而是陷入了一种新型的虚假信息运动中。

在2025年以色列对伊朗袭击后的几天内观察到的伊朗TikTok活动中,部署了五大类AI生成的内容。

一段正在传播的视频显示一个普通的以色列社区突然变成了战区,以前后对比的形式呈现。

另一批假视频显示特拉维夫的主要机场遭到导弹轰炸。

一段视频中,一架以色列航空的飞机被火焰吞没。尽管完全是计算机生成的,但它仍然足够逼真,可以欺骗不懂技术的人。

这种复杂性令人震惊,反映出视频生成器在最近几个月质量的巨大飞跃,Kling 2.1 Master、Seedream和Google Veo3生成的逼真场景具备图像转视频的能力——这使得模型能够基于实际的真实图片创建视频,而不是从零开始创建场景。

即使是像Wan 2.1这样的开源软件,在爱好者中也很受欢迎,利用附加组件创建超逼真的视频并提高质量,同时规避大型科技公司施加的内容限制。

这些政治片段在TikTok上获得了数百万的观看,而Instagram、Facebook和X平台则不断推广它们。

例如,今天发布的一段视频夸大了伊朗对美国基地的攻击,已在X平台上被观看超过300万次,而一张照片描绘了反对特朗普参与战争的记者Candance Owens和Tucker Carlson为穆斯林,在三天内获得了超过371千次的观看。Telegram频道快速发布这些假视频,并且迅速出现,比平台关闭它们的速度还要快。

欺骗的来源

但这些东西是谁创造的?

当然是双方的支持者,可能还有各国的代理人。宣传战远远超出了中东地区。

来自俄罗斯的“真理”网络正在污染AI助手,包括ChatGPT-4和Meta的聊天机器人,将它们变成克里姆林宫的喉舌。

NewsGuard是一个致力于揭露美国话语中虚假信息的项目, 估计“真理”网络的年出版率至少为360万篇亲俄文章。

去年,该网络在49个国家生产了360万篇文章,利用150个多语言的网络地址。

根据研究,俄罗斯网络采用全面的策略渗透AI聊天机器人的训练数据,并故意发布虚假声明。

结果是?每个主要的聊天机器人——尽管研究没有具体提到名称——都重复了“真理”的宣传。

中东的宣传活动表明,他们已经将这一过程科学化,通过语言定制内容。

以色列反恐国际研究所(ICT)在一份报告中表示:“阿拉伯语和波斯语内容通常促进地区团结和反以色列情绪;希伯来语视频则关注以色列内部的心理压力。”

另一种宣传策略利用AI内容嘲讽以色列官员,同时将伊朗最高宗教领袖塑造成英雄。

这些视频显然是AI生成的,并不打算看起来真实,常常描绘阿亚图拉阿里·哈梅内伊与以色列总理本杰明·内塔尼亚胡和美国总统唐纳德·特朗普并肩出现的场景,表现出哈梅内伊象征性地羞辱或主导其中一位或两位人物的情景。

其他深度伪造结合了假视频和假声音,以增强不同的政治议程。

一段视频,在一周内获得超过1800万次观看,展示了伊朗军事游行的真实画面,数百枚导弹和哈梅内伊威胁美国报复的声音。

伊朗的国家媒体也参与其中。伊朗电视台播放了来自智利的旧野火画面,并将其伪装成以色列城市在燃烧。

其他自称为新闻频道的账户使用了假AI视频,展示伊朗动员导弹的场景。

另一方面,以色列选择禁止媒体以控制地缘政治叙事,专家称这导致了更多的虚假信息和“非人化”。

尽管以色列专注于将AI用于各种目的——主要是用于军事策略而非政治宣传——但也有一些行为者利用生成AI进行这些目的,嘲讽当前和过去的阿亚图拉,并通过AI生成的视频传播他们的政治信息,以及创建AI机器人网络在社交媒体上传播内容。

合成身份游戏达到了新高度。这些不仅仅是虚假的头像——我们谈论的是完整的人工身份,具有逼真的语音、动作和表情。

已经有工具使用先进技术将单张照片和音频剪辑转化为具有合成身份的超逼真视频。

虚拟影响者市场,KBV Research 数据显示,到2030年可能达到378亿美元,这意味着你最喜欢的社交媒体人物、你政治领导人说出某些妥协性言论的视频,或者那场展示毁灭性攻击场景的高度真实新闻节目可能根本不存在。

随着生成AI的出现,战场已经超越了国界和掩体,扩展到每部智能手机、每个社交媒体动态和每一次对话中。

如果连世界上最强大国家的总统都能在没有后果的情况下使用这项技术,那么在这场新战争中,我们所有人都是战斗者,都是伤亡者,这一点就不难看出。

编辑:Sebastian SinclairJosh Quittner

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

ad
出入金首选欧易,注册立返20%
廣告
分享至:
APP下載

X

Telegram

Facebook

Reddit

複製鏈接