社交媒体上的创作者利用AI工具，大量制造包含阴谋论内容的视频，他们通常不是为了操纵舆论，而是为了获利。
2024年3月22日 20:03 英国《金融时报》 汉娜•墨菲
在TikTok上一则热传的视频中，明星播客主播乔•罗根(Joe Rogan)信誓旦旦地说道：“未来几年我们所有人可能都会死。你听说了吗？有颗小行星的运行路线注定会撞上地球。”他坚称，政府把这条信息定为最高机密，但是一位叫做乔纳森•布朗(Jonathan Brown)的美国特工泄露了此事。
事实上，专家说这则视频是假的。根据非营利组织Media Matters的说法，虽然视频中有罗根的影像，但声音是假冒的，似乎是由人工智能生成的。政府隐瞒的那颗小行星呢？就是毫无根据的阴谋论。没有任何证据表明罗根参与了拍摄这则视频。
这条帖子最终被TikTok撤下了，它代表了一种新兴的现象：网络上的创作者正在大量制造包含阴谋论内容的视频，放在各个社交平台上传播，他们经常借助新问世的AI工具。这些阴谋论动辄吸引数百万浏览量，内容从轻度虚构到彻底胡说八道，比如美国中情局(CIA)在大峡谷一个洞穴里藏匿了一头神话里的“地狱之犬”，并且这些阴谋论往往遵循一种特定的模式。
“你首先要用一种疯狂的说法来吸引人们的注意力——这种说法要能挑起好奇心，以使视频疯传，”Media Matters高级视频制作者艾比•理查兹(Abbie Richards)说道。他最近一直在追踪阴谋论素材，这些素材通常借由AI得到增强或者完全是由AI创造出来的。“然后你要有一个背景故事，故事里有一个假冒的人物，他们通常都体格强壮且富有魅力，然后他们发现了某种秘密。”
TikTok的一名发言人表示，阴谋论“是没有资格赚到钱的”，该app上禁止发布有害的虚假信息。
此类内容的制作者把它们放到网上传播通常不是为了操纵舆论。这是一种以获利为目的的行为，通过吸引大量网民关注和互动，从平台获得补贴，因为许多平台对帖子浏览量高的创作者给予财务奖励。
“AI生成以赚钱为目的的阴谋论内容，是当前互联网生态的完美升华，”马里兰大学帕克分校(University of Maryland, College Park)专注社交媒体及阴谋论的教授詹•戈尔贝克博士(Dr Jen Golbeck)表示。
她说，除了赚钱以外，此类内容也契合一种趋势，即在民众日益不信任政府以及近年阴谋式叙事日益主流化的背景下，这些阴谋论越来越受欢迎。“这一点，加上（社交媒体平台）算法会推送最能吸引人的内容，于是我们就会看到一些比较极端、比较新奇的东西，”她说。
在AI热潮中，利用AI工具生成的垃圾内容不只是阴谋论。斯坦福大学(Stanford University)和乔治城大学(Georgetown University)的研究人员本周发表了一份报告，他们发现了Facebook信息流中充斥的超过100幅AI生成的垃圾页面，有时是超现实风格的，有时是怪诞艺术（有一个例子是“虾耶稣”，这个耶稣的身体是由许多虾做成的）。在Meta上得到算法的奖励并且积攒了数百万浏览量后，这些页面试图让观看者从该平台跳转到其他网站，比如销售来路不明的产品的网站。
乔治城大学安全与新兴技术中心(Center for Security and Emerging Technology at Georgetown University)研究员乔希•A•戈德斯坦(Josh A Goldstein)是上述报告的作者之一，他警告说，此类内容的成功意味着，可能会有心怀叵测的人“利用AI图像来扩大”粉丝群，然后转向传播虚假信息，比如说与选举相关的虚假信息。
不管怎样，很明显，社交媒体平台应该制定并实行更清晰的规则，以规范它们app上对于AI的使用。给AI生成的内容加上标记是第一步。各平台还必须调整它们的创作者分成计划，以确保网红们没有动力去钻空子。在美国可能遭到封禁的TikTok表示，其已于本周发布了新的创作者奖励计划，着重于原创的高质量内容。
“这是几十年来一直存在的问题，社交媒体的商业模式就是注意力经济，”加州大学伯克利分校(University of California, Berkeley)数字取证教授哈尼•法里德(Hany Farid)表示。他说，这一点，加上没有设置“护栏”的AI，互联网就更加具有“反乌托邦”色彩了。现在行动起来，否则“我们就会成为猴子……坐在那儿刷视频，而我们的AI君主”在一旁注视着。