AI水军，到底长啥样？

这是一条微博下面的评论：

△ 图源微博@僵尸文学bot

其实这些评论的博主，从名字和语言风格来看，都不是人，而是用AI生成的僵尸号。

如果GPT-3也成为僵尸号活跃在我们的社交网络，还制造谣言，是不是很恐怖？

现实是，这样的事情正在发生。

相比于真实的流量，利用AI伪造成「水军」，用来在社交媒体上刷关注度和点赞量，显然性价比更高。

流量造假也罢了，如果「AI水军」在社交媒体上批量传播极具煽动性的假消息、假言论——

甚至欺骗过了你的妈妈，让她把炮制的假消息转发到了家人群……

△ 这批美国网络水军账号，基本都是机器人

可能你会认为，AI生成的假新闻、假消息，影响范围也许并没有那么广，不应当如此危言耸听，因为人们很容易将之识别出来。

但最新消息是，现在的「AI水军」，还可能足以影响2020年的美国总统选举。

美国总统，或许是AI选的

前段时间火爆的Deepfake，生成的以假乱真的图像及视频效果令人惊叹，一定程度上也导致了虚假视频和图像的大量传播。

甚至，研究人员在调查哪种类型的操纵活动可能威胁到2020美国总统选举时，AI产生的误导性视频言论位居榜首。

此后，诸多社交平台不得不针对这些图像和视频出台了相关政策，以寻求自由表达和真实性之间的平衡。

Deepfake的视频图像伪造痕迹，或许有迹可循，但AI制造的「Textfake」却往往更加难以禁绝。

例如，在2016年美国总统选举时，就曾出现过大量文字版水军言论，如下图。

「惊爆！米歇尔奥巴马竟是男人！」「重磅！奥巴马是穆斯林！」「震惊！种族主义者希拉里践踏黑人！」……

这些虚假消息往往根据真实信息改编，因此更具有迷惑和煽动性。

据悉，2019年末，Facebook关闭了来自美国和越南的610个账号、89个专页和156个群主，其中专页的关注者约有5500万。

这其中，一些账号使用了AI生成并伪装成美国公民的个人资料图片，并用来发布虚假消息，支持特朗普。

或者，攻击特朗普的竞争对手。

想象一下，如果你是一名无倾向的美国选民，看见社交媒体上的「人」都在一边倒地支持某个候选人，你会怎么选择？

而AI伪造虚假信息的能力，也正随着AI技术的不断发展「进步升级」。

和你说话的「人」，也许是GPT-3

例如，最近大火的GPT-3，文本信息生成的能力就备受瞩目。

与Deepfake不同的是，这种「Textfake」生成的文本内容，相比图片和视频，虚假信息往往也更隐蔽。

想象一下，GPT-3可以学习某个人的语言风格，甚至能扮演成那个人和你对话。

如果AI没有犯低级错误的话，你甚至可能判断不出来他的真假。

而且，即使有低级错误，研究人员表示，GPT-3也能通过微调来及时改正。

是不是有点细思极恐？

不可否认的是，各种AI水军的出现，正在让网路两端的信任不断降低。

随着AI检测变得越来越困难，我们可能也更难信任网上所看到的内容。

但这不意味着，我们就要否认一切来自网上的消息，在了解过真实情况后，最重要的还是拥有自己的判别能力。

毕竟，早些年的背背佳和小罐茶，也不是AI制造出来的假消息（狗头）。

了解真实，洞鉴是非

其实最重要的是，人们要对潜在的假新闻、假消息有一个自我判断的能力。

毕竟，AI水军泛滥的情况，一定程度上也反映出，人们对AI造假的能力亟待重视。

预防的第一步，是人们必须对AI造假的真实情况有一个了解。

如果知道了社交媒体上有高仿机器人，那么人们在被煽动前，也许会冷静下来，去判断是非。

与其根据某条消息的「传播度」去判断它的真实性，更应该从事实出发进行评估。

参考链接：

wired.com/story/ai-generated-text-is-the-scariest-deepfake-of-all/

https://new.qq.com/rain/a/20200717A0IM4N00

https://www.sohu.com/a/362168121_161795

“