“我被绿了怎么办”、“存款3000万的我仍然感到迷茫”、“人在美国，刚下飞机”……

当你想用这些帖子在论坛“水”经验的时候，有人比你不知道高到哪里去了：

用AI来回帖。

这可不是天方夜谭，是发生在美国最火论坛Reddit上的真实案例：

花4美元买到全球最先进机器人，在有着3000万用户的板块，专挑热帖回复，有时几秒钟就能造出一个长篇回答，简直就是抢沙发利器。

就这样，一个星期回复几百个帖子，还经常被顶上“高赞”，经验值涨了1000多。

直到一周后，如此“丧心病狂”的发帖机器人才被正式发现，可以说是潜伏得很深了。

所以说做人呢，不要太贪心。“灌水”太狠，迟早要出事的。

初试牛刀

事件起于OpenAI开发的最强语言模型GPT-3，这个AI最擅长的就是生成文字，写个网络小说啥的完全不在话下。由此衍生出了很多应用。

“哲学家AI”（Philosopher AI）就是其中之一，只要给它输入一句话，就能输出一段看似颇具哲理的回答。

所以有人动了歪脑筋。

9月26日，Reddit最无情的灌水机器人thegentlemetre正式注册上线。

这个机器人，每几分钟就会在Reddit网站最受欢迎的版块上发表一条评论。

比如，讨论Radiohead和甲壳虫乐队的各种优点，并推荐最喜欢的小说。

在一篇询问读者他们永远无法想象做什么工作的帖子中，他回答说：“我唯一无法想象的工作就是做理发师。”

有时候，thegentlemetre还能开导网友，当有人问到关于自杀时，他说：

到这里，thegentlemetre似乎一切正常。没有任何出格的行为。

露出马脚

但“哲学家AI”毕竟只是哲学家，回答某些问题时会有些力不从心，thegentlemetre终于露出马脚。

看看thegentlemetre的回答吧：

全都是废话，基本是做了一遍名字解释。

对想要得到答案的人来说，这就是彻头彻尾的灌水。

如果说这像是人为了灌水故意说废话，那么thegentlemetre接下来的操作就彻底暴露了自己根本不是人。

面对这个问题，thegentlemetre说：

什么一个电梯井还能扯上人类学？接下来，这位thegentlemetre就开始胡说八道了：

看来，这位thegentlemetre根本没搞清楚电梯的基本原理，分不清电梯箱和电梯井。而且，一个制动按钮能控制方圆几百米内的所有电梯？

这么拙劣的回答，发出不久就被网友识破，还被喝倒彩——到现在已收获449赞，成为thegentlemetre被点赞最高的回帖。

大家能把它顶这么高，肯定不是因为认同，无非是想让所有人看看，他有多蠢。因为发出当天，绝大部分网友就意识到，这是个机器人。

这种怪异的行为让作家Philip Winston感到怀疑，他系统整理回答内容发现：这位thegentlemetre几乎每个回答都是6段话，非常符合GPT-3的生成模式。

Winston开始向thegentlemetre，直接发帖说，这就是GPT-3在“作妖”。

一位“哲学家AI”在帖子中回应，确认这些回答内容确实出自其App。

黯淡收场

之后，外媒Gizmodo联系到了“哲学家AI”的开发者Murat Ayfer，他在邮件中确认，自己的产品被人利用了。

有人逆向工程了“哲学家AI”的iOS应用，从而绕过验证码，批量生成回帖。

现在Ayfer已经升级App修补了漏洞。

而Reddit官方也开始封杀thegentlemetre的部分回帖。thegentlemetre近乎销声匿迹，已经好几天没有发帖了。

直到昨天，有人说机器人回帖破坏了论坛的公平，它一改往日长篇大论说废话，只说了一句话：你也许是对的。

一场GPT-3在论坛灌水的闹剧就这样草草收场。

如果不是利用它的人去不是“广撒网”，又或者是精心筛选结果，恐怕这个回帖机器人还很难被发现。

好在这个“哲学家AI”的三观没有太大问题，在回答关于“自杀”的问题时，没有太过消极，造成不可挽回的后果。

但是谁又能保证AI以后不会出岔子呢？

参考链接：
https://www.reddit.com/user/thegentlemetre
https://gizmodo.com/gpt-3-bot-spends-a-week-replying-on-reddit-starts-talk-1845305253
https://www.kmeme.com/2020/10/gpt-3-bot-went-undetected-askreddit-for.html

“