这个年，希望艾玛·沃森(Emma Watson)过得踏实。
之前我们报道过，纸醉金迷的资本主义网站Reddit最近搞出可怕黑技术：用AI技术，把爱情动作片中的主角脸，换成想得不可得的女明星。史称：Deepfakes。
△ “神奇女侠”
更恐怖的是，这种原本门槛不低的技术流举动，被一些别有用心的高手民主化了，升级之后推出了平民版本“FakeApp”，号称人人可用。
门槛大为降低。只要你手握FakeApp，只需输入1到2条明星脸部的高清视频，即使你没有技术背景和编程经验，也能轻松给爱情动作片的主角换脸。
宅男之蜜糖，女星之砒霜。
艾玛·沃森更是被double kill，不仅惨遭花式换脸，而且受欢迎程度远超众星，位居爱情动作片区换脸明星No.1。比大表姐、霉霉，不知要高到哪里去。
△ 艾玛·沃森被换脸图
不过艾玛现在可以松口气了，AI引起的问题，现在，AI正在解决。
“猫抓老鼠”
作为Deepfakes视频最主要的素材来源平台，GIF动图和短视频共享网站Gfycat，基于平台上GIF搜索数据和工具，训练了两个AI模型，让它们来发现并与换脸视频作斗争。
一个取名Project Angora，以一种长毛猫命名；另一个叫Project Maru，源于一种短毛猫。
△ Angora猫和Maru猫
功能上说，长毛猫Angora记忆力好、动手能力强，可以快速找到换脸视频的原版本，或者是不同版本。
之前它被用在相同视频的不同分辨率版本替换上，比如有人将“霉霉”Taylor Swift低质量的GIF上传Gfycat时，长毛猫Angora可以在网上搜索更高分辨率的版本替换它。
而短毛猫Maru则嗅觉敏锐、火眼金睛。它可以弥补长毛猫Angora的不足。
比如一些全新的没被标注过的内容，长毛猫Angora就不知如何下爪，但短毛猫Maru会区分、能标注，它可以通过霉霉的脸，为这段没被标注的“霉霉”打上Swift的标签——实际就是机器自动化标注的形式之一。
另外，如果短毛猫Maru识别到这个素材中主角跟某个名人很像，它也会发挥猫的细致，一帧帧扫“脸”，看是否有诈——毕竟再完美的换脸造假，也很难在每一帧里达到天衣无缝。
总之，长毛猫Angora和短毛猫Maru，都在用AI打造的智爪抓捕漏网“老鼠”。
防不胜防
尽管如此，目前两只猫还没法杜绝“鼠患”，不是喵团不努力，而是鼠军太强大。
长毛猫Angora记忆力好，但如果这不是一张“明星脸”，可能就会一脸懵逼。
短毛猫Maru再聪明，但如果这个视频里完全都是素人，或者确实太像，比如波多姐姐和林姐姐之类的情形呢？事情就没那么简单。
毕竟两只洋猫的核心目的是打假，并不反性。
那怎么办？
目前Gfycat采取了预防为主、防治结合的指导思想。
比如短毛猫Maru扫过素材后怀疑有假(但不能肯定这脸就是艾玛·沃森)，它会先给“艾玛”蒙上脸，然后再通过身体镜头、背景等去其他地方搜查，确认是否是一个被换脸的素材。
不得不说的是，短毛猫Maru的蒙脸技术也非常高超，比如下图，就是一个很容易“丢脸”的美国知名Twitter大V。
但再次强调，两只洋猫只能打假不会反性。
假如两只猫面对的是全网独家的视频，那它们真就无能为力了。或者即便是痕迹外露的换脸视频，但涉及的当事人均来自首发，那Maru也爱莫能助。
(温馨提示：确实无能为力，千万不要以身尝试！)
当然，为了解决两支AI猫无法解决的情况，现在Gfycat还雇佣了一些人类员工作为复核，另外还使用了共享位置、上传位置等数据，去协助判断是否包含恶意伪造。
一刀切？没用
之所以复核“恶意伪造”，是因为还有一些换脸视频并无恶意，甚至还包含了不成熟的艺术小创作。
比如有人通过换脸，把特朗普的尊容换到默克尔身上，表达讽刺之情和黑色幽默，也有人给尼古拉斯凯奇搞了他不知道的角色，此外还有更多合情合法的该技术利用。
更关键的是，容许Deepfakes这样的技术公开应用，总比藏于暗网好得多，未来在广告、选举影响等方面，这个技术都可能会发挥作用——可能是负面的，但也可能是正面的。
总之，技术进步带来的问题，如果一刀切，可能会由最懒方法造成最不可控后果。
最后，AI换脸带来的影响还不止于此。
从Deepfakes出现、FakeApp走红开始，争议和讨论没有停歇，应对举措也没有停止。
对于明显侵权、造成伤害的那些换脸爱情动作视频，Facebook、Pornhub等传播平台都旗帜鲜明予以禁止，甚至一项尺度宽泛的Twitter，此次也站了出来，明令打击换脸爱情动作内容。
而“受益者”Reddit，最近也挥刀自宫，一方面关停了之前用户分享的相关内容，另一方面也明确声明：禁止传播描绘裸着露着状态的任何人的图像或视频，或者明显未经允许创建或发布的任何爱情动作行为，包括伪造的视频。
Reddit之前不太有这样禁止的传统，更何况此次Deepfakes传播带来了4万名之多的用户——用户数在一周内从15000名扩张到55000名。
另外，还有一些奇怪的应用随之发生，比如出现了一个Deepfakes.cc的网站，其中包含隐性软件，在不警告用户的情况下劫持访问者的计算能力用以挖矿。
而运行Deepfakes的机器学习er，通常比普通用户群体有更强大的CPU。
世道真怪。
“
