你以为“眼见为实”“耳听为真”但在AI的世界里真相，往往并不是“你以为的你以为”一键换脸、声音合成,让人防不胜防.
AI伪造图像与视频，即Deepfakes，在近年迎来一波发展高潮。
小林是某短视频平台的小网红，拥有一定数量的关注者，日常在平台上发布自己出镜的国风短视频。
被告公司运营了一款“AI视频换脸”微信小程序。不特定用户可以通过该小程序上传个人照片，将视频模板中的人脸替换为照片中的人脸，从而形成脸部特征不同但其他内容与原视频相同的新视频。用户付费成为被告会员后，可以解锁全部视频模板并高清无水印导出新视频。2021年6月，小林发布了一段短视频。视频中，小林身着古风汉服、带着完整的古风妆容出镜。之后不久，小林在“AI视频换脸”微信小程序中发现了含有该短视频中外部形象的视频要素合成模板，通过该小程序，用户可以将视频中小林的脸完整替换为自己的脸，其他元素丝毫不变。小林认为被告的行为侵害其肖像权，遂诉至法院，要求赔礼道歉、赔偿损失。被告辩称，“AI视频换脸”微信小程序的定位是工具收费，视频模板系用户自行上传且免费使用。同时，因为多个用户投诉，经平台审核，发现该账号已发布的服务未设置过滤违法、违规等不当信息内容的机制，案涉微信小程序于2022年10月因违反《微信小程序平台运营规范》被封禁下架，运营时间短，盈利不足万元。
法院判决被告未经原告同意，擅自将含有原告肖像的视频存储在“AI视频换脸”微信小程序中作为可供用户选择使用的合成视频要素模板，系利用“AI”信息技术手段编造或者伪造他人肖像的行为，侵害了原告的肖像权，应承担相应的侵权责任。
2023年5月24日，中国互联网协会便已在官网发文提醒：面对利用AI技术的新型骗局，广大公众需提高警惕，加强防范。基于AI换脸技术的使用是以采集原始人脸和目标人脸图像为基础，那么个人信息安全便成为防范的第一要件。
(1) 加强个人信息保护意识，防止信息泄露，包括不轻易提供人脸、指纹等个人生物信息给他人；
(2) 管理好个人的朋友圈和其他社交平台公开的信息，不随意添加陌生好友，不过度公开或者分享动图、视频等；
(3) 对个人常用软件账号做好防护，尽量避免使用陌生设备登陆，以防止出现被盗号的情况。
(4) 对不常用的APP先进行账户注销，再卸载。
AI技术的发展改变了生活，但这种改变包含了好与坏。每个人在享受AI技术给生活带来的智能、便捷和娱乐性之外，也应当重视个人信息安全的防范，更应当合理使用AI技术，不滥用不违法使用。
当然，我国也已经在逐步探索构建完善的人工智能法律体系，相信法律监管和法律保障会不断跟进和完善。
