AI换脸电信诈骗，有人10分钟被骗430万。5月23日，据“平安包头”微信公众号消息，近日内蒙古自治区包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，骗子通过智能AI换脸和拟声技术，佯装好友对福州市某科技公司法人代表郭先生实施了诈骗，10分钟内被骗了430万元。2023年5月24日，中国互联网协会官网发文表示，当前利用“AI换脸”“AI换声”等虚假音视频，进行诈骗、诽谤的违法行为屡见不鲜，提醒公众警惕“AI换脸”新骗局。详见
今年以来，和GPT-4等技术的应用，成为了信息科技领域的热点，引起公众对AI技术的广泛关注和热情。但伴随着深度合成技术的开放开源，深度合成产品和服务逐渐增多。
据中国新闻网5月22日报道，近日，有不少网友在观看电商平台的直播时，发现卖货主播竟是一些当红女星迪丽热巴。但再定睛一看，这些带货“明星”竟然是使用了AI实时换脸技术的普通主播。
据《法治日报》4月18日报道，浙江杭州检察机关曝光了一个“女神群”，群里发送的淫秽视频有不少是犯罪嫌疑人使用“AI换脸”技术合成的，还可以根据顾客需要“私人定制”；河北高阳警方破获了一起制作、贩卖、传播淫秽物品牟利案，犯罪嫌疑人通过社交群自学“AI换脸”技术，用明星形象制作淫秽视频在网上以每10分钟300元的价格售卖……
近期，有关“AI换脸”的案件和新闻引发社会关注和担忧。正如有人说讲，眼见为实的时代过去了。
01
AI换脸：以深度学习为逻辑的数字化装术
AI换脸技术（AI face swap）是基于人脸图像识别的深度伪造技术，主要是通过人工智能的人体图像合成技术，将视频中的角色进行“改头换面”。
“AI换脸”早期多在影视作品中使用，近年来随着人工智能的发展，技术门槛逐渐降低，应用场景越来越多，在满足人们猎奇、美颜、社交等需求的同时，“AI换脸”的泛滥使用也饱受争议，其背后的隐私泄露、诈骗风险等令人担忧。
AI换脸技术属于深度合成技术的一种类型，按照《互联网信息服务深度合成管理规定》给出的定义，深度合成技术是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。其中包括人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术；图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术等。
2017年，美国的社交新闻论坛一位名为网友将情色电影中的女主角换脸成好莱坞明星盖尔·加朵（Gal Gadot），这是AI换脸技术首次出现在公众视野当中。后来由于大量投诉者表示不满，其账号被官方封禁，而此后的AI换脸技术则以他的名字命名为“”。
“AI换脸”走入中国大众的视野是在2019年8月底，一家疑似陌陌旗下的三级子公司推出了AI换脸软件“ZAO”，用户注册后上传照片，只要提供一张照片就能成为影视剧的男女主角，让众多网友趋之若鹜。然而，因侵犯版权、侵害隐私、危害数据安全等问题，“ZAO”很快被下架处理。
2021年3月份，魔性变脸视频的“蚂蚁呀嘿”刷屏各大社交平台，“蚂蚁呀嘿，蚂蚁呀呼，蚂蚁呀哈……”这款火爆全网的AI换脸软件从2月底冲上苹果App Store免费榜第一，到3月2日凌晨从App Store中国区悄然“下架”，只用了不到一周的时间，其原因也是换脸技术涉及隐私安全。
其实，影视行业比较早的运用了AI换脸技术。
2008年，电影《返老还童》运用AI面部表情捕捉技术将主角布拉德·皮特的表演与3D数字模型结合，实现了让主角跨越老年、中年、青少年和婴儿四个人生阶段的“返老还童”般演绎。
2019年，电影《双子杀手》由威尔·史密斯和“年轻时的自己”主演，后者是一个100%数字化人物，拍摄时史密斯在脸部布满跟踪点，再通过面部捕捉系统把“老脸”置换成“年轻脸”。
另一个较有争议的AI换脸技术应用是让已经离世的巨星“起死回生”。利用AI换脸技术，只需要已逝演员的全脸照片就可以让他们重返荧幕，虽然看上去与真人相差无几，但始终缺少灵魂。2013年保罗·沃克意外去世，由他参演的电影《速度与激情7》采用替身加换脸完成拍摄。
在国内，AI换脸还被用来挽救劣迹艺人参演的影视作品。
近年来，娱乐圈频繁爆出“塌房”事件，参演艺人一旦成为“劣迹艺人”，不仅未播出的作品必须将其除名，过去播出的作品也可能被牵连下架。近期播出的反腐剧《风雨送春归》原名《纪委书记》，杀青于2017年，由王志文和某位赵姓演员主演。2019年，赵姓演员因发表不当言论成为“劣迹艺人”，也因此影响到了其主演的《突围》《风声》《光荣时代》等电视剧。为了顺利播出，《风雨送春归》中赵姓演员的戏份，由于震重新换脸补拍。
02
AI换脸的风险与后果
①存在侵权的风险
擅自使用他人肖像制作“换脸”视频，可能会涉嫌构成侵犯他人肖像权、名誉权等。对于AI换脸技术的泛滥，首当其冲的即是知名艺人和政治家。著名影星斯嘉丽·约翰逊和盖尔·加朵等人的面部信息都曾被恶意用于不雅视频，并在网络平台广泛传播，美国前总统特朗普也曾多次被网友通过AI换脸“恶搞”。在国内，杨幂、刘昊然、林俊杰等人的AI换脸视频都曾在网络平台引发关注，2021年8月刘昊然工作室发布声明称，有人利用“AI换脸”技术传播对刘昊然带有侮辱性的视频、截图，同时含有诽谤，对于刘昊然而言侵权人同时构成了肖像权和名誉权侵权。
②沦为诈骗的工具
属于深度合成技术的“AI换脸”，容易被不法分子用于制作、传播违法或不良信息，甚至仿冒他人实施诈骗。在个人信息“裸奔”的时代，普通民众的信息同样容易被窃取，一旦犯罪分子掌握了这些信息，便可对被害人进行“精准出击”。电视剧《猎罪图鉴》中的犯罪分子通过AI换脸技术假扮被害老人的儿子进行诈骗，老人将毕生积蓄都转给了“儿子”，最终走投无路，带着老伴跳海自尽。近年来，AI换脸技术已频频被不法分子当作诈骗工具。犯罪分子首先通过买卖个人信息、社交平台搜集信息甚至盗取QQ或微信号等方式盗取个人信息，如照片、视频、声音等。再使用AI换脸技术与被害人进行视频，以各种理由实施诈骗。
③滑落失实的陷阱
真实是信任之源，AI换脸技术将公众置于虚实难辨的信息场景之中，打破“人脸即真实”的社会共识，造成认知层面上的“失真”。AI换脸音视频在媒体平台上的广泛传播将公众从原先真实人脸的场景中抽离，切换至真实与虚假人脸难以辨清的新场景，逐步打破了公众以人脸作为真实凭证的传统认知。而智能时代下的电子证伪机制却尚未建立，在动态的信息传递过程中公众缺乏技术手段辨别真伪，也就无法建立新的关于“真实”的认知，被动地陷入“失真”状态。AI换脸技术造成的“视觉失真”也即数字时代中“真实”的具体内涵在新技术冲击下不断消解的体现，而AI换脸技术应用于新闻行业也对新闻真实产生了新的挑战。2018年4月，就有人制作了一段奥巴马的虚假讲话视频，视频里，奥巴马“发表”了各种政治不正确的言论。
03
AI换脸的多元规治之路
近些年，AI写作、AI换脸等深度合成技术迅速发展，令人喜忧参半。
人们一边惊叹于技术的先进拓展了人类的想象，一边又担心它模糊现实与虚拟的边界。面对这把双刃剑，如何在技术创新与风险防范间找到平衡并不简单。有学者称之为“科林格里奇困境”（’s ）——当技术的改变相对容易时，其不良后果却难以完全预见；而当不良后果变得明显时，采取行动往往为时已晚或成本过高。
要让科技更好的为人类服务，那么科技的发展也应在规则之内。
①完善AI换脸技术监管体系。针对AI换脸乱象，近年来，国家网信办、各地网警、检察机关等协调配合，加大整治打击力度，出台了多项政策法规。2022年11月25日，国家互联网信息办公室正式公布《互联网信息服务深度合成管理规定》并于2023年1月10日起开始施行。《规定》对于深度合成技术在互联网中的应用作出具体说明与严格规定，对人脸生成、人脸替换、人脸操控、姿态操控等虚拟人物图像的开发与应用作出了规定，为AI换脸等深度合成技术的应用厘清底线。2023年4月11日，国家网信办发布了《生成式人工智能服务管理办法（征求意见稿）》，共21条，对生成式人工智能产业给出较为详尽的规定，其中包括定义、准入资格、责任义务和处罚措施等。
②强化网络平台主体责任意识。平台对使用上传视频服务的用户信息应当进行严格审核，AI换脸服务提供商也应在图片视频显著位置标注“人脸合成”字样以提醒大众，或留下技术水印实现可追溯、防篡改等。今年5月9日，抖音平台发布的《关于人工智能生成内容的平台规范暨行业倡议》提出，各生成式人工智能技术的提供者均应对生成内容进行显著标识，以便公众判断。
③加强公众的智能素养教育。加强“AI换脸”相关风险宣传和法律知识宣传，避免公众被AI欺诈，引导公众合法安全谨慎使用AI换脸软件，保护自己生物识别信息，发现类似侵权违法现象，积极举报，勇于维权，还网络一片清朗，让科技得到合理的发展和利用。
作为一种基于深度学习算法的信息技术，人工智能本身是中性的，但背后操作、设定、使用的是真实的人，AI可用来兴利向善，也可用来牟利作恶。这也提醒我们，普及人工智能技术时，必须以法律和道德加以规范，避免滥用、泄露和侵犯个人信息等行为。
相关文章
