披着娱乐外衣的AI换脸，冠冕堂皇地使用着他人的肖像，而其应用对肖像权和隐私的侵害更将随着技术的泛滥而放大。
借助一些低价乃至免费的软件，消费者无需专业知识和技术能力，就可通过终端实现调整速度、摄像头效果、更换背景、实现换脸等操作。
而这些眨眼、摇头等动态行为信息，都是用户不可更改的敏感信息，一旦被非法使用，后果不堪设想。
有演示人员演示了如何利用深度合成中的表情操纵方法的安全漏洞攻击人脸识别系统。
如图所示，只需要一个人的一张照片，利用深度合成中的表情操纵的方法生成的一段伪造的视频。
做出比如说点头、摇头、说话等动作，就可以冒充这个人，轻易的来攻击人脸识别系统，完全达到以假乱真的效果。
要知道，眨眼、摇头等动态行为信息，都是用户不可更改的敏感信息，一旦被非法使用，便会造成严重的后果，例如：个人信息被泄露、被侵权、被别人刷脸导致钱财上的损失、甚至被用在一些涉嫌违法的情况上。
比如在2019年3月份，就有犯罪分子使用深度伪造技术成功模仿了英国某能源公司在德国母公司CEO的声音，诈骗了220 000欧元（约1 730 806人民币），其破坏性可见一斑。
其次，这也在一定程度上成为了色情视频滥觞的源头。
值得一提的是，AI换脸最初的猎奇就是被应用于色情行业。
2017年，美国新闻网站的用户首先上传了经过数字化篡改的色情视频，即这些视频中的成人演员的脸被替换成了电影明星的脸。
此后，网站就成了分享虚假色情视频的一个阵地。
2019年出现的一键生成裸照软件，只要输入一张完整的女性图片就可自动生成相应的裸照。
受害者通常没有追索权，并且，照片上传之后难再删除。这种轻易生成的色情视频将很大程度上损害女性的工作前途、人际关系、名誉和心理健康，造成污名化女性、色情报复的恶果，使女性暴露在某种集体监视之中。
最后，也是智能换脸带来的最严重后果，就是对于信息的真实性形成的严峻挑战。
自从摄影术、视频、射线扫描技术出现以来，视觉文本的客观性就在法律、新闻以及其他社会领域被慢慢建立起来，成为真相的存在，或者说，是建构真相的最有力证据。“眼见为实”成为这一认识论权威的最通俗表达，在这个意义上，视觉客观性产自一种特定的专业权威体制。
然而，PS发明后，有图不一定意味着真相。
智能换脸的出现和流行，让视频也开始变得真假难辨起来：人们普遍认为视频可以担当“实锤”，而现在这把实锤竟可凭空制造，当真伪界限被数字化操纵，娱乐的趣味性与真相的真实性在混淆视听的人工智能生成物问世后变得更加模糊。
这对于本来就假消息满天飞的互联网来说，这无疑会造成进一步的信任崩坏。
如今“眼见为实”已不再适用，人类难以在日常的社会生活中区分数字面孔与自然人，虚假内容轻易取得信任，真伪之辨难上加难，合理的猜测与过度猜忌的界限更加难以平衡。
当人工智能能自动生成以假乱真的面容、声音乃至语言的时候，互联网乃至整个社会又该如何应对这种身份信息的混乱？
在过去，人脸只是涉及肖像权的问题，但在算法高度发达的时代，人脸已不仅仅局限于肖像，它更是延伸到金融、财产、安全、隐私等方方面面。
而这种“变脸”软件在生成特效时均需要导入照片，但产品在进行解读和智能分析的同时也可能泄露隐私，如利用上传的人脸用来做门禁、支付等，每个玩这款应用的用户都有可能会变成受害人。
可以说，不论是还是ZAO，其走红可能是一场猎奇的意外，而下架却是风险衡量后的必然。
不论是从法律规制的角度，还是技术应对的角度，人们都尚未做好准备来迎接这一技术带来的风险和挑战。
任何技术都是双刃剑，泛滥带来的过度娱乐虽然利好了商业，却是一种僭越。
风险中藏着机遇
尽管AI换脸争议不息，但机遇也不停。
首先，这是对创新的渴望和需求。
目前，整个创投行业和互联网行业普遍都认为TOC端的产品已经没法创新了，但实际上市场对创新和技术驱动带来的变化从未停止过，而通过此次“蚂蚁呀嘿”和的事件可以看出，用户仍有巨大的渴望但市场上还未真正出现能够满足用户需求的产品。
在技术革命这块，尤其是在AI技术的应用也给我们留下了无穷大的想象和市场空间，而这些市场机会能不能突破，也是各个运营企业需要考虑的问题。
虽然这种AI变脸的玩法本质上并不新鲜，基本上都是“换汤不换药”，即使是近段时间走红的“蚂蚁呀嘿”也是只是变得更鬼畜了而已。
但不管怎么说，在AI换脸这个方向上，很多人仍然还在探索突破的路上。
另一方面，AI变脸技术的相关应用想要真正走向商业化，首先要解决信息安全问题，平台需要承担监管的责任，相应也要付出极大的成本。
当然，在一些特定的商业场景下，比如专业影视制作、电商购物等，AI变脸或换脸技术还是能发挥很大空间的，比如速度与激情的演员去世后通过换脸技术在银幕上重生。
总之，AI换脸技术在未来的潜力无限。但是要真正进行相关的推广和应用，还需要指定严格的监管政策。
相关文章
