随着AI技术的发展，AI换脸不再有门槛，新事物的新奇刺激着很多人“尝鲜”，一些AI换脸App背后的法律风险和侵权纠纷，也浮出了水面。4月11日，国家互联网信息办公室发布《关于公开征求意见的通知》，这也是国家首次针对于当下爆火的生成式AI产业发布规范性政策。
征求意见稿中包含了不少亮点，与社会大众关系最密切的，当数提出对于生成式人工智能产品，提供者需要对生成的图片、视频等内容进行标识。相关App能够主动做到吗？现代快报记者进行了调查。
国家网信办出手，首个生成式人工智能监管规定即将出台
4月11日，为促进生成式人工智能技术健康发展和规范应用，国家互联网信息办公室发布了《关于公开征求意见的通知》（以下简称《征求意见稿》），这也是国家首次针对于当下爆火的生成式AI产业发布规范性政策。
《征求意见稿》共21条，其中明确，生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。
《征求意见稿》提出，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人，要承担该产品生成内容生产者的责任。另外要求，不利用生成内容损害他人形象、名誉以及其他合法权益。
《征求意见稿》中明确，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人(以下称“提供者”)，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。
《征求意见稿》中与社会大众关系最密切的一条，莫过于对于生成式人工智能产品，提供者应当对生成的图片、视频等内容进行标识。
△AI换脸软件进行了标识
AI换脸App五花八门，多数能主动做到换脸标识
人工智能技术本身并没有善恶，但若是被有心之人恶意使用，就会产生一系列负面的“蝴蝶效应”。《征求意见稿》的出现，让AI的“移花接木”有法可依，网友们也是纷纷点赞。“可以预知的隐患，必须先堵上”“希望使用AI的人遵纪守法有道德，别用先进技术扰乱互联网”“这技术更新太快，生成内容的能力太强，真等到泛滥再去治理那就来不及了”……
那么，各大换脸App是否能够主动做到对生成的内容进行标识？4月12日，现代快报记者下载了应用市场内15款涉及到AI换脸功能的App，并对其一一进行了测试。在这些App中，有9款需要充值费用升级到VIP才可使用AI换脸功能。在剩余的6款App中，有的可以三天免费试用，有的则可以直接使用，其中有2款可直接输出无任何标识版本的换脸视频、图片。
在测试中，这两款换脸App可以提供五花八门的风格模板，用户动一动手指，就可以“大变活人”。无论你想要青春少女，还是知性女强人，只需十几秒，软件就可以帮你实现。
这两款可以输出无标识换脸视频的App也有共通点，那就是其软件名称并不涉及AI换脸，乍一看上去只是普通的拍照App。但在用户使用的过程中，却可以使用换脸功能来制作视频和图片。
△未进行标识的AI换脸视频截图
视频解封、P图换脸，AI技术带来的安全隐患真不少
AI技术在改善人们生活的同时，也面临着万千用户个人隐私的安全问题。
2023年3月，广州一名女子在网上晒出自己在地铁列车上的照片，被别有用心的网友下载，并用AI技术“一键脱衣”。女子“除衣”后的照片被广泛传播，引发大批网友的关注。而这只是冰山一角，在此之前，很多国外一线女明星也都被迫“出镜”，换脸成不雅影片的女主角。
2023年3月28日，江苏首例“人脸解封”侵犯公民个人信息案，在常州宣判。常州经开区人民法院经过审理查明，2021年8月至2022年2月间，被告人郑某在被害人不知情的情况下，从他人处购得包含被害人姓名、身份证号码、身份证照片、视频动图等个人信息，随后在QQ、微信群联系客户接单，为涉嫌通讯网络诈骗、网络赌博等违法犯罪被封的QQ号提供解封服务，共从中获利人民币2万余元。
最终，法院判决被告人郑某因犯侵犯公民个人信息罪，被判有期徒刑八个月，缓刑一年，并处罚金人民币4万元，作案工具予以没收。
律师分析：《征求意见稿》填补了该领域立法的空白，对整治乱象意义重大
如何让AI技术“向阳发展”？北京康达（郑州）律师事务所律师姚坤认为，《征求意见稿》的颁布，填补了我国在该领域立法的空白，对于整治行业乱象意义重大。
姚坤表示，“尤其是提供者利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务，应当对生成的图片、视频等内容进行标识这一点，对违反相关法律法规，生成式人工智能服务的组织和个人进行追责时，有重要作用！”
江苏网警也曾发布提醒，网络时代大家在社交软件中最好坚持“四不晒”。即不晒个人或家人照片，不晒位置信息，不晒行程票据，不晒车牌、门牌。如果受到AI换脸照片的敲诈威胁，一定要冷静，保存证据是关键。
现代快报+记者季雨
相关文章
