近日，因“AI换脸”导致的诈骗案件引发关注。伴随着AI大模型的发展，“换脸技术”的应用范围越来越广，技术的突破还使得换脸后的人物表情、动作细节更为逼真，一旦被不法分子利用，可能带来严重危害。
记者经调查发现，网上“AI换脸”软件的获取非常容易。利用此类软件的法律边界在哪里？如何做好事前监管？
网上出现“AI换脸”付费软件
在网上，演示换脸软件使用方法及效果的教程比比皆是，其中不少“AI换脸”软件需要高价付费使用。
记者根据搜索结果联系到一名开发者，他向记者提供一段使用其软件实现换脸的示范视频——双视窗页面左侧是换脸之前的原始视频，右侧则是换脸之后的视频。肉眼来看，换脸之后的“数字人”口型、表情、微小的动作几乎毫无破绽。
在其销售网站上，该软件开发者还展示了如何将两位知名女星的眼睛和嘴巴“拼接”到一起，生成全新“数字人”的视频。
这一付费软件提供从初级（LV1）到超级（LV4）再到全套（LV5）的不同版本。以初级套餐来说，499元提供软件界面、视频指导、换脸模型等，如果花2888元，则可得到全套（LV5）等级的视频换脸模型。
网络上提供多种不同等级的换脸软件产品
AI大模型可集成多种功能
打造“数字人”
记者发现，该网站底部没有任何文字显示其已经过备案。卖家也十分谨慎，全程仅用文字交流。他表示，与初级（LV1）至超级（LV4）套餐相比，全套（LV5）版本迭代更多，能力更强，也可以理解为换脸效果更为逼真。同时，不仅可以实现视频换脸，还支持直播换脸。
记者进一步询问能否根据自己的需求换脸时，软件开发者表示：“想换什么样的脸拿素材训练就可以。”
软件开发者与记者的聊天截图
一位从事AI开发的技术人员表示，这意味着可能会有更多难以控制的风险。“集成文生图、文生文，文生音频、文生视频、换脸，这样的功能结合起来，就可以打造出一个完全崭新的‘数字人’或者叫‘AI人’，监管成本和难度高了好几个数量级。”
相关文章
