新京报记者近日调查发现，随着AI技术走红以及门槛降低，售卖明星换脸的淫秽视频已经成为一门地下生意。百度贴吧中部分标榜“换脸＋女明星姓名”的发帖者，售卖通过AI换脸技术合成的视频，价格可4元一部，也可158元打包购买700部视频，多位知名女明星频被提及。
传播淫秽视频是违法犯罪，滥用女明星肖像是侵权，这都是毋庸多言的常识。可是看相关新闻后的跟帖，不少网友忧心的却是，“以后女明星真有艳照门是不是可以甩锅给被换脸”。这当然可能是玩笑话，但也从一个侧面印证：技术本身没有善恶，是人的认知和意图决定了善恶。因而最值得担忧的，其实不是新技术如何应用，而是各方对新技术的认知偏差。
这已经不是AI新技术第一次引发争议。此前，曾有借助AI技术自动“脱掉”女性衣服的APP，也有人想做“原谅宝”产品，以检测女性是否从事过色情行业。而从保护未成年人、净化互联网空间的角度看，“398元包教会，学生打七折”的AI换脸技术，更是毫无下限。
在一些技术主义者看来，他们只需要考虑新技术给社会带来的新可能，而无需考虑可能导致的后果。这样的想法显然太过天真：当技术走出工程师的电脑，走向社会应用，就必须考虑现实应用场景的合法、伦理性，以及不遵守合法、伦理性时可能导致的灾难。
幸好，这两项“创新”很快遭到舆论猛烈抨击，已被扼杀在萌芽状态。“创新者”非但没有取得预想的成功，反而为之付出惨痛代价。这是一个很好的警示。
随着AI技术的发展，追求新机会的创业者们当然可以展开想象力，但在创新过程中，最好记得法律和伦理的边界。不要侥幸于新技术的监管或者法规的滞后，因为，公共伦理、社会舆论同样是无形但却有力的约束。
当然，这是对主观并不存在作恶意图的技术信奉者而言，对于用淫秽视频“定制”女星的这些人来说，他们本就在铤而走险，他们信奉的不是技术，而是利益。无论有没有使用新技术，都在法律打击的范畴之列。新技术的出现，只不过是给他们制造了赚钱的新噱头而已。所以，针对此种互联网乱象，重要的还是加强执法力度。除了供给方之外，还特别需要提醒淫秽视频的购买者。参与定制，甚至提供女性照片给对方，这等于是在参与违法犯罪，面临不可测的法律风险。
互联网发展过程中，若技术被应用于此类违法行为，实际上影响的，是人们对技术本身的信任。像淫秽视频“定制”女星这种事，不会创造什么新的可能和福利，不过是用新技术满足庸俗的嗜好和盈利的冲动。对其批判和加强执法打击力度，该是最好的回应。（敬一山）
相关文章
