本质上，技术无罪，关键在于用技术的人。
一念成佛，一念成魔。药可以用来救人也可以用来杀人，技术也是如此。
实际上，科学伦理一直就是科学界的核心问题。
比如禁止“克隆人类”与“人类基因编辑”这些违反科学伦理与共识的方向。
再比如用人脸识别或者隐秘、红外功能偷拍女性。以及这类收集大数据来单方面识别出情色视频中的女性。
正因为科技不具备道德，所以，利用科技者更应有道德。
人们对于不同领域的技术应用一定会有不同的担心和考虑。
每个人都应该了解，先进的技术不应该成为那些无下限的人的“武器”。
所以，在科学技术发展的过程是需要伦理约束的。应该要科学让技术去造福人类，而不是伤害人类。
相关新闻
明星被AI换脸私密视频 造谣有不正当关系AI技术太牛
AI技术是什么？其实它就是人工智能， ，缩写为AI。
AI之所以被关注，其实源于它的换脸技术。
1月23日，有网友发现刘昊然被AI换脸之后，制作了私密视频，并且造谣他与别人有不正当的关系，还在网络上大肆传播。很多人都信以为真，然而有细心的网友发现，刘昊然本人胸口是有痣的，并且耳垂也没有外翻。
此事在网络上引起了广泛讨论，刘昊然工作室于1月22日发布严正声明，澄清谣言，有力地反驳了网络上的不实言论，并且已经交给律师处理。
刘昊然不是第一个被换脸的明星。
之前就有人把《射雕英雄传》里，朱茵扮演的黄蓉换上了杨幂的脸：
就动图来讲，足以以假乱真。以前，常说无图无真相，现在连视频都不能信了。
有人说，AI换脸术是把双刃剑，它可以用于影视制作，但也可能被人恶意使用。事实上，有影视特效公司就对这项技术非常感兴趣，可以提高后期制作的效率和节约成本。
尼古拉斯·凯奇和自己的“AI分身”一同登台电视节目
对于用于影视制作：
有网友认为，AI换脸是对原演员的不尊重，甚至会导致部分流量明星完全可以不用担心演技，用替身拍，在用AI技术换脸。就此来讲，是不是影视公司也可以不用担心劣迹艺人了，当出现劣迹艺人时，直接用AI换脸技术把人脸换了，影片照常上映？
对于可能被人恶意使用：
其实在AI换脸技术被得知的时候，在互联网这样的环境里，时时刻刻都有人想践行一些“大胆的想法“，于是，一夜之间，盖尔加朵、斯嘉丽约翰逊、艾玛沃特森等女神都突然有了”新作品“，可谓”一种难求“。这其中有些视频处理的质量还很高，几乎完全看不出是脸是被移植上去的。
AI换脸技术还引起了女明星的集体恐慌，19年就有多家媒体报道过多位女明星不雅换脸视频被公开售卖。
现在，连男明星也要恐慌了，刘昊然被AI换脸私密视频恐怕不是唯一一个。
虽然，民法典规定，未经本人允许，利用AI换脸技术伪造他人的脸恶搞，是构成侵犯肖像权的。任何组织与个人都不能丑化、污损他人形象，尤其是利用高科技技术手段，不可知法犯法。
但这只能是在发生时，惩罚对方，而阻止不了那些有心人。
如何才能防范自己成为AI换脸技术的受害者呢？
AI换脸术 让你成为色情片主演
是祸害，还是造福？能回答这个问题的，还是使用这项技术的人。
设想有一天，当你打开手机，收到一段视频，你的脸被安在了色情电影的主角身上……
这不是天方夜谭，这是印度记者拉娜·阿尤布的真实遭遇。由于得罪了当地的恶势力，有人便用技术合成视频来诋毁她。
是一种利用机器学习和人工智能，操纵或者伪造具有极高欺骗性的视觉和音频内容的技术。自从它诞生以来，最臭名昭著的应用就是色情电影“换头”。
除了作恶，也有“善”的一面，比如在电影拍摄中的应用，或者零售业提供的在线试穿功能，以及大量的娱乐APP能够让你简单地做出搞笑的视频片段。
从当前技术的应用看，利用它作恶，远比造福社会容易得多。所以，是如何做到“以假乱真”的？什么技术能够制衡？“深度造假”和“反深度造假”，哪一方能最终获胜？在获取真相越来越难、欺骗越来越容易的时代，普通人该如何面对？
是祸害，还是造福？图片：CFP
刘都统：可能有的人没有听过这个概念。是一个合成词，前半部分“Deep”代表深度，“fake”就是造假，连起来就是深度造假的意思。为什么这个话题值得聊，因为这个技术引发了一系列的问题，引发了全球关注。其中还包括很多恶性事件。
贺哥：没错。比较引人注目的是用这项技术制造“换脸”的“小电影”。把色情片女主角的脸换成当红女明星，比如漫威电影中黑寡妇扮演者斯嘉丽就是受害者。她本人对这种事又气愤又无奈，自己的脸被贴到了别人身上，无可奈何。
刘都统：维权都不知道找谁。
贺哥：视频网站确实删除了，但是很难在全网删干净。
刘都统：早在2018年的时候，印度那边有一个叫拉娜·阿尤布的女记者，因为要为一个被奸杀的8岁女孩伸张正义，得罪了当地的人民党。该党领导人支持罪犯，声称由于他是印度教徒，所以被诬陷。这位女记者显然不同意这种看法。后来女记者遭遇了一系列非常恶劣的事情，首先是很多人发图片和推文来攻击她，然后有一天中午，她正在和朋友喝咖啡，收到一段视频，打开一看，是一段色情视频，主角就是自己。
贺哥：这太恶劣了。
刘都统：这是非常典型的用技术进行换脸操作，然后对目标进行攻击诽谤。关键在社会上对一个女性发动这种攻击，影响非常深远。后来持续地有人在脸书上骚扰她，甚至打电话骚扰她。
贺哥：还有一种基于的应用，就是对身边熟悉的人拍照，然后可以用技术把目标的衣服脱光，看她（他）的裸照。还有一项调查显示，虽然很多人的性幻想对象是明星，但是也有相当多的人，他们对身边女生的兴趣更大，经常用她们做假想，这种现象比例高达63%。
刘都统：所以到底上是怎么变成一个作恶工具的？这得从它诞生说起。其实，就是伴随着在色情电影中的应用诞生的。早在2017年，在国外有一个非常有名的科技类论坛叫，当时有一个叫的用户，他就在论坛上共享开源代码来转换别人的脸部，用这种技术替换色情电影女主角。后来就把这种技术叫成了。那么，这个技术到底怎么完成换脸的？
贺哥：核心技术是对抗生成网络，英文也叫GAN，这项技术在2014年被发明出来。从原理上说，它就是基于深度学习的两套系统，两套算法。一套用来生成假视频，另一套叫对抗模型，不断检测这些生成的假视频。直到对抗模型无法检测出第一套模型在造假了，视频也就合成了。这很像金庸小说中的顶级武学——左右互搏之术。自己和自己打，不断提高造假的质量，这是一种无监督学习，不需要人的参与，整个过程就是人工智能的自我磨炼。
刘都统：所以这个系统先进的地方就在于一边造假，一边检测。自己既是小偷又是警察，通过警察不断磨炼小偷的技术，然后把技术磨炼的非常高超。
贺哥：是的。这种人工智能的训练过程还需要大量的数据集。也就是说，能用来训练的图片、视频越多，训练出的AI造假能力越强。
刘都统：这也就从某种程度上解释了，为什么一些公众人物更容易被换脸，因为他们的出镜机会太多了。
贺哥：对，素材太多了。
刘都统：这很容易让人把和人脸识别联系到一起。现在非常令人担心的是，人脸识别的数据丢失，或者被盗用，会不会成了别人做、换脸的素材？
贺哥：非常有可能。现在一些技术的算法，就是基于公共数据库来训练，也就是公共的人脸数据。
刘都统：除了在色情电影上有应用，还有其他不好的影响。比如在2019年，有人用技术合成音频诈骗。当时英国一家能源公司的首席执行官接到了母公司CEO的电话，让他给一家匈牙利银行账户汇款22万欧元，他被骗了。电话里的CEO，其实是骗子用模拟的声音。
贺哥：这种情况，应该提前去验证一些问题，确认对方身份。
刘都统：对。一些安全专家建议，如果你的企业非常担心被诈骗，那么在开电话会议的时候可以对暗号。比如我们看的历史剧，像是《三国演义》里边，“今晚的口令是什么？”回答说，“鸡肋！”这就知道是不是自己人了。
贺哥：咱们讲到的这些案例，想做到还是有一定技术门槛的。制造假视频的人，自己要懂一些技术，也要有强大的硬件去运行人工智能程序。但是现在要特别注意的是什么？现在用的门槛越来越低，很多开放的论坛或者开发出来付费的软件，让普通人也能用。
刘都统：这可能会造成谎言大流行。比如生成我和某个明星的合影去炫耀。所以现在就有一个问题。俗话说“道高一尺，魔高一丈”，产生了这么多不好的影响，有没有什么技术能反制它？
贺哥：自从诞生之后，就自然而然有人去研究反向破解。造假和打假，总是相伴相生的。本质上说，还是要用AI对抗AI，因为人眼是无法分辨造假的。
刘都统：关于AI对抗这个事情，首先要说一个结论：打假永远比造假难。
贺哥：打假会滞后。只有造假的东西出来了，打假才能针对性地开发技术。与此同时，本身的技术也在不断提高，一旦你用新技术去识别它，它就把你的技术放到自己学习系统里，学会规避它。
刘都统：没错。这里非常重要的一点就是，刚才提到了的机理，相当于一个既是小偷又是警察的人，它能自己训练自己。所以在论坛上，有一个关于侦测的帖子，下边有一句被置顶的评论，原话是这么说的：任何一种反的技术，都会让越来越强大。
贺哥：用来反的技术叫检测器。现在一些研究者用的方法是检测视频中的人的生物学特征。比方一项研究，人心跳的时候，肤色会有明暗的变化，这种变化肉眼看不出来，但是高分辨率的机器可以分析出来。所以这种技术就是分析视频中，人脸上不同部位的明暗变化是不是同步，如果是真实的人，则是一致的，合成的人像不一致。就当前的技术，合成视频时，还无法渲染到如此精细的程度。
刘都统：应该说暂时还做不到，未来迟早能做到。
贺哥：这个方法识别率很高。相关的科学家在全网的一些大型数据库测试，90%的视频可以分辨出真假。当然，造假者也可以通过阅读论文掌握其原理，然后让学会这个技术，改进造假手段。
相关文章
