你也许会对自己分辨真假人脸的能力很有自信。但是一项新的研究却发现，你辨别人脸的准确性也许只比抛硬币稍好一点，而且你更倾向于选择那张合成的人脸而不是真实的人脸。
来自加州大学伯克利分校的教授哈尼·法里德和英国兰开斯特大学的讲师索菲·J.南丁格尔做了这项研究，其结果最近发表在《美国国家科学院院刊》上。
多年来，法里德一直在探索合成图像，以及人们是如何将它们与真实图像区分开来的。他最早关注的是计算机合成图像的兴起。但近年来，随着被称为 GANs（生成对抗网络）的、基于深度学习的神经网络，在生成真正逼真的合成图像方面愈加成熟，计算机合成图像的发展道路已经加速。”他说：”如果你关注深度造假和 GANs 的技术改进速度，会发现它们比 CGI 整整快了一个数量级。我们可以说，现在的技术已经超出了静止面孔的恐怖谷效应。”
风靡 的视频
其中运用了 技术来合成汤姆·克鲁斯的脸
这种逼真的合成图像带来了多重问题。”欺诈性的在线资料就是一个很好的例子。伪造的护照照片。静态照片容易被一些不法分子所利用，”法里德说。”但是，在视频和音频方面的应用则让整个事情变得更糟糕。”
鉴于技术进步的速度超乎人们想象，法里德和南丁格尔想探究 AI 合成的面孔是否足以骗过观众的火眼金睛。为了了解人们是否能从合成脸中分辨出真实的人脸照片，他们的研究包括三个实验。在识别了 800 张真假人脸的图像后，法里德和南丁格尔要求被试看一看其中的一些图像，并判断它们的真假。但只有在不到一半时间里被试能做出正确的选择，平均准确率为 48.2%。
你认为这张脸是真人的还是人工合成的？
(轻触此处查看答案）
第二个实验显示，即使给被试一些识别 AI 生成人脸的提示，并在被试做决定时提供反馈，也没能大幅提高他们识破的能力。被试识别人脸真假的准确率为 59%，但随着时间的推移，他们的准确率却没有任何提升。“即便有反馈、有让他们做得更好的训练，但人们仍然在挣扎。”法里德说。“这基本上只有一点点帮助，随后准确率就会趋于平稳。”
人们在判断 AI 合成的面孔时遇到的困难并没有让法里德和南丁格尔特别吃惊。然而，他们没有料到的是，当参与者被要求根据其感知的可信度对一组真实和虚假的面孔进行评分时，人们会发现 AI 合成的面孔更加值得信赖，比起真实的人脸，AI 合成人脸的可信度要多出 7.7%，这是一个很小但具有统计学意义的数据差异。
“我们对这一结果非常惊讶，因为我们的动机是找到一种间接的方式来提高人们的判断力，我们原以为真实的面孔会引起那种更值得信任的感觉。”南丁格尔说。
你认为这张脸是真人的还是人工合成的？
(轻触此处查看答案）
法里德指出，为了创造更多的对照实验，他和南丁格尔努力使图片出处成为真假人脸之间唯一的实质性区别。对于每一张合成图片，他们会使用一个数学模型，从真实面孔的数据库中找到在表情和种族上相类似的图片。例如，每一张年轻黑人妇女的合成照片都对应一张真实的照片。
尽管目前 GANs 能合成的逼真的图像类型仍局限于证件照，但南丁格尔说，从杀猪盘诈骗到社交媒体，这种欺骗行为对一切构成了威胁。
她说：“这些图像将可以完美地运用到杀猪盘诈骗。”“像 上利用虚假信息攻击这种事，与其使用默认头像，不如从这些图像里选一个。人们相信它，如果你相信某一事物，你可能更愿意分享它。所以你看到这种类型的图像已可以引发混乱。”
你认为这张脸是真人的还是人工合成的？
(轻触此处查看答案）
那么，我们如何防止人们用合成图像干坏事？Farid 是一种被称为“控制性捕获”（ ）方法的倡导者， 和内容证明以及认证联盟（ the for and ）等公司正在建立这一方法。该技术可以捕捉到任何在具有内置相机功能的应用程序中拍摄的照片的元数据，包括照片拍摄的时间和地点。
他说：“我认为唯一的解决方案是使用控制性捕获技术在记录点上进行认证。”他说。“然后买家就会开始逐渐认识到，任何带有这种功能的东西都是好的，而任何没有这种功能的东西则不够好。我认为这一解决方案确实会产生一些影响。我希望在未来几年，我们能够开始更认真地对待互联网上的信任和安全问题。”
除了合成静止的图像之外，我们也关注到这项研究是在世界上合成媒体技术盛行的时候进行的。澳大利亚的 公司在去年 12 月完成了 5000 万美元的 B 轮融资，用于企业交流中的人工智能头像；总部位于伦敦的 公司在今年早些时候筹资 750 万美元，该公司是伪汤姆·克鲁斯的病毒式传播现象的幕后主导者。南丁格尔说，随着这些技术的不断改进和改变人工智能的可能，研究人员和企业将不得不认真思考相关的道德问题。
你认为这张脸是真人的还是人工合成的？
(轻触此处查看答案）
她问道：“如果风险大于某些新技术的好处，我们是否真的应该这样做？”
“首先，我们是否应该开发它？其次，我们是否应该把它上传到像 这样的地方，让任何人都能得到它？……正如我们所看到的，一旦它在那里，我们就不能再把它收回来，因为人们已经下载了它，而且已经太晚了。”
来源： –and-are-now-more–than-real-ones
相关文章
