常言道，眼见为实。然而，随着人工智能的迅猛发展，一些使用深度伪造技术制作的换脸视频也在网络上屡见不鲜。这项技术甚至被别有用心的人利用，成为诈骗、诬陷等罪恶勾当的工具，给社会和个人带来严重威胁。
魔高一尺，如何破解？
在世界人工智能大会上，依托清华大学人工智能研究院成立的产业化公司——北京瑞莱智慧科技有限公司（），发布了一款能够一秒识别真伪的鉴别神器——深度伪造内容检测平台，让“假脸”无处遁形。
一、律之以法
几十万年以来，人脸都是识别人类身份信息最为显著的特征。然而，随时AI技术的飞速发展，这一切正在被深度伪造技术所瓦解。
近几年来，非法利用AI技术伪造他人肖像吸引流量牟利，甚至从事侮辱、诽谤、网络诈骗、色情宣传等违法犯罪活动的案例已屡见不鲜。据一家国外机构监测到的结果显示：自2019年以来，深度伪造视频的数量呈指数级增长。
深度伪造技术给国家、社会和个人带来的风险，引起了世界各国的高度重视，我国也重拳出击。2020年5月28日，十三届全国人大三次会议表决通过了《中华人民共和国民法典》，其中第1,019条规定“任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外”，总体要求了禁止利用信息技术手段伪造的方式侵犯他人的肖像权和声音。
在法律层面，AI作恶要有“紧箍咒”来约束；在技术层面，“魔高一尺”还要有“道高一丈”来抗衡。
二、束之有“术”
“深度伪造技术正在不断演进迭代，亟需采用主动技术防范及预警检测手段。”在2021世界人工智能大会上，清华大学人工智能研究院的核心孵化企业北京瑞莱智慧科技有限公司副总裁唐家渝向记者介绍，该司已研发出了“AI换脸术”的克星——一款破解深度伪造内容的检测产品深度伪造内容检测平台。
“门槛低、影响大、变化快”是深度伪造技术的显著特征，且肉眼难以识别，更无法大量检测。
针对如上痛点，基于第三代人工智能技术研发出的，能够通过研究深度伪造内容和真实内容的表征差异性辨识、不同生成途径的深度伪造内容一致性特征挖掘等问题，快速、精准地对多种格式与质量的图像进行真伪鉴别。
图 ｜ 检测结果展示：红色框代表判断为虚假人脸，绿色框代表判断为真实人脸
三、检测性能工业级
检测准确率无疑是衡量该平台价值最为重要的指标。
据唐家渝介绍，检测效果主要受到两个因素的影响：数据集多元化程度和算法可靠程度。深度伪造检测平台算法基于大数据量进行训练和测试，截至目前，数据量已达到千万级，数据集已覆盖三大类，包括：学术深伪数据集、网络深伪数据集和自研深伪数据集。同时，通过结合贝叶斯学习框架和深度神经网络，来估计模型在预测新样本时的不确定性。以上，有效保障了深伪检测算法的泛化能力。
在测试结果方面，在学术数据集和ZAO等主流方式生成的网络数据集中，已达到99%以上的准确率。而在实际应用中，的检测准确率也已达到业界顶尖水平，远超 此前举办的检测挑战赛所公布的最好成绩。
此前，团队在国际安全极客大赛 2020 首届 CAAD 虚假人脸 AI 识别大赛上，以绝对比分优势夺得冠军；在网信办与公安部共同指导的第二届“中国人工智能·多媒体信息识别技术大赛”中，斩获“创新之星”奖以及深伪检测竞赛A类奖。此外，在深伪相关领域也已发表顶级会议和期刊论文十余篇。
天下武功，唯快不破。超高的准确度，还需要速度来支撑。
深度伪造内容检测平台，可实现每帧画面的检测时间仅用时30毫秒。同时，还支持横向拓展与集群部署。检测完毕，平台还支持生成检测报告。
图 ｜ 深度伪造内容检测平台检测报告示意图
四、AI界的安全之盾
深度伪造技术的滥用，给个人生活、国家安全和社会稳定带来诸多问题和挑战，而且随着仿真精度的提升，这种问题有愈演愈烈的趋势。
自成立以来，就致力于提供安全可控的第三代人工智能技术，从根本上增强人工智能的安全性、可靠性及可信性。据唐家渝透露，针对深度伪造技术的防范，目前已与工信部、公安部、国家互联网应急中心、工信安全中心、中国信通院、公安三所等多家机构展开深入的项目合作。
一流企业做标准。此前，与国家工信安全中心联合制定了我国人脸模型算法自身安全相关的第一个标准《信息安全技术人脸比对模型安全技术规范 》，作为第二编写单位与信通院在工信部网安局指导下联合编制了《人工智能安全框架（2020年）》蓝皮书。此外，目前也参与包括机器学习算法安全相关的国家标准，以及人工智能合成音视频、人工智能生物特征识别相关的行业标准等多项标准的制定工作中。
唐家渝表示，未来这款产品将在网络虚假内容甄别、人脸资料审核以及影像物证真实性检验等实际应用场景中发挥强大作用，也将持续迭代技术、打磨产品，和相关单位一起，全力以赴，确保在这场深度伪造的“攻防战”中保持始终立于不败之地。
补充资料：
关于瑞莱智慧
北京瑞莱智慧科技有限公司（简称“”）是依托清华大学人工智能研究院设立的人工智能企业，致力于提供安全可控的第三代人工智能技术，加速安全、可靠、可信的产业智能化升级。
公司由清华大学人工智能研究院院长张钹院士、清华大学人工智能研究院基础理论研究中心主任朱军教授共同担任首席科学家。团队坚持底层创新，敢为人先，基于第三代人工智能技术，从根本上增强人工智能的安全性、可靠性、及可信性。基于自主可控底层框架，提供一系列AI基础设施平台，为高价值场景智能化升级提供可靠的一站式基础保障。
致力于建设安全可控人工智能应用生态，推动人工智能落地全新的关键应用场景。目前已经落地于金融、能源、制造、互联网等领域，提供金融智慧风控、智慧理财、工业设备预测性维护、人脸识别系统安全检测与增强等产品和解决方案。
关于深度伪造
“深度伪造”，也被译作“深度造假”，译自英语中新出现的一个组合词，是计算机的“深度学习”（）和“伪造”（fake）的组合，出现于人工智能和机器学习技术时代。它被称作一种合成媒体（ media），是通过自动化的手段、特别是使用人工智能的算法技术，进行智能生产，操纵、修改数据，最终实现媒体传播行为的一种结果。
通俗理解，“深度伪造”指的是把图片和声音输入机器学习的算法，从而可以轻易地进行“面部操作”（face ）——把一个人的脸部轮廓和表情放置在其他任何一个人的脸上，同时利用对声音的逼真处理，制造出实为合成却看似极真的视频——用以躲避识别、混淆视听、娱乐用户，以及实现其他虚假宣传的目的。
相关文章
