昨日，国家互联网信息办公室发布境内深度合成服务算法备案清单（2023年6月），从《清单》中可以看到，共有41个算法上榜入列，囊括了大模型、图像生成/识别、视频生成、语音合成/识别、智能客服、人脸融合等在内的多个种类。
图像生成和智能客服算法最受“青睐”
在上榜的41个算法之中，图像生成算法出现次数最高（11次），智能客服次之（10次），表明这两个场景是汇聚了最多算法的应用场景。
从角色来看，此次上榜的算法主要分为服务提供者与服务技术支持者，从主体公司来看，互联网大厂几乎占据了半壁江山，包括字节系、阿里系、百度、腾讯、科大讯飞等。从具体算法来看，则包括美团在线智能客服算法、快手短视频生成合成算法、百度文生图内容生成算法、百度PLATO大模型算法、火山引擎智能美化特效算法、腾讯会议虚拟背景算法、天猫小蜜智能客服算法、讯飞语音识别算法等。
去年12月，国家网信办发布了《互联网信息服务深度合成管理规定》，而昨天新发布的境内深度合成服务算法备案清单则相当于是对先前规定的进一步细化。本次，包括大麦、智谱华章、美团、快手、百度、抖音、阿里巴巴等公司相关的41款算法已经率先拿到“通行证”，而对于未拿到算法许可的应用方，如果涉及违反有关规定的应用，后续可能被采取不予上架、警示、暂停服务或者下架等处置措施。
此外，有意思的一点是，近期频频发布大模型产品和应用的三六零公司却没有任何算法在列。有投资者在互动平台向三六零提问：“中午看到国家网信办发布了深度合成服务算法备案清单，百度、阿里、腾讯、字节这些公司都在清单里面，怎么没有360啊，这是怎么回事？”对此，三六零回应称：根据2022年3月的《互联网信息服务算法推荐管理规定》，互联网平台涉及到算法推荐都需要备案，是备案审核制。公司的全资子公司“北京奇虎科技有限公司”已于2022年8月12日备案并通过了“360搜索信息检索算法”；全资子公司”天津三六零快看科技有限公司”已于2023年2月1日备案并通过了“快看科技内容推荐算法”。目前“360智脑”的相关备案已通过备案报送系统上报。
深度合成算法是把“双刃剑”
所谓深度合成技术，就是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。几年前，换脸等深度合成技术还不足以“以假乱真”，但从今年生成式AI的大爆发开始，通过生成式AI和深度合成算法得到的效果已经让人真假难辨。例如，今年5月8日，包头市公安局电信网络犯罪侦查局发布了一起使用智能AI技术进行电信诈骗的案件，涉案金额超330万元。通报显示，行骗者通过AI换脸和拟声技术，佯装受害者熟人以实施诈骗而未被识别。
因此，在深度合成技术快速发展的同时，也带来了新的安全风险。误用、滥用以及恶意使用深度合成技术和生成式AI得到的数据，将有可能造成个人、企业不同程度的损失，甚至对国家安全和社会稳定造成威胁。
在去年12月份发布的《规定》中，原文的第十九条明确规定，具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照相关规定履行备案和变更、注销备案手续。尚未履行备案手续的深度合成服务提供者和技术支持者尽快申请备案。同时，完成备案的深度合成服务提供者和技术支持者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。
近年来，深度合成技术的快速发展，一方面推动了产业变革，丰富了人们的生活，但同时也给互联网的生态治理带来了全新的风险和挑战，越来越多利用深度合成技术生成的虚假信息被用于混淆视听，也出现了一系列负面的典型事件。如今，随着大模型等技术进一步大幅降低了深度合成的门槛，一些不法分子也开始用这一技术行诈骗等违法犯罪行为，危害人们的安全。
此前，为了推进AI行业监管标准的落地，多项指导意见和征求意见稿相继出台。例如，在去年，由国家互联网信息办公室、工业和信息化部、公安部联合发布的《互联网信息服务深度合成管理规定》，已于今年1月10日正式生效。
而本次清单的发布则有望促进深度合成算法的提供方发挥更到位的责任，足见国家对于本轮人工智能引领的科技变革的重视，也标志着国家对推动大模型等前沿AI技术规范化发展的决心。随着相关监管条例逐步清晰，生成式AI算法的法规标准化步伐正在加速推进，前沿技术将被更合理合法地应用，我国的AI产业生态将更加规范有序，AI产业落地也将被按下“加速键”。
最后，附上本次境内深度合成服务算法备案的具体清单：
境内深度合成服务算法备案清单（2023年6月）
研元社已开通社群分享，欢迎扫码添加小元微信入群！
此群为有效信息共享群，欢迎行业兴趣者、工作者共享信息、互相交流。此群将持续与大家交流共享【人工智能（AI）、元宇宙、AIGC、以及国内外专注于人工智能研发企业的最新动态】
相关文章
