又一个热门 AI 应用,眼看它开源完代码,眼看它火了,眼看它下架了。
过去几天,你一定注意到了 AI 生成动图的这股风潮。从抖音到微博,人们齐唱「蚂蚁呀嘿」的画面不断刷屏。
全网都掉进了「蚂蚁窝」。然而在火了不满一个星期之后,造出新梗的应用 却于 3 月 2 日突然下架了。有网友表示,目前 只在中国区 App store 下架,其他地区仍然可以正常下载。关于下架原因,目前官方并未说明。
在商店内搜索 ,显示的只剩下其他应用了。
AI 生成视频的风潮这么快又结束了?不知在短短几天内 经历了什么。
发展很快,但爆红来得有点突然
是一款摄影与录像类别的变脸应用,服务器设在国外,发行商为 , Inc。不知为何,这款应用在 2 月 17 日在中国区 App Store 的排名中开始出现上升趋势,直到 2 月 25 日问鼎 App Store 应用免费榜榜首,随后连续数天稳居总榜第一名。
它并不是一个刚刚出现的应用,2020 年 4 月,机器之心曾介绍过换脸项目。利用这项技术,你可以将自己的脸实时替换成别人的脸,在视频会议中的表现十分流畅。迄今为止这个项目已在 上获得了近 1.2 万的 star 量。
最初是用于开远程会议时换脸的,比如让「马斯克」突然加入会议。在疫情期间,这样的应用想来很有市场。
项目链接:
这款软件的下载和使用是免费的,如想要在成品图上去水印则需要支付订阅费。可以看到自今年 2 月中旬开始,这款软件突然经历了下载的高峰期,在中国区下载数量已经超过了 150 万次。
直至 3 月 2 日, 悄然下架。
隐私安全堪忧
这给人一种似曾相识的感觉, 并不是第一款下架的 AI 应用。
2019 年陌陌推出了一款名为 ZAO 的 AI 换脸应用,ZAO 在上架第二天就冲到应用免费榜第二名,之后更是稳居免费榜榜首,堪称现象级应用。但 ZAO 令人印象深刻的不只有爆红,还有它的匆匆下架。
ZAO 的用户协议条款让无数用户担心。一方面技术滥用会导致虚假信息泛滥;另一方面,如使用明星等他人的照片来制作相关视频,就可能涉及名誉权、肖像权、知识产权等法律问题。此外,个人隐私泄漏可能会涉及资产安全、人身安全等问题。
如今, 有如 ZAO 的昙花一现,让人不禁猜想其下架原因,再次唤起人们对隐私安全的担忧。虽然 AI 换脸技术已日趋成熟,但其背后存在的安全隐患为它走向商业化带来了不小的阻力。AI 变脸软件需要更多安全保障,真正成为大众娱乐应用尚需一些时日。
中的技术方法
从开源项目中我们可以了解到, 应用中的技术主要来源于意大利特兰托大学的研究者在去年三月提交的一篇 arXiv 论文《First Order 》,无需事先对目标图像进行任何训练,就能用另一个人的视频来替换自己的图像。
在使用 时,系统需要借助 等其他换脸技术,在想要交换的脸部图像上对算法进行训练。通过在目标图像的相似类别上训练算法,该模型支持实时换脸操作。
一阶运动模型整体框架。
整个流程也非常简单:
先导入一张静态图片,照片中的五官会随着视频中真人动作做出相应的变化,比如挑眉毛、眨眼睛、说话等动作,看起来就像是换了个人。
很快,开发者就将它做成了 app,可在苹果商店下载。3 个月的时间从 项目变成应用,对于一个小团队来说不可谓不快。不过它为人们广泛所知的时候却已是 2021 年了。
曾经苹果 App Store 上的 ,一开始还是个人名义推出的。
这款应用的使用方法同样非常简单:你只需要打开 app,选择一张想要处理的图片,确定人脸位置后选择动作模板,即可开展一番表情操纵,最终生成的就是你想要的人脸视频了。
不过迄今为止,软件还只有 iOS 版的,安卓版上架的时间已被无限期推迟。
也不知道是什么家庭背景,能让特朗普总统亲自为你的朋友送上生日祝福:「Happy , Joe!」
你可以选择做个人,也可以放弃做人:
除了 APP 提供的图像以外,你也可以自定义目标头像,但需要注意将目标头像裁剪为正方形,并且距离不能太远也不能太近。最好选择单一的背景,以最大程度上避免还原失真。
优秀的成片效果,配合上短视频应用的流行,让 突然爆红起来。然而很多时候,人们整蛊的对象都是名人,这就存在一些肖像权的问题。据了解,在视频网站 上,发布大量换脸短视频的 up 主现在已经删除了林俊杰相关的内容。
但即使如此,对于 app 本身来说,下架的问题也仍不明了。为何 走向了与上代 AI 换脸应用「ZAO」同样的命运?也许这种不换脸但能够制造假视频的工具同样也引起了人们的顾虑。
在深度学习新技术不断挑战人类分辨能力的极限时,我们也需要防范类似的「视频诈骗」了。
参考链接: