ai图片生成工具 比Diffusion更快!OpenAI新图像生成模型开源了!清华校友宋飏一作

默认分类1年前 (2023)发布 admin
5,022 0
ChatGPT国内版

图像生成领域,看来又要变天了。

就在刚刚,开源了比扩散模型更快的一致性模型:

无需对抗训练,就能生成高质量图片!

这个重磅消息一经发出,立刻引爆学术圈。

虽说论文本身在3月份就已低调发布,但当时大伙儿普遍认为它只是个的前沿研究,并不会真正将细节公开。

没想到这次直接来了个开源。有网友立刻上手实测了一波效果,发现只需要3.5秒左右就能生成64张左右256×256的图像:

游戏结束!

这是这位网友生成的图像效果,看起来还不错:

还有网友调侃称:这次终于Open了!

值得一提的是,论文一作科学家宋飏,是一位清华校友,16岁就通过领军计划进入清华数理基础科学班求学。

一起来看看这次开源了一项怎样的研究。

开源了一个怎样的重磅研究?

作为一个图像生成AI,一致性模型( Model)最大的特点在于快又好。

相比扩散模型,它主要有两大优势:

其一,无需对抗训练( ),就能直接生成高质量的图像样本。

其二,相比扩散模型可能需要几百甚至上千次迭代,一致性模型只需要一两步就能搞定多种图像任务——

ai图片生成工具 比Diffusion更快!OpenAI新图像生成模型开源了!清华校友宋飏一作

包括上色、去噪、超分等,都可以在几步之内搞定,而不需要对这些任务进行明确训练。(当然,如果进行少样本学习的话,生成效果也会更好)

所以一致性模型究竟是如何实现这种效果的?

从原理来看,一致性模型的诞生与ODE(常微分方程)式生成扩散模型有关。

图中可见,ODE会先一步步将图片数据转换成噪声,随后再进行一个逆向求解,从噪声中学习生成图像。

而就在这个过程中,作者们试图将ODE轨迹上的任何点(如Xt、Xt和Xr)映射到它的原点(如X0)进行生成建模。

随后,这个映射的模型被命名为一致性模型,因为它们的输出都是同一轨迹上的同一点:

基于这种思路,一致性模型不需要再经过漫长的迭代,才能生成一个相对质量比较高的图像,而是能做到一步生成。

下图是一致性模型(CD)和扩散模型(PD)在图像生成指标FID上的对比。

其中,PD是去年斯坦福和谷歌大脑提出的一种最新扩散模型方法渐进式蒸馏( )的简称,CD( )则是一致性蒸馏方法。

可以看出,几乎在所有数据集上,一致性模型的图像生成效果都要比扩散模型更好,唯一的例外是256×256的房间数据集上:

除此之外,作者们也将扩散模型、一致性模型和GAN等模型在其他各种数据集上进行了对比:

不过也有网友提到,这次开源的AI一致性模型,能生成的图像还是太小:

很难过,这次开源的版本生成的图像还是太小了,要是能给出生成更大图像的开源版本,肯定会非常让人兴奋。

也有网友猜测,可能只是还没训练出来。不过可能训练出来了我们也不一定能搞到代码(手动狗头)。

不过对于这项工作的意义,表示:

你若是有一堆GPU,那用扩散模型在一两分钟内迭代1500多次,生成图片的效果当然是极好的。

ai图片生成工具 比Diffusion更快!OpenAI新图像生成模型开源了!清华校友宋飏一作

但如果你想在手机上或者聊天对话的时候实时生成图片,那显然扩散模型不是最好的选择。

一致性模型是下一个重要动作。

期待会开源一波分辨率更高的图像生成AI~

清华校友宋飏一作

论文一作宋飏,目前是的研究科学家。

他14岁时,曾以17位评委全票通过的成绩,入选“清华大学新百年领军计划”。在次年高考中,他又成为连云港市理科状元,顺利考入清华。

2016年,宋飏从清华大学数理基础科学班毕业,此后赴斯坦福深造。2022年,宋飏获斯坦福计算机科学博士学位,而后加入。

在博士期间,他的一作论文“Score-Based ”还获得过ICLR 2021的杰出论文奖。

根据其个人主页信息,从2024年1月开始,宋飏将正式加入加州理工学院电子系和计算数学科学系,担任助理教授。

项目地址:

论文地址:

参考链接:

[1]

[2]

点击进入—>【计算机视觉】微信技术交流群

最新论文和代码下载


后台回复:,即可下载CVPR 2023论文和代码开源的论文合集

后台回复:综述,即可下载最新的3篇综述PDF

扩散模型和Transformer交流群成立
扫描下方二维码,或者添加微信:CVer333,即可添加CVer小助手微信,便可申请加入CVer-扩散模型或者Transformer 微信交流群。另外其他垂直方向已涵盖:目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、PyTorch、TensorFlow和Transformer等。
一定要备注:研究方向+地点+学校/公司+昵称(如扩散模型或者Transformer+上海+上交+卡卡),根据格式备注,可更快被通过且邀请进群
▲扫码或加微信号: CVer333,进交流群
CVer计算机视觉(知识星球)来了!想要了解最新最快最好的CV/DL/AI论文速递、优质实战项目、AI行业前沿、从入门到精通学习教程等资料,欢迎扫描下方二维码,加入CVer计算机视觉,已汇集数千人!
▲扫码进星球
▲点击上方卡片,关注CVer公众号
整理不易,请点赞和在看

© 版权声明
广告也精彩

相关文章

暂无评论

暂无评论...