摘要
1. 2022:AIGC的崛起之年
近期,硅谷的众多一线VC们开始将目光瞄准AI初创公司,尤其是生成式AI艺术这一领域。今年9月23日,红杉美国官网发表了一篇名为《生成式AI:一个创造性的新世界》的文章,认为AIGC(AI- 人工智能生成内容)会代表新一轮范式转移的开始。
2022年10月,英国开源人工智能公司 AI 宣布获得 1.01 亿美元融资,估值高达 10 亿美元,跻身独角兽行列,由、 和 O’ LLC 参与投资。 AI今年发布了 的模型,主要用于根据用户输入的文字描述自动生成图像。 的诞生让 AI 绘画这个领域愈发火爆。最近,巴比特正式对外宣布,全面拥抱AIGC,开始规模化采用AI配图,其中头条图片,全面由AI创作。包括但不限于巴比特网站和APP,微信公众号、百家号、网易号等自媒体平台,以及微博等社交媒体账号。
除了绘画以外,文字、音频、视频均可通过AI来生成。
l文字:以为例,以AI文字生成为主打产品,通过其文字生成功能,用户可以生成 标题,编写视频脚本、广告营销文本、电子邮件内容等工作。截止2021年,Japer已拥有超过70000位客户,并创造了4000万美元的收入。
l音频:以.ai为例,作为一个由AI生成的博客,每周都会探讨一个话题。在第一期节目中,其通过乔布斯的传记和收集网络上关于他的所有录音,Play.ht的语言模型大量训练,最终生成了一段假Joe Rogan采访乔布斯的播客内容。
l视频:目前的AI技术不仅可以生成图片,也能够生成序列帧,如:《幻觉东京》。经过160小时,完成3万多张独立插画,再进行手动微调。虽然目前还只是在原脚本和视频的基础上,通过AI逐帧完成图片生成的,但看到了AIGC参与到视频创作中的可能。而在诸多垂直类应用中,如体育、财经等,已经可以通过文字直接生成相应的短视频,如果配上虚拟人则可以实现自动播报。相比于单一的虚拟人读稿,基于AIGC生产的内容在镜头转换、表情动作结合方面更加逼真、自然。
随着NLP( ,自然语言处理)技术和扩散模型( Model)的发展,AI创造生成内容成为了可能。此前,内容生成主要运用GAN( ,生成对抗网络)来实现的,GAN不同于扩散模型依赖于超大规模语言模型,因此难以实现通过文字的描述,自主理解内容并创造出图像、视频等。近年来,随着扩散模型的成熟,生成方式更接近于人脑的联想,AIGC完成了内容创造辅助工具到内容创作主体的角色转变。
2. AIGC是什么?
AIGC是通过人工智能技术自动生成内容的生产方式。从Web 1.0的单向信息传递的“只读”模式到Web 2.0的人与人通过网络双向沟通交流的“交互”模式,内容的需求在不断增加。为了满足这一需求,同时也因为互联网的发展,内容的生成从单一的PGC演变到了现在的UGC并占据了主要市场。、、抖音、快手、B站上有大量的内容来自于UGC创作者。当我们迈入Web3.0时代,人工智能、关联数据和语义网络构建,形成人与机器网络的全面链接,内容消费需求飞速增长,UGCPGC这样的内容生成方式将难以匹配扩张的需求。
我们认为,AIGC将是Web3时代全新的内容生成工具,同样,将对现有的短视频、游戏及广告行业带来巨大的影响。AIGC的生成利用人工智能学习知识图谱、自动生成,在内容的创作为人类提供协助或是完全由AI产生内容。不仅能帮助提高内容生成的效率,还能提高内容的多样性。
2.1 AIGC发展简史
AIGC的发展可以大致分为以下三个阶段:
l早期萌芽阶段:20世纪50年代—90年代中期,受限于科技水平,AIGC仅限于小范围实验
l沉积积累阶段:20世纪90年代中期—21世纪10年代中期,AIGC从实验向实用转变,受限于算法,无法直接进行内容生成
l快速发展阶段:21世纪10年代中期—现在,深度学习算法不断迭代,AI生成内容种类多样丰富且效果逼真
近年来,AIGC的发展迅速,从原来作为边缘侧服务于企业、机构的角色变为了现在C端零基础用户都可以使用的创作工具。开发侧重点上,AIGC也从原先用于翻译、语音合成以及重复性工作转变为了更注重应用层面,用户能够便捷操作的方向。
2.2技术
随着NLP( ,自然语言处理)技术和扩散模型( Model)的发展,AI不再仅作为内容创造的辅助工具,创造生成内容成为了可能。
自然语言处理技术NLP
自然语言处理是实现人与计算机之间如何通过自然语言进行交互的手段。融合了语言学、计算机学、数学,使得计算机可以理解自然语言,提取信息并自动翻译、分析和处理。在自然语言处理技术发展之前,人类只能通过一些固定模式的指令来与计算机进行沟通,这对于人工智能的发展是一个重大的突破。
自然语言处理最早可以追溯到1950年,图灵发表论文“计算机器与智能”,提出“图灵测试”的概念作为判断智能的条件。这一测试包含了自动语意翻译和自然语言生成。
自然语言处理技术可以分为两个核心任务:
l自然语言理解NLU:希望计算机能够和人一样,具备正常人的语言理解能力。过去,计算机只能处理结构化的数据,NLU使得计算机能够识别和提取语言中的意图来实现对于自然语言的理解。由于自然语言的多样性、歧义性、知识依赖性和上下文,计算机在理解上有很多难点,所以NLU至今还远不如人类的表现。
自然语言理解跟整个人工智能的发展历史类似,一共经历了3次迭代:基于规则的方法、基于统计的方法和基于深度学习的方法。
l自然语言生成NLG:将非语言格式的数据转换成人类可以理解的语言格式,如文章、报告等。NLG的发展经历了三个阶段,从早期的简单的数据合并到模板驱动模式再到现在的高级NLG,使得计算机能够像人类一样理解意图,考虑上下文,并将结果呈现在用户可以轻松阅读和理解的叙述中。自然语言生成可以分为以下六个步骤:内容确定、文本结构、句子聚合、语法化、参考表达式生成和语言实现。
NLP主要被应用在四个方面:
l情感分析:互联网上存在大量的信息,表达的内容都是多种多样的,但抒发的感情大致可以分为正面和负面的,可以被用来快速了解用户的舆情情况。
l聊天机器人:近年来,智能家居的发展和普及使得聊天机器人的价值扩大。
l语音识别:微信中可以通过语音进行输入或直接将语音转化为文字,汽车导航可以直接说目的地,大大提升了便利性。
l机器翻译:机器翻译的准确率在近年大幅提高,和甚至可以做到视频机器翻译。
商业上,NLP主要被应用在一下领域:
l用于处理财务、医疗保健、零售、政府和其他部门手写或机器建立档案
l文字处理工作,如:名称实体辨识(NER)、分类、摘要和关联撷取。这能将撷取、识别和分析文档资讯的流程自动化。
l语意搜寻和资讯撷取和知识图表建立
l跨零售、财务、旅游和其他产业客户的交互AI系统等。
神经网络,尤其是循环神经网络 (RNN)是当前NLP的主要方法的核心。其中,2017年由开发的模型现已逐步取代长短期记忆(LSTM)等RNN模型成为了NLP问题的首选模型。的并行化优势允许其在更大的数据集上进行训练。这也促成了BERT、GPT等预训练模型的发展。这些系统使用了维基百科、 Crawl等大型语料库进行训练,并可以针对特定任务进行微调。
模型是一种采用自注意力机制的深度学习模型,这一机制可以按输入数据各部分重要性的不同而分配不同的权重。除了NLP以外,也被用于计算机视觉领域。与循环神经网络(RNN)一样,模型旨在处理自然语言等顺序输入数据,可应用于翻译、文本摘要等任务。而与RNN不同的是,模型能够一次性处理所有输入数据。注意力机制可以为输入序列中的任意位置提供上下文。如果输入数据是自然语言,则不必像RNN一样一次只处理一个单词,这种架构允许更多的并行计算,并以此减少训练时间。
AIGC生成模型
近年来,AIGC的快速发展归功于生成算法领域的技术积累,其中包含了:生成对抗网络(GAN)、变微分自动编码器(VAE)、标准化流模型(NFs)、自回归模型(AR)、能量模型和扩散模型( Model)。可以看到,大模型、大数据、大算力是未来的发展趋势。我们认为,算法模型的突破是近年来AIGC得以快速突破的催化剂,下面将展开介绍一下两个非常常用的模型,分别是生成对抗网络和扩散模型。
l生成对抗网络GAN( )
2014年,Ian J.提出了GAN,是一种深度神经网络架构,由一个生成网络和一个判别网络组成。生成网络产生“假”数据,并试图欺骗判别网络;判别网络对生成数据进行真伪鉴别,试图正确识别所有“假”数据。在训练迭代的过程中,两个网络持续地进化和对抗,直到达到平衡状态,判别网络无法再识别“假”数据,训练结束。
GAN 被广泛应用于广告、游戏、娱乐、媒体、制药等行业,可以用来创造虚构的人物、场景,模拟人脸老化,图像风格变换,以及产生化学分子式等等。
其优点在于:
n能更好建模数据分布
n无需利用马尔科夫链反复采样,无需在学习过程中进行推断,没有复杂的变分下界,避开近似计算棘手的概率的难题
缺点:
n难训练,不稳定。生成器和判别器之间需要很好的同步,但是在实际训练中很容易判别器收敛,生成器发散。两者的训练需要精心的设计。
n模式缺失(Mode )问题。GANs 的学习过程可能出现模式缺失,生成器开始退化,总是生成同样的样本点,无法继续学习。
l扩散模型 Model
扩散模型是一种新型的生成模型,可生成各种高分辨率图像。在 ,和 设法训练大模型之后,它们已经引起了很多关注。基于扩散模型的示例架构包括 GLIDE,DALLE-2, 和完全开源的稳定扩散。扩散模型已经拥有了成为下一代图像生成模型的代表的潜力。以 DALL-E 为例,能够直接通过文本描述生成图像,让计算机也拥有了人的创造力。
扩散模型的生成逻辑相比其他的模型更接近人的思维模式,也是为什么近期 AIGC拥有了开放性的创造力。本质上,扩散模型的工作原理是通过连续添加高斯噪声来破坏训练数据,然后通过反转这个噪声过程来学习恢复数据。训练后,我们可以通过简单地将随机采样的噪声传递给学习的去噪过程来生成数据。
从下图可以看到,扩散模型是一个潜在变量()模型,通过马尔科夫链映射到潜在空间。马尔可夫链是状态空间中经过从一个状态到另一个状态的转换的随机过程,下一状态的概率分布只由当前状态决定。在这一过程中逐步添加高斯噪声来获得近似的后验概率q(!|!”#),其中#……!均是潜在变量,并且它们的维度与原图$一致。
从上图中我们可以看到,图片$最终会变为纯高斯噪声的图片!。而训练扩散模型 的目标则是反向这一过程,也就是训练图中所示的转移概率%(!”#|!)。通过沿着这条线向后遍历,我们可以生成新的数据。
相比于其他模型,扩散模型的优势在于生成的图像质量更高,且无需通过对抗性训练,这使得其训练的效率有所提升。同时,扩散模型还具有可扩展性和并行性。
扩散模型中添加的高斯噪声是一种概率密度函数符合正态分布的函数,当 AIGC 运用扩散模型来生成内容的时候,是通过在一副纯白的画布(随机白噪声)上逐步去噪来生成最终的目标画作。即用户给出的文本描述形容词,来从一个模糊的概念逐步具象。我们可以简化为多个正态分布函数的叠加,模型选择其中重叠的区间输出,这也是一个逐步缩小范围的过程。这与人类的思维模式很类似。
简言之,在 AI 训练阶段,我们将数据集中上亿组图文对进行训练,提取特征值;生产过程中,通过添加文字描述,引入不同的特征值进行去噪,从而生产一副 AI 理解下的内容作品。例如,在当我们在脑海中想象一个画面的时候,比如:一只柯基通过一个小号玩火焰。我们的思维模式也是先有一只柯基,再去想象小号和火焰,最后将这些元素叠加在柯基身上。
简述完原理以后,我们可以通过目前非常先进的AI图像生成应用DALL-E2来举例阐述具体的工作过程:
l将文本提示输入到一个经过训练能够将提示映射到表示空间的文本编码器中;
l通过一个被称为“先验”(Prior)的模型,将文本编码映射到图像编码 器中。这一图像编码器会捕获文本编码包含的信息和语义;
l图像编码器随机生成一个图像,这一图像是该语义信息的视觉表现。
这一个过程和人类的思维模式相似。在生成的过程中,涉及到了文本编码器这一概念,目前主流的文本编码器是来自于的Clip模型,其通过4亿组文字-图片对进行训练。当然,其中的模型训练都是基于英文实现,语言的区别又会给AIGC带来另一重挑战。
除了上述提到的自然语言处理技术和AIGC生成算法模型以外,超级计算机和算力这些硬件作为基础设施也是不可或缺的。在机器学习的过程中,需要通过大量的训练来实现更准确的结果,这样的计算量普通的电脑是无法完成的,目前主要由英伟达A100构建的计算集群完成,而国内外的初创企业也会通过云实现。
2.3当我们开始用AIGC——商业模式的探索
AIGC已被广泛应用在文字、图像、音频、游戏和代码的生成当中,一些较早创立的企业已经实现了较好的商业化。尤其在一些具备高重复性的任务、对于精度要求并不那么高的领域应用较为成熟。随着AIGC技术的发展,其适用面将会逐渐扩大。这类AIGC服务的提供商大多数时候会以提供SaaS服务的形式变现。
l文字创作
AIGC生成文字目前主要被应用于新闻的撰写、给定格式的撰写以及风格改写。其中,有一家成立还不满两年的独角兽企业在最新一轮的融资里获得了1.25亿美元资金,目前估值为15亿美元。成立于2021年,是一个AI内容平台,允许个人和团队利用AI来创作内容,多用于商业。用户可以在借助生成具有丰富关键词、搜索引擎优化的原创博客,可以通过文字描述让帮助完成文章的创作、创建广告话术。通过用户可以寻找创作思路、高效完成文案、突破语言壁垒,而不会存在抄袭的嫌疑。目前,拥有7万多名客户,包括、Ibm等企业。仅2021年一年便创造了4000万美元的收入,今年预估收入为9000万美元。
用户可以通过输入一段对于目标文章的描述或者要求,系统会自动抓取数据,根据我们描述的指令进行创作。作者本人进行如下实验,输入的描述为【写一篇关于AIGC的文章,其中要包含AIGC的定义、发展史、应用、现阶段发展情况和对于未来发展趋势的看法,同时,要包含细节和举例】。同时,在风格上我选择了“专业性”。很快就生成了一篇AIGC撰写的AIGC文章(如下图所示),可以看到这篇文章语义通顺,按照我们给出的描述逐段阐述,并且包含了一些举例,这个生成效果无疑会大幅度提升人类的写作效率。
并且,在的网页版APP上,还给出了数百种模板,可以根据需求更好的完成作品。
l图像创作
降低了艺术绘画创作的门槛,用户只需要通过输入文字描述,计算机将会自动生成一张作品。其背后的逻辑在于计算机通过NLP识别语意并翻译成计算机语言,结合后台的数据集(这些数据集主要通过自有素材或机器人爬取公开版权的内容获得),创作出一副全新的作品。这样产生的作品原则上属于AI创作,因此,在新闻媒体等平台被广泛使用,不仅减少了成本,同时避免了潜在的版权纠纷风险。除此以外,在抖音、微信等社交平台上,已经有一些数据集图库博主通过AIGC创造素材并结合自己的私域流量进行商业变现。
近期,已经与全球最大的版权图片供应商之一的达成深度合作,将开始出售利用的DALL-E生成的图片,并禁止销售非DALL-E生成的图片,完成深度独家绑定。
AIGC除了大家熟知的生成绘画以外,还可以利用这一功能完成文字和图片的互相转换,这在写专利时可以被用到。
l视频创作
除了绘画以外,AIGC也能够被运用在视频创作中。推出了AI视频生成模型能够根据文本内容生成可变时长视频的技术,在公布的DEMO中,基于几百个单词组成一段前后逻辑连贯的视频只需两分钟。相比原有的基础上衍生的 Video瞄准短视频,瞄准的是长视频。AIGC视频中的运用,让我们看到了未来虚拟人也能够作为演员在影视剧中扮演不同的角色以提高内容产出的效率和多样性。
l音频剪辑
AIGC生成音频早被应用于我们的日常生活当中。我们常用的手机导航,可以切换不同明星甚至于卡通人物的语音提示。这是通过提前请明星或卡通人物的配音朗读完成一个语音库,再通过反复的训练学习使得可以用指定的声音说出任何话。我们自己也可以通过高德地图录制自己的语音导航包。而更深层次的应用将会是虚拟人领域,AIGC不仅可以生成虚拟人的声音,并可以创造出说的内容。虚拟人在未来有望和我们一样表达自己的想法,灵魂逐步显现。
l游戏开发
AIGC在游戏当中的应用可以分为两方面,一方面是用于场景和故事的搭建。开放世界游戏越来越受欢迎,通过AIGC来创建场景和NPC都将会大幅度提升效率和降低成本。另一方面,玩家可以通过AIGC的平台工具来创建自己的虚拟人,可以用于游戏中的打金等活动。有一家叫做的游戏已经开始引入这一功能。或许在未来的开放世界游戏中,不同的玩家将对应不同的游戏剧情和副本,这无疑将是令人兴奋的应用。
l代码生成
是一个和合作产生的AI代码生成工具,可根据命名或者正在编辑的代码上下文为开发者提供代码建议。官方介绍其已经接受了来自上公开可用存储库的数十亿行代码的训练,支持大多数编程语言。
3. AIGC的未来发展趋势
AIGC是PGC、UGC之后,全新的内容生产方式。不仅能提升内容生产的效率以满足我们飞速增长的内容需求,也能够丰富内容的多样性。在2022年百度世界大会上,李彦宏提到了:“AIGC将走过三个发展阶段:第一个阶段是“助手阶段”,AIGC用来辅助人类进行内容生产;第二个阶段是“协作阶段”,AIGC以虚实并存的虚拟人形态出现,形成人机共生的局面;第三个阶段是“原创阶段”,AIGC将独立完成内容创作。未来十年,AIGC将颠覆现有内容生产模式,可以实现以十分之一的成本,以百倍千倍的生产速度,去生成AI原创内容。”
3.1 AIGC面临的挑战
技术上来看,虽然当前生成的图片、文字已经可以用以商业用途,但还存在一些问题使得无法满足较高的质量要求。我们可以发现在二次元或抽象的图片生成中,AIGC的表现较好。但对于比较具体和细节的内容,生成的效果不尽如人意。
下图是笔者通过AIGC生成的一副“美女与布偶猫”的图片,从这一张图片我们可以发现有两个问题:
l其中有两幅图片的猫咪眼睛很奇怪,在这些细节描绘上还无法和真人画师媲美。
l输入的关键词是“美女”与“布偶猫”,但是生成的“美女”均长着一张猫脸,从这里反映出AIGC绘画会出现一些空间位置以及数量上的偏差。产生的原因主要还是来源于语义理解和处理上的问题。
与此同时,参考上文中的图表23,我们可以发现不同的应用平台,输入几乎一致信息点的文本,生成的图片的质量和内容差距是巨大的。
那么造成以上的这些问题和差距的原因在哪里呢?我们依旧可以从AIGC的工作原理上来分析:
l自然语义的理解在处理一些空间关系上还存在一定的误差,这也是为什么在空间位置、数量上存在不精确的问题。
l目前文本生成图像时,需要用到文本编码器将文字映射到图像上。当前主流的、训练完善的是来自与的Clip模型,其函数是开源的,但训练的数据集是封闭的。AIGC需要大量的良好画质的文本-图片对才能训练到Clip这样的程度。从Clip本身公开的信息来看,它使用了超4亿个文本-图片对来完成训练,这些都是基于英文的。那么存在以下几个问题:1、亿级别的高质量的文本-图片对在于其他的语言上获得的难度大幅提高,这也是为什么目前大多除英语外的其他语言的AIGC都是需要在整个流程前增加一步翻译。这一步不但涉及语义理解,还包含了文化、语言习惯等潜在的因素,很难被精确翻译,对于翻译模型的挑战很大。2、Clip的模式很难复刻,即使运用Clip开源的函数,基于不同的数据库训练出的结果不同。据我们了解,海外有团队运用了20亿的文本-图片对才接近复刻了Clip;
l运用的AIGC生成算法不同也会导致产生的内容的差距;
l数据集的质量、合规性、风格偏向都会决定生成的内容质量。
以上,我们可以看到若要使得AIGC生成的内容真正高效地被运用在商业层面,那么自然语言处理、翻译模型、生成算法和数据集这些细分赛道都还有很大的进步空间。
3.2未来的发展方向
在上文中,我们了解到从应用软件方面,自然语言处理、翻译模型、生成算法和数据集这些细分赛道都还有很大的进步空间。更深入地来看,以上这些的发展需要依托于算力、数据的支持。所以未来的发展重点将更着力于大模型、大数据和大算力的方向去发展。同时,为了让功能更加精确,将会更多地去开发一些垂直类的应用,毕竟垂直类的应用可以更有针对性地为特定功能进行训练,成本相对较低。
投资策略:AIGC的软硬件与数据集
从PGC到UGC再到AIGC,AIGC能让人类突破内容生产力枷锁,高效率生成高质量内容,让人类进入到真正的元宇宙之中。若要AIGC能够满足元宇宙的需求,独立完成高质量、高精度的内容,AIGC技术层面还需要一定的发展,我们可以分为软硬件两个维度看,软件层面主要包括自然语言处理技术、AIGC生成算法模型和数据集,硬件层面主要是算力、通信网络。
从业务层面看,结合国内外发展情况,目前在AIGC的知识产权归属方面尚有法律空缺,且创作伦理问题也未得到有效解决,因此无论是技术还是商业层面,高质、干净的数据集对于模型训练及内容生成均有至关重要的影响。同时,随着AIGC逐步落地,其算力需求将大增,未来相关企业除用云计算之外,或组建自有算力集群,考虑到英伟达A100、H100出口受限,相关国产算力芯片将有机会获得增量市场。
从主题投资的角度看,区块链、元宇宙、Web3均描述了数字经济时代中宏大的应用场景,而去年被资本市场关注的虚拟人、NFT等只是其中的具体应用之一。我们认为,AIGC将是推动数字经济从Web2向Web3升级的重要生产力工具:一方面,其对现有的杀手级应用——短视频、游戏等具有颠覆式影响,或进一步扩大内容量、提高成瘾性,同时对社交和广告提供新的工具;另一方面,Web3开放、共建的价值观下,UGC、AIGC的内容会更具吸引力,二次创作、开放想象的浪潮将来临。目前AIGC已成为硅谷最新热门方向,国内一级市场、互联网大厂等对AIGC应用关注度也在快速提升中。
风险提示
技术创新不及预期:AIGC的技术发展不及预期。以及底层硬件技术,如:超级计算机、算力的发展不及预期。
政策监管风险:目前AIGC还处于相对早期,后续是否会出台AIGC作品相关知识版权或其他法律监管条款尚不明确。
本文节选自国盛证券研究所已于2022年11月13日发布的报告《国盛区块链 |时代的生产力工具》,具体内容请详见相关报告。