伴随在全球市场的流行，其在内容深度搜索中的突出表现引发了市场对其是否能替代传统搜索引擎的广泛讨论。我们认为在中短期内无法完全取代传统搜索引擎，也较难改变当前全球搜索引擎市场竞争格局，但料将会加速搜索引擎演化进程，并在中期形成以传统搜索为主、类模型为辅的新搜索引擎形态，相应带来谷歌等传统搜索引擎巨头AI投入大幅增加。优化了问题与答案生成间的匹配精准度，用户体验远好于传统搜索引擎。
但背后系列短板亦阻碍了其在中短期对传统搜索引擎的可能取代：1）受制于模型训练方式，数据难以实时更新。2）单次搜索成本过于高昂，我们测算生成一条信息的成本在1.3美分左右，是目前传统搜索引擎的3-4倍。3）统计学模型产生的内容真假混杂，用户难以辨别。
其中1、3点有望在技术端优化后，通过结合传统搜索引擎的方式部分解决问题，成本问题中短期内或只能等待硬件成本的继续下降。产生的鲶鱼效应，料将推动全球AI产业化进程的全面提速，以及AI生成内容时代的全面到来。
报告缘起：
在问答环节表现优异，引起市场对其是否能替代传统搜索引擎的广泛讨论。团队最新公布的语言模型于2022年11月30日向社区发布测试，在上线两个月不到的时间内就拥有了超过1000万DAU，MAU突破20万。从社区用户的测试结果看，相比于前一代的GPT3，以对话为载体，可以回答多种多样的日常问题，对于多轮对话历史的记忆能力和篇幅增强。
与GPT-3等大模型相比，回答更全面，可以多角度全方位进行回答和阐述，相较以往的大模型，知识被挖掘得更充分。
在内容深度搜索中的强势表现引发了市场对其是否能替代传统搜索引擎的争论，本篇报告将对及其背后的技术是否能替代传统搜索引擎的市场以及会对传统搜索引擎巨头带来什么改变展开一系列分析。
团队从 GPT3.5 系列中的一个模型进行微调，使用人类反馈强化学习 (RLHF) 训练。首先使用了人类标注师撰写约1.2w-1.5w条问答数据，并用其作为基础数据预训练。随后让预训练好的模型（SFT）针对新问题列表生成若干条回答，并让人类标注师对这些回答进行排序。这些回答的排名内容将以配对比较的方式生成一个新的奖励模型（RM）。最后让奖励模型在更大的数据集上重新训练SFT，并将最后两个步骤反复迭代以获得最终的模型。
经过上述步骤，我们发现最终呈现出的模型在对问题意图与答案的一致性上大幅提高，根据信息，相较于传统搜索引擎提供内容相关页面链接，可以直接生成面向问题的高完成度回答，并能够提供回答内容的相关引用链接（目前测试版本尚未开发这一功能）。此外针对开放式问题，也可以通过匹配网络中的数据生成较为完整的答案，在处理知识类以及创意类的问题时，提供的搜索体验远胜于目前的传统搜索引擎。
尽管能大幅优化用户的搜索体验，但要取代传统搜索引擎仍然面临几个关键技术瓶颈。
1) 数据的实时性问题。目前英文版本的数据截至2021年，而中文版本的数据截至2020年，数据库版本滞后的主要原因是由于语言类大模型的技术限制。目前的在GPT大模型上加入标注数据训练模式让实时数据的引入非常困难，如果要重新预训练模型，我们估计每次预训练需要用到1000块以上的英伟达A100显卡工作半个月至一个月的时间，成本在百万美元以上。而如果采用使用微调的方式专门训练新知识，会导致新知识的在模型内的权重过高，频繁的微调也会导致模型“遗忘”旧的知识。
2）数据的真实性仍不足可靠。在大量的测试后我们发现，虽然回答问题的准确性有所提高，但如果提出的问题较为模糊或者本身包含部分错误信息在内，模型有可能以“一本正经”的语气生成完全错误甚至凭空捏造的回答。真假答案的混杂会让用户在需要对专业性问题寻求答案时产生严重的困扰，这也是目前语言类大模型普遍存在的问题。据CSDN微信公众号报道，2022年11月几乎同一时间上线的Meta服务科研领域的语言类大模型就因为真假答案混杂的问题，测试仅仅3天就被用户投诉下线。
3）模型在线推理端成本高昂。根据模型的现有数据，我们假设每次生成的回答长度平均为50个词，使用8x英伟达A100用于推理的情况下，我们估算每一次生成答案的成本约为1.3美分，约为谷歌搜索引擎每次搜索成本的3倍。如果每天面对数以亿计用户的搜索请求，如此高昂的成本是公司所不能承受的，中短期内完全取代传统搜索引擎在商业模式上无法做到。
目前的技术路径难以在较短时间内解决搜索成本的问题，因此从分场景限制用量的思路出发，我们认为中短期内可以通过部分技术改进辅助传统搜索引擎实现用户体验大幅提升。
1）考虑到在不同分类问题中的表现情况，限制搜索仅在知识类搜索场景下启用可以有效控制成本。
2）面对时效类问题时，模型自动判断转向传统搜索引擎生成答案，并通过传统搜索引擎的数据返回生成版本的汇总新答案。
3）针对回答真实性问题，加入对答案产生来源的引用注明给用户，让用户可以快速检验回答的可靠性。
总的来看，通过一些小技术的革新（大部分已经出现在了其他大语言模型中，只需要借鉴）就可以让成为一个合格的辅助搜索引擎。不过成本的问题短期内暂时看不到太好的解决方法，这也给了目前的搜索引擎巨头充足的时间以应对会带来的冲击。
搜索巨头如谷歌以及百度均在大语言模型上有深厚的积累，尤其是谷歌拥有与相似的对话类模型以及Lamda，其部分技术更是在上有所突破，包括使用了多个RM模型以应对不良信息的产生以及加入了新知识迭代优化的相关思路。预计的成功不会给搜索产业带来颠覆性的新入局者，但会推动谷歌等搜索巨头加快迭代大语言模型辅助传统搜索引擎的新格局。
谷歌在最新一季度的财报电话交流会中表示：“谷歌将在未来几周或几个月正式推出类似基于大语言模型的人工智能。这种人工智能将以搜索伴侣的形式辅助其传统搜索引擎。”不过我们认为大语言模型的加入也会影响到中期谷歌等巨头的搜索业务利润空间。在平均每个用户生成50个单词的假设下，我们预计到2023年如果有10%的搜索结果由大语言模型生成，将会给谷歌每年带来约12亿美元的额外运营成本。
风险因素：
AI核心技术发展不及预期风险；科技领域政策监管持续收紧风险；全球宏观经济复苏不及预期风险；宏观经济波动导致欧美企业IT支出不及预期风险；全球云计算市场发展不及预期风险；企业数据泄露、信息安全风险；行业竞争持续加剧风险等。
投资策略：
受制于信息更新、回答准确性、算力成本等层面因素的综合约束，中短期内取代传统搜索引擎的概率较低，但料将加速搜索引擎产品演化进程，并在中期形成以传统搜索为主、类模型为辅的新搜索引擎形态，倒逼传统搜索厂商不断加大AI领域投入，同时鉴于目前全球搜索引擎的市场格局，份额较小的微软Bing最有可能率先实验大语言模型的实际应用，谷歌等头部厂商亦将大概率被动跟随。产生的鲶鱼效应，料将推动全球AI产业化进程的全面提速，以及AI生成内容时代的全面到来。
炒股开户享福利，入金抽188元红包，100%中奖！
海量资讯、精准解读，尽在新浪财经APP
相关文章
