最近，相关的项目备受瞩目，成了非常火热的开源代码库，并且还在快速发展中！
我们都知道，的训练知识库数据集是过时的， 且无法联网，因此，给出的答案或数据常常是不正确的。
想像一下，如果我们将本地的知识文档作为，使用根据这些资料中来回答问题，那岂不是很酷，的出现就能很好地帮我们实现这个需求。
是一个强大的程序开发框架，专注于协助开发人员构建端到端的应用。该框架提供了一系列工具、组件和接口，方便开发人员快速构建依赖于大型语言模型（LLM）和聊天模型的应用程序。通过，开发人员可轻松管理语言模型的交互，实现多个组件的无缝链接，还能整合额外的资源（如API和数据库）来优化开发流程。
接下来，我们会用个简单的示例实现下如何使用结合的能力，来打造个私有的AI知识库
整个部署过程如下：
第一步，获取代码并安装相关库
git clone git@github.com:christhai/langchain-chatbot.git
python3 -m venv .venv
source .venv/bin/activate
pip install -r requirement.txt
其中app.py完整代码如下（不到30行哦）
from llama_index import SimpleDirectoryReader, LangchainEmbedding, GPTListIndex,GPTSimpleVectorIndex, PromptHelper, LLMPredictor, ServiceContext
from langchain import OpenAI
import gradio as gr
import sys
import os
os.chdir(r'/home/ubuntu/langchain') *#* 文件路径
os.environ["OPENAI_API_KEY"] = 'sk-xxxxxxxxxxxxxxx'
def construct_index(directory_path):
max_input_size = 4096
num_outputs = 2000
max_chunk_overlap = 20
chunk_size_limit = 600
prompt_helper = PromptHelper(max_input_size, num_outputs, max_chunk_overlap, chunk_size_limit=chunk_size_limit)
llm_predictor = LLMPredictor(llm=OpenAI(temperature=0.7, model_name="gpt-3.5-turbo", max_tokens=num_outputs))
documents = SimpleDirectoryReader(directory_path).load_data()
service_context = ServiceContext.from_defaults(llm_predictor=llm_predictor)
index = GPTSimpleVectorIndex.from_documents(documents,service_context=service_context)
index.save_to_disk('index.json')
return index
def chatbot(input_text):
index = GPTSimpleVectorIndex.load_from_disk('index.json')
response = index.query(input_text, response_mode="compact")
return response.response
iface = gr.Interface(fn=chatbot,
inputs=gr.inputs.Textbox(lines=7, label="请输入，您想从知识库中获取什么？"),
outputs="text",
title="AI 本地知识库ChatBot")
index = construct_index("docs")
iface.launch(share=True)
第二步，更改代码中第6、7行的项目路径以及 API TOKEN
os.chdir(r'你的项目路径文件夹')
os.environ["OPENAI_API_KEY"] = '你的OpenAI API Token'
第三步，把需要的文档资料放到docs目录下（例如，我将之前复习CKA考试的笔记以及官方考试要点作为示例）
ubuntu@instance-k8s:~/langchain/docs$ ls
cka.txt exam.txt
最后，运行程序即可（是不是很简单！！）
python3 app.py
浏览器访问本地 :7860 或服务器URL即可
Demo
接下来，我们演示下具体效果如何：
例如，我根据CKA考试Tips文档中的内容提问“What You Need For Your Exam”
会根据文档里的内容整理后，返回给我如下的答案
In order to take the CKA or CKAD exam, you will need a with or , , a , and a . You will also need to have a , non- ID that has your photo and full name in the Latin . , you run the check tool by the Exam to that your meets the .
或者，我想找找之前CKA笔记中关于”how to K8S with yaml”，它也返回了笔记中相关的答案。
: /
kind:
:
name: rss
spec:
: 2
:
:
:
app: rss
spec:
:
– name: front-end
image: nginx
ports:
– : 80
– name: rss-
image: /rss-php-nginx:v1
ports:
– : 88
感兴趣的小伙伴可以自己部署下试试吧！
相关文章
