当你有一个知识库后，可以直接和书、知识库进行对话、答疑。来感受下大语言模型的魅力吧。

 

本地部署大模型知识库，和一本书/知识库对话它能做什么？

如上图所示，当我已经有一个知识库文档后（当前是《测试架构师修炼之道》），可以直接和书进行对话、答疑。如何部署很简单，准备下面的文件清单： 

步骤：1. 首先安装python2. 安装cuda3. 进入langchain-chatchat目录，安装requirements.txt中的第三方库（pip install -r requirements.txt)

4. 安装torch\torchvision\torchaudio5. 放置模型（可选，也可选择使用API方式）6. 项目配置，并启动streamlit7. 上传知识库8. 使用！主要的详细步骤安装python安装cuda应该无需多言了，直接双击exe即可，安装requirements.txt也无需多言了，懂的都懂。

关键步骤：下载对应版本的torch打开torch下载网址 ，找到自己cuda版本号（如12.1）和python版本号（如3.11）和torch版本号（如2.0）及系统（如Windows）

找到后下载，直接pip install torch-2.1.0.whl 即可一切就绪之后，项目配置，启动项目配置分为三步：1. 拷贝config文件，然后配置python copy_config_example.py

打开config后，配置模型路径： 

如果你和我一样，调用外部api，则可以选择配置api的形式部署，在当前文件的下面，有api路径的文档，5分钟读一下即可1. 初始化配置python init_database.py --recreate-vs。

1. 启动python startup.py -a如何配置知识

拖动一本书（或者文本文件之类的），然后添加文件到知识库。就可以开启你的文档聊天之路了。（配图博君一乐）

END推荐阅读• 最便捷地部署大语言模型 - 10分钟版• [超easy]5分钟带你部署一套Jenkins持续集成环境• 学了这套高效GUI自动化测试分层，再也没理由摸鱼了• 浅谈测试分层模型及思想• 

测试开发工程师的核心竞争力• UI自动化测试架构【干货】• 高效学习的方法-VUCA时代如何提升自己的竞争力？欢迎关注公众号“测试开发工程师”，探索测试成功之道。

免责声明：本站所有信息均搜集自互联网，并不代表本站观点，本站不对其真实合法性负责。如有信息侵犯了您的权益，请告知，本站将立刻处理。联系QQ：1640731186