前言:
公司达到一定的规模之后,都会积累大量的文档。这些文档包含:行政管理制定、财务管理制度、行业知识、政策文件、合同库、简历库等等。有时候从这些大量的文档中检索出有用的信息是一件很繁琐的事情。有了AI的介入,这个事情将变得的简单很多。
FastGPT:
FastGPT 是一个基于 LLM 大语言模型的开源知识库问答系统,基于apache2.0开源License。FastGPT提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!
快速搭建
FASTGPT运行的环境需要:mongodb、向量数据库:pgvector、one-api。下面我们讲一下使用docker快速布署这些环境。
使用docker搭建mongodb单节点副本集:
docker pull mongo:5.0.7
docker run -d --name mongo -p 27017:27017 mongo:5.0.7 --replSet rs0
其中 --replSet rs0就是指明开启副本集
mongodb已经启动,接下来我们进入容易初始化副本集
docker exec -it mongo bash
mongosh
已经进入到mongosh终端,接下来输入rs.initiate()根据默认配置生成一个副本集
rs.initiate()
使用docker搭建one-api
one-api通过标准的 OpenAI API 格式聚合多个大模型api,开箱即用 。
安装one-api
docker pull justsong/one-api
docker run --name one-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /data/one-api/data:/data justsong/one-api
安装pgvector
docker pull pgvector/pgvector:0.7.0-pg15
docker run -d --name pgvector15 -v /data/pgvector/data/ -p 5432:5432 -e POSTGRES_USER=admin -e POSTGRES_PASSWORD=123456 -e POSTGRES_DB=postgres --restart=always pgvector/pgvector:0.7.0-pg15
pgvector安装完成后需要初始一下数据。操作步骤如下:
进入容器并登录pgvcetor【postgres】 终端
docker exec -it pgvector15 bash
psql -h {ip} -U admin -d postgres
#按照提示输入密码,登录到pgvcetor【postgres】 终端
CREATE DATABASE fastgpt;
GRANT ALL PRIVILEGES ON DATABASE fastgpt TO admin;
CREATE EXTENSION vector;
执行完成后,向量数据库就已经初始好了
布署fastgpt
docker pull fastgpt/fastgpt
docker run -d --name fastgpt -p 3600:3000 --restart=always -e DEFAULT_ROOT_PSW=123456 -e 0PENAI_BASE_URL=http://{ip}:3000/v1 -e CHAT_API_KEY=sk-xxx -e MONGODB_URI=mongodb://{ip}:27017/fastgpt?authSource=admin&directConnection=true -e PG_URL=postgresql://admin:12345@{ip}:5432/fastgpt fastgpt/fastgpt:v4.8.1
布署完成,可以开始使用AI知识库了