前言:

公司达到一定的规模之后,都会积累大量的文档。这些文档包含:行政管理制定、财务管理制度、行业知识、政策文件、合同库、简历库等等。有时候从这些大量的文档中检索出有用的信息是一件很繁琐的事情。有了AI的介入,这个事情将变得的简单很多。

FastGPT:

FastGPT 是一个基于 LLM 大语言模型的开源知识库问答系统,基于apache2.0开源License。FastGPT提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!

快速搭建


FASTGPT运行的环境需要:mongodb、向量数据库:pgvector、one-api。下面我们讲一下使用docker快速布署这些环境。

使用docker搭建mongodb单节点副本集:

docker pull mongo:5.0.7
docker run -d --name mongo -p 27017:27017 mongo:5.0.7 --replSet rs0

其中 --replSet rs0就是指明开启副本集

mongodb已经启动,接下来我们进入容易初始化副本集

docker exec -it mongo bash
mongosh

已经进入到mongosh终端,接下来输入rs.initiate()根据默认配置生成一个副本集

rs.initiate()

使用docker搭建one-api

one-api通过标准的 OpenAI API 格式聚合多个大模型api,开箱即用 。

安装one-api

docker pull justsong/one-api
docker run --name one-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /data/one-api/data:/data justsong/one-api

安装pgvector

docker pull pgvector/pgvector:0.7.0-pg15
docker run -d --name pgvector15 -v /data/pgvector/data/  -p 5432:5432 -e POSTGRES_USER=admin -e POSTGRES_PASSWORD=123456 -e POSTGRES_DB=postgres --restart=always pgvector/pgvector:0.7.0-pg15

pgvector安装完成后需要初始一下数据。操作步骤如下:

进入容器并登录pgvcetor【postgres】 终端

docker exec -it pgvector15 bash 

psql -h {ip} -U admin -d postgres

#按照提示输入密码,登录到pgvcetor【postgres】 终端

CREATE DATABASE fastgpt;
GRANT ALL PRIVILEGES ON DATABASE fastgpt TO admin;
CREATE EXTENSION vector;

执行完成后,向量数据库就已经初始好了

布署fastgpt

docker pull fastgpt/fastgpt
docker run -d --name fastgpt -p 3600:3000 --restart=always -e DEFAULT_ROOT_PSW=123456 -e 0PENAI_BASE_URL=http://{ip}:3000/v1 -e CHAT_API_KEY=sk-xxx -e MONGODB_URI=mongodb://{ip}:27017/fastgpt?authSource=admin&directConnection=true -e PG_URL=postgresql://admin:12345@{ip}:5432/fastgpt  fastgpt/fastgpt:v4.8.1

布署完成,可以开始使用AI知识库了

使用FASTGPT快速搭建RAG企业AI知识库_AI知识库

使用FASTGPT快速搭建RAG企业AI知识库_AIGC_02