RAG相关知识

简而言之就是外挂了一个数据库,然后在里面检索相关信息。最大的优势是无需再通过训练就能掌握相关领域的知识

配置相关环境

conda create -n llamaindex python=3.10
conda activate llamaindex
conda install pytorch==2.0.1 torchvision==0.15.2 torchaudio==2.0.2 pytorch-cuda=11.7 -c pytorch -c nvidia
pip install einops
pip install  protobuf

安装Llamaindex激活运行

安装好相关的包,使用开源词向量模型然后运行 屏幕截图 2024-08-17 131437.png屏幕截图 2024-08-17 131424.png 可以看到无法回答问题

LlamaIndex RAG

微调后运行 屏幕截图 2024-08-17 132812.png