记忆的力量：使用Langchain为AI助手添加持久记忆

原创

黑金IT 2024-09-08 14:45:10 博主文章分类：langchain ©著作权

文章标签 redis langchin pyhton 文章分类 Python 后端开发

©著作权归作者所有：来自51CTO博客作者黑金IT的原创作品，请联系作者获取转载授权，否则将追究法律责任

在使用Langchain构建智能对话系统时，记忆库的作用不可小觑。记忆库能够存储和管理对话历史，让AI在交流中更加连贯和个性化。通过Langchain的记忆库集成，我们可以轻松地将Redis等数据库作为后端存储，实现聊天消息的持久化。这样，无论用户何时返回，AI都能够回忆起之前的对话内容，提供更加贴心的服务。例如，用户询问天气后，AI不仅能够提供即时信息，还能记住用户之前询问的城市，下次直接提供相关信息。这种记忆能力极大地提升了用户体验，使得对话更加流畅自然。Langchain的记忆库功能，为构建智能、有记忆的AI助手提供了强大的支持。

在使用Langchain处理Redis Chat Message History时，很多朋友可能会遇到手册说明不详细和代码示例无法正常运行的问题。我这通过2天的摸索自定义开发langchain利用redis库存放会员的记忆系统，提高了记忆的利用效率

关于redis数据库的链接代码实现：

1,设定redis的配置

import json
import os
import configparser
import redis

class RedisHashClient:
    def __init__(self):
        # config = common.readConfig()
        config = configparser.ConfigParser()
        config_file = './config.ini'
        config.read(config_file, 'utf8')

        self.client = redis.Redis(host=config.get('redis_conf', 'host')
                                  , port=config.get('redis_conf', 'port')
                                  , db=config.get('redis_conf', 'db')
                                  , password=config.get('redis_conf', 'password'))

2，关于记忆体的存放与提取代码：

from langchain_core.chat_history import InMemoryChatMessageHistory
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables.history import RunnableWithMessageHistory
from langchain.schema import BaseMessage, HumanMessage, AIMessage

def llMmodel(self):
        try:
            
                api_key = self.config.get('chatgpt', 'zhipu_apikey')
                llMmodel_instance = ChatOpenAI(
                    temperature=0.9,
                    # model="glm-4-0520",
                    # model="glm-4",
                    model="glm-4-air",
                    openai_api_key=api_key,
                    openai_api_base="https://open.bigmodel.cn/api/paas/v4/"
                )
                
            return llMmodel_instance

        except Exception as e:           
            print(f"An unexpected error occurred: {e}")


    # 定义一个函数来保存聊天历史到 Redis
    # 保存聊天历史到 Redis（使用 JSON）
    def save_chat_history_to_redis(self, chat_history):
        chat_history_str = json.dumps([msg.dict() for msg in chat_history.messages],ensure_ascii=False)
        # 将 JSON 字符串中的汉字转换为 Base64 编码
        RedisHashClient().client.hset("langchain:chat_history",self.session_id,chat_history_str)


    # 定义一个函数来从 Redis 获取聊天历史
    # 从 Redis 获取聊天历史（使用 JSON）
    def get_chat_history_from_redis(self):
        chat_history_str = RedisHashClient().client.hget("langchain:chat_history",self.session_id)
        chat_history = InMemoryChatMessageHistory()
        if chat_history_str:
            messages = json.loads(chat_history_str)
            for msg in messages:
                if msg['type'] == 'human':
                    chat_history.add_message(HumanMessage(content=msg['content']))
                elif msg['type'] == 'ai':
                    chat_history.add_message(AIMessage(content=msg['content']))
        return chat_history
		
	# 用户的背景信息	
	def getUserBginformation(self):
	    return "姓名：黑金;职务：从事IT开发10年; 爱好：喜欢研究新代码"
	
	def chatmsg(self):
        user_background_information = self.getUserBginformation()
        prompt = ChatPromptTemplate.from_messages(
            [
                ("system", "你是一个AI聊天助手"),
                ("system", "请使用中文语言回复,并且回复token的长度不要超过100字。回复不要出现Note"),
                ("user",user_background_information),
                ("placeholder", "{chat_history}"),
                ("human", "{input}"),
            ]
        )

        # 使用示例
        session_id = f"user_id::{self.user_id}"  # 假设这是用户的会话 ID
        chat_history = self.get_chat_history_from_redis()
        if chat_history is None:
            chat_history = InMemoryChatMessageHistory()  #BaseChatMessageHistory类自带的
        #调试history是字符串吗？
        chain = prompt | self.llMmodel
        wrapped_chain = RunnableWithMessageHistory(chain, lambda x: chat_history)
        
        try:
            AIMessageObj = wrapped_chain.invoke(
                {
                    "input": $input_chat,  # 用户输入
                },
                config={"configurable": {"session_id":session_id}}
            )
                
            self.historyMsg = chat_history.messages
            self.aiOutMsg = AIMessageObj.content.strip()
            if not self.aiOutMsg:
                self.error = "AI回复为空"
                raise ValueError("AI回复为空")

            input_msg = self.input_json['input_chat']
            self.saveAiChatLog(input_msg, 'user', 0)
        
            self.token_usage = AIMessageObj.response_metadata['token_usage']
            print('用户输入：',input_msg)
            
            # 添加消息到聊天历史
            self.save_chat_history_to_redis(chat_history)            
            self.saveAiReplyHistory()            
            return

        except Exception as e:            
            print(f"发生错误：{str(e)}")            
            raise ValueError(e)

上述代码的逻辑流程可以概括如下：

设置Prompt：首先，定义一个prompt，它是一个用于与AI模型交互的模板。这个模板包括系统消息、用户背景信息、一个占位符用于插入聊天历史，以及一个用于用户输入的占位符。
获取聊天历史：接着，通过get_chat_history_from_redis方法从Redis中检索用户的聊天历史。如果用户是第一次访问或者没有历史记录，就创建一个新的InMemoryChatMessageHistory实例。
调用对话模型：使用Langchain的RunnableWithMessageHistory包装器，结合定义好的prompt和用户的输入，调用智谱清言的对话模型（llMmodelInherit）。这个模型会根据提供的信息生成回复。
存储模型返回的消息：将AI模型返回的消息（AIMessageObj.content）处理后，存储到聊天历史中。这通常涉及到将消息添加到内存中的聊天历史对象，并同步更新到Redis数据库，以便持久化存储。
异常处理：在整个过程中，如果发生任何异常，代码会捕获这些异常，并记录错误信息。同时，会向飞书（Feishu）发送错误通知，以便开发者能够及时了解并处理问题。
返回结果：最后，处理完用户的消息并更新聊天历史后，代码会返回AI模型的响应，以便可以将其发送给用户。

这段代码的核心目的是实现一个具有记忆功能的聊天系统，它能够记住用户的历史对话，并在后续的交互中使用这些信息来提供更加个性化和连贯的回复。

以下是针对AI记忆的应用场景的详细解释：

长期记忆跟踪：AI记忆系统能够长期存储患者的病史、用药计划和治疗进展。通过这种方式，AI助手可以提供个性化和连续的医疗建议，帮助医生和患者更好地管理健康。
个性化和连续性：AI助手能够根据患者的病史和当前状况，提供针对性的建议。例如，提醒患者按时服药、预约检查或根据最新的医学研究调整治疗方案。
记住个人细节：AI伴侣能够记住用户的个人喜好、习惯和过去的对话内容。这种记忆能力使得AI能够提供更加个性化和有意义的交互体验。
深层次关系：通过记住用户的喜好和习惯，AI伴侣能够提供更加贴心的服务，比如推荐音乐、电影或餐厅，甚至参与到用户的日常生活中，提供情感支持。
记住用户习惯：AI工具能够学习并记住用户的工作习惯和常用文档，从而简化工作流程。
提高效率：通过自动整理文档、提醒任务和预测用户需求，AI工具能够显著提高工作效率。例如，AI可以根据用户的工作模式，提前准备好所需的文件或数据，减少手动搜索和整理的时间。
保留交互信息：客户支持机器人能够记住与用户的 previous 交互信息，从而提供更准确和上下文感知的帮助。
提高服务质量：通过记住用户的偏好和历史问题，AI代理能够更快地解决用户的问题，减少重复提问，提高客户满意度。
记住玩家选择：游戏中的AI NPC能够记住玩家的选择、策略和进度，从而动态适应游戏环境。
沉浸式体验：通过记住玩家的行为，AI NPC能够提供更加真实和沉浸的游戏体验。例如，NPC可以根据玩家的行为调整对话内容，提供更加真实的互动。