引言
运用AI模型在获取我们想要的返回结果时,可能很多时候返回的都是非结构化的内容,还需要人为进行分类总结等。那么有没有一种方法可以让AI的返回能自动化转化成某种结构化的形式?答案是肯定的。
什么是Pydantic类?
Pydantic 是一个用于数据验证和设置的 Python 库。它允许您定义数据模型,并在运行时自动验证数据的类型和格式。Pydantic 常用于 FastAPI 等框架中,以确保传入的数据符合预期的结构和约束。那么在运用AI模型的时候,能不能运用Pydantic的思想对AI的输出进行改造呢?
实战演练:对AI输出进行改造
首先我们要设定我们要完成的内容,在此次的实战演练中,我们要完成"对一个流程进行改造优化"的任务。下面是演示代码:
from typing import Optional
from typing import Optional
from langchain_groq.chat_models import ChatGroq
from langchain_core.pydantic_v1 import BaseModel,Field
#Pydantic:
class Process(BaseModel):
"""优化改造现有流程"""
setup: str = Field(description="请完成一个流程改造")
critical_point: str = Field(description="流程改造的难点在哪里?")
rating: Optional[int] = Field(default=None, description="对于这样的改造,你的满意度是多少,请打分(1到10分)")
# 使用LangChain模型+ Pydantic来约束和改造LLM的输出
llm = ChatGroq(api_key='gsk_xxx',
model="mixtral-8x7b-32768",
temperature=0,
max_tokens=None,
timeout=None,
max_retries=2,
)
structured_llm = llm.with_structured_output(Process)
ai_res = structured_llm.invoke("请改造下现有的软件开发流程,从现在的瀑布模型改成敏捷模型")
print(ai_res)
代码解析:
- 第3行,要引入Pydantic的BaseModel类和Field类。
- 第8到-13行,定义Process(基于BaseModel)类,在此类中可以自定义你想达到的目的。比如setup字段,critical_point字段(说出流程改造的难点在哪里?)
- 第18-24行,定义langchain模型(还是用的ChatGrog大模型)。
- 第26-28行,告诉AI要实现什么流程的优化以及显示AI输出结果。
可以看到脚本执行结果如下图所示:
希望这篇文章能为您提供有价值的信息,帮助您更好地理解和利用Langchain。感谢您的阅读!
如果您对Langchain的使用有任何疑问或需要进一步的交流,欢迎在评论区留言,让我们共同探讨与进步。