guardrails ai 提供了的llm 校验能力,同时提供了一个hub 平台,可以方便使用一些现成的validators

特性

  • guardrails ai 对于input 以及output 进行check,确保数据的准确性,减少风险
  • guardrails ai 可以帮助生成结构化数据
  • 包含了一个兼容openai 的server

参考使用

guardrailsai llm  校验工具_函数调用

说明

对于结构化输出以及函数调用,数据的准确性还是很重要的,可以尝试下guardrails

参考资料

https://www.guardrailsai.com/docshttps://github.com/guardrails-ai/guardrails

https://hub.guardrailsai.com/

https://www.guardrailsai.com/docs/getting_started/guardrails_server

https://www.guardrailsai.com/docs/concepts/deploying