跳转到主内容

支持的 LLM

GPTR 支持以下 LLM(但如果您不使用 OpenAI,则需要单独安装相关的 langchain 包)。

  • openai
  • anthropic
  • azure_openai
  • cohere
  • google_vertexai
  • google_genai
  • fireworks
  • gigachat
  • ollama
  • together
  • mistralai
  • huggingface
  • groq
  • bedrock
  • dashscope
  • xai
  • deepseek
  • litellm
  • openrouter
  • vllm

如果您想知道每个 LLM 对应的 langchain 包的名称,可以查阅 Langchain 文档,或者直接运行 GPTR 并查看错误信息。

GPTR LLM 模块是基于 Langchain LLM 模块 构建的。

如果您想在 GPTR 中添加新的 LLM,可以先从 Langchain 文档 开始,然后研究如何将其集成到 GPTR LLM 模块 中。