支持的 LLM
GPTR 支持以下 LLM(但如果您不使用 OpenAI,则需要单独安装相关的 langchain 包)。
- openai
- anthropic
- azure_openai
- cohere
- google_vertexai
- google_genai
- fireworks
- gigachat
- ollama
- together
- mistralai
- huggingface
- groq
- bedrock
- dashscope
- xai
- deepseek
- litellm
- openrouter
- vllm
如果您想知道每个 LLM 对应的 langchain 包的名称,可以查阅 Langchain 文档,或者直接运行 GPTR 并查看错误信息。
GPTR LLM 模块是基于 Langchain LLM 模块 构建的。
如果您想在 GPTR 中添加新的 LLM,可以先从 Langchain 文档 开始,然后研究如何将其集成到 GPTR LLM 模块 中。