集成 · Python LLM 框架兼容 OpenAI · 一把密钥 · 实时模型目录

在 LlamaIndex 里走 EveryAPI 网关

LlamaIndex 可在 RAG 和智能体应用中使用 OpenAI 兼容的 LLM 实例。配置 EveryAPI 地址、密钥和账户目录中的模型 ID 后，再验证应用实际使用的 LlamaIndex 功能。

01配置代码

一行 base URL，把 LlamaIndex 切到 EveryAPI

默认全球 Base URL / 国内网络优先 Base URL： https://api.everyapi.ai/v1 / https://api-cn.everyapi.ai/v1

app.py

from llama_index.llms.openai import OpenAI
 
llm = OpenAI(
    model="claude-sonnet-5", # 使用账户中可用的 ID
    api_base="https://api.everyapi.ai/v1",
    api_key="sk-everyapi-...",
)
 
response = llm.complete("用三句话解释 RAG")
print(response)

02操作步骤

从零到第一次调用

装 LlamaIndex
安装 LlamaIndex 及其 OpenAI LLM 集成：pip install llama-index llama-index-llms-openai。
换 LLM 实例的 api_base + api_key
OpenAI(api_base="https://api.everyapi.ai/v1", api_key="sk-everyapi-...", model="...") 替换原来的 OpenAI() 默认实例。
想全局默认？设 Settings.llm
Settings.llm = everyapi_llm 后，所有 query engine / chat engine / agent 自动用，不用每次传 llm 参数。

03常见问题

关于 LlamaIndex × EveryAPI

为什么不用 llama-index-llms-anthropic / llama-index-llms-gemini？

可以，但每接入一家服务都要增加依赖。通过 OpenAI 兼容组件统一接入 EveryAPI，只需一把密钥和一份依赖。

04其它集成

EveryAPI 也能接进这些

LLM 应用低代码平台

Dify →在 Dify 工作流 / 智能体里挂 EveryAPI 作为模型供应商。

国内 LLM 知识库 / 工作流平台

FastGPT →通过当前 FastGPT 的 OpenAI 兼容模型配置连接 EveryAPI。

Multi-agent 框架

CrewAI →配置 CrewAI LLM，通过 EveryAPI 调用已验证的模型。

LangChain 系 stateful agent 编排

LangGraph →在 LangGraph 工作流中使用由 EveryAPI 支持的 ChatOpenAI 客户端。

LLM 可观测性

Langfuse →用 Langfuse 分析通过 EveryAPI 发起的 LLM 调用。

CVS Code / JetBrains AI 扩展

Continue →配置一次 EveryAPI，即可在 VS Code 和 JetBrains 中复用。查看全部集成 →