everyapi
Интеграция · LLM-фреймворк на PythonСовместимо с OpenAI · один ключ · живой каталог моделей
LlamaIndex

Подключите LlamaIndex к шлюзу EveryAPI

LlamaIndex может использовать OpenAI-совместимый экземпляр LLM в RAG- и агентных приложениях. Настройте его интеграцию с OpenAI, указав базовый URL EveryAPI, ключ и ID модели из каталога вашего аккаунта, а затем проверьте те возможности LlamaIndex, которые использует ваше приложение.

01Код настройки

Одна строка base URL направляет LlamaIndex на EveryAPI

Глобальный Base URL по умолчанию / Base URL с приоритетом для Китая: https://api.everyapi.ai/v1 / https://api-cn.everyapi.ai/v1

app.py
from llama_index.llms.openai import OpenAI
 
llm = OpenAI(
model="claude-sonnet-5", # укажите ID, доступный в вашем аккаунте
api_base="https://api.everyapi.ai/v1",
api_key="sk-everyapi-...",
)
 
response = llm.complete("Explain RAG in three sentences")
print(response)
02Шаги

От нуля до первого вызова

  1. Установка LlamaIndex

    Установите LlamaIndex и его интеграцию с OpenAI LLM: pip install llama-index llama-index-llms-openai.

  2. Настройка api_base + api_key у экземпляра LLM

    Используйте OpenAI(api_base="https://api.everyapi.ai/v1", api_key="sk-everyapi-...", model="...") вместо стандартного экземпляра OpenAI().

  3. Нужно глобальное значение по умолчанию? Задайте Settings.llm

    После Settings.llm = everyapi_llm каждый query engine / chat engine / агент использует его автоматически — передавать параметр llm каждый раз не нужно.

03FAQ

О связке LlamaIndex × EveryAPI

Почему не использовать llama-index-llms-anthropic / llama-index-llms-gemini?

Можно, но каждый добавленный апстрим-провайдер — это ещё одна зависимость. Единый путь через llama-index-llms-openai + базовый URL EveryAPI означает один ключ и одну зависимость.

04Другие интеграции

EveryAPI подключается и к этим сервисам