Ejecuta la pasarela de EveryAPI dentro de LlamaIndex
LlamaIndex es un framework de Python para apps de LLM, centrado en abstracciones de RAG / index / agent. Para conectarte a EveryAPI vía OpenAI Compatible: todo tu uso de query engine / chat engine / agent se mantiene igual; basta con configurar api_base + api_key en la instancia del LLM y cada modelo upstream queda disponible en tu app de LlamaIndex.
Una línea de base URL apunta LlamaIndex a EveryAPI
Base URL global por defecto / Base URL prioritaria para China: https://api.everyapi.ai/v1 / https://api-cn.everyapi.ai/v1
from llama_index.llms.openai import OpenAI llm = OpenAI( model="claude-sonnet-5", # cualquier modelo EveryAPI admite api_base="https://api.everyapi.ai/v1", api_key="sk-everyapi-...",) response = llm.complete("Explain RAG in three sentences")print(response)De cero a tu primera llamada
- Instala LlamaIndex
pip install llama-index llama-index-llms-openai. Todos los ejemplos estándar de LlamaIndex se ejecutan como de costumbre.
- Configura api_base + api_key de la instancia del LLM
Usa OpenAI(api_base="https://api.everyapi.ai/v1", api_key="sk-everyapi-...", model="...") en lugar de la instancia OpenAI() por defecto.
- ¿Quieres un valor por defecto global? Establece Settings.llm
Tras Settings.llm = everyapi_llm, cada query engine / chat engine / agent lo usa automáticamente, sin necesidad de pasar el parámetro llm cada vez.
Acerca de LlamaIndex × EveryAPI
¿Por qué no usar llama-index-llms-anthropic / llama-index-llms-gemini?
Puedes, pero cada proveedor upstream que añadas es una dependencia más. Ir de forma uniforme a través de llama-index-llms-openai + la base URL de EveryAPI significa una clave y una dependencia.