Ejecuta la pasarela de EveryAPI dentro de Langfuse
Langfuse es una plataforma de código abierto de observabilidad de LLM (autoalojada + SaaS). Complementa a EveryAPI: EveryAPI es la pasarela de inferencia de LLM, Langfuse es la plataforma de trace / cost / eval. Un decorador del SDK de una línea envuelve tu cliente de OpenAI, y cada solicitud que pasa por EveryAPI aterriza automáticamente en un trace de Langfuse.
Una línea de base URL apunta Langfuse a EveryAPI
Base URL global por defecto / Base URL prioritaria para China: https://api.everyapi.ai/v1 / https://api-cn.everyapi.ai/v1
De cero a tu primera llamada
- Regístrate en Langfuse
Regístrate en cloud.langfuse.com (SaaS) o instala tu propia instancia con Docker Compose. Obtén la clave pública y la clave secreta.
cloud.langfuse.com
- Instala el SDK de Langfuse
pip install langfuse openai o npm i langfuse openai. Langfuse es un wrapper, no un reemplazo.
- Apunta el cliente de OpenAI a EveryAPI
Configura base_url como https://api.everyapi.ai/v1 y api_key como sk-everyapi-... — igual que una configuración normal de EveryAPI.
- Deja que Langfuse envuelva el client
En Python, from langfuse.openai import openai (reemplazando el import openai original), o en TS, observeOpenAI(new OpenAI(...)). Langfuse traza cada llamada automáticamente.
- Inspecciona las trazas
En el panel de control de Langfuse, mira el input / output / latency / cost / tokens de cada llamada. El cost es la estimación de Langfuse según el modelo, y difiere de la facturación real de EveryAPI (EveryAPI usa precios unificados, mientras que Langfuse estima a partir de los precios de lista del upstream): el panel de control de EveryAPI es la cifra autorizada.