Exécutez la passerelle EveryAPI dans Langfuse
Langfuse est une plateforme open source d'observabilité des LLM (auto-hébergée + SaaS). Elle complète EveryAPI : EveryAPI est la passerelle d'inférence LLM, Langfuse est la plateforme de trace / cost / eval. Un décorateur du SDK d'une ligne enveloppe votre client OpenAI, et chaque requête passant par EveryAPI atterrit automatiquement dans un trace Langfuse.
Une ligne de base URL pointe Langfuse vers EveryAPI
Base URL globale par défaut / Base URL prioritaire Chine : https://api.everyapi.ai/v1 / https://api-cn.everyapi.ai/v1
De zéro à votre premier appel
- Inscrivez-vous à Langfuse
Inscrivez-vous sur cloud.langfuse.com (SaaS) ou auto-hébergez le service avec Docker Compose. Récupérez votre clé publique et votre clé secrète.
cloud.langfuse.com
- Installez le SDK Langfuse
pip install langfuse openai ou npm i langfuse openai. Langfuse est un wrapper, pas un remplacement.
- Pointez le client OpenAI vers EveryAPI
Définissez base_url sur https://api.everyapi.ai/v1 et api_key sur sk-everyapi-... — comme une configuration EveryAPI normale.
- Laissez Langfuse envelopper le client
En Python, from langfuse.openai import openai (en remplacement de l'import openai d'origine), ou en TS, observeOpenAI(new OpenAI(...)). Langfuse trace automatiquement chaque appel.
- Inspectez les traces
Dans le tableau de bord Langfuse, consultez l'input / output / latency / cost / tokens de chaque appel. Le cost est l'estimation de Langfuse basée sur le modèle, et diffère de la facturation réelle d'EveryAPI (EveryAPI utilise une tarification unifiée, tandis que Langfuse estime à partir des prix catalogue en amont) — le tableau de bord EveryAPI est le chiffre qui fait foi.