EveryAPI ゲートウェイを次の環境で動かす: LangSmith
LangSmith は LangChain アプリと計装済みクライアント向けの可観測性・評価基盤です。EveryAPI を参照する OpenAI クライアントを追跡し、LangSmith に送る入出力を別途制御します。
base URL を 1 行書くだけで LangSmith を EveryAPI に向けられます
デフォルトのグローバル Base URL / 中国向け優先 Base URL: https://api.everyapi.ai/v1 / https://api-cn.everyapi.ai/v1
ゼロから最初の呼び出しまで
- LangSmith にサインアップ
LangSmith プロジェクトを作成するか、承認済みのセルフホスト環境を使い、現在の文書に従って資格情報を取得します。
smith.langchain.com
- SDK をインストール
OpenAI または LangChain パッケージと互換性のある LangSmith SDK を導入します。
- env vars を設定
現在の環境変数またはクライアントオプションで追跡とプロジェクトを設定し、LangSmith と EveryAPI のキーをシークレットとして保存します。
- OpenAI クライアントを EveryAPI + wrap_openai に向ける
インストール済み SDK が対応するラッパーまたは LangChain 連携で、ベース URL が https://api.everyapi.ai/v1 の OpenAI クライアントを計装します。
- トレースを表示
テストリクエストを送り、意図したテレメトリだけが取得されることを確認します。EveryAPI の利用量と請求は EveryAPI ダッシュボードを基準にします。
LangSmith × EveryAPI について
LangSmith のコスト数値が EveryAPI の ダッシュボードと一致しません?
LangSmith は上流モデルの公開価格からコストを推定します。EveryAPI は統一価格 + マッチングを採用しており、買い手としての実際の課金は EveryAPI のダッシュボードに表示される金額が基準です。これは Langfuse / Helicone と同じ状況です。
wrap_openai と traceable デコレータの違いは何ですか?
wrap_openai は単一の OpenAI クライアントインスタンスにトレースを追加します。@traceable は任意の関数(LLM に限らない)にスパンを追加します。両方を併用できます:wrap_openai が LLM 呼び出しを捕捉し、@traceable がその周りの業務関数をラップしてトレースツリーを構成します。