EveryAPI ゲートウェイを次の環境で動かす： LlamaIndex
LlamaIndex は LLM アプリ向けの Python フレームワークで、RAG / index / エージェントの抽象化を中心としています。OpenAI Compatible で EveryAPI に接続するには、query engine / chat engine / エージェントの使い方はそのままに、LLM インスタンスの api_base + api_key を設定するだけで、あらゆる上流モデルを LlamaIndex アプリで使えるようになります。
base URL を 1 行書くだけで LlamaIndex を EveryAPI に向けられます
デフォルトのグローバル Base URL / 中国向け優先 Base URL: https://api.everyapi.ai/v1 / https://api-cn.everyapi.ai/v1
from llama_index.llms.openai import OpenAI llm = OpenAI( model="claude-sonnet-5", # EveryAPI がサポートする任意のモデル api_base="https://api.everyapi.ai/v1", api_key="sk-everyapi-...",) response = llm.complete("Explain RAG in three sentences")print(response)ゼロから最初の呼び出しまで
- LlamaIndex をインストール
pip install llama-index llama-index-llms-openai。標準的な LlamaIndex のサンプルはすべてそのまま動作します。
- LLM インスタンスの api_base + api_key を設定
デフォルトの OpenAI() インスタンスの代わりに OpenAI(api_base="https://api.everyapi.ai/v1", api_key="sk-everyapi-...", model="...") を使用します。
- グローバルなデフォルトが欲しい？ Settings.llm を設定
Settings.llm = everyapi_llm の後は、すべての query engine / chat engine / エージェントが自動的にそれを使うため、毎回 llm パラメータを渡す必要はありません。
LlamaIndex × EveryAPI について
なぜ llama-index-llms-anthropic / llama-index-llms-gemini を使わないのですか？
使えますが、上流の プロバイダーを追加するたびに依存関係が1つ増えます。llama-index-llms-openai + EveryAPI base URL を一貫して使えば、1つのキー、1つの依存関係で済みます。