รันเกตเวย์ EveryAPI ภายใน LlamaIndex
LlamaIndex ใช้อินสแตนซ์ LLM ที่เข้ากันได้กับ OpenAI สำหรับแอป RAG และเอเจนต์ได้ กำหนดค่าการเชื่อมต่อ OpenAI ด้วย base URL คีย์ของ EveryAPI และ ID โมเดลจากแคตตาล็อกในบัญชีของคุณ จากนั้นทดสอบฟีเจอร์ของ LlamaIndex ที่แอปพลิเคชันของคุณใช้จริง
แก้ base URL บรรทัดเดียว ก็ชี้ LlamaIndex มาที่ EveryAPI ได้
Base URL ทั่วโลกเริ่มต้น / Base URL ที่ให้ความสำคัญกับจีน: https://api.everyapi.ai/v1 / https://api-cn.everyapi.ai/v1
from llama_index.llms.openai import OpenAI llm = OpenAI( model="claude-sonnet-5", # ใช้ ID ที่มีอยู่ในบัญชีของคุณ api_base="https://api.everyapi.ai/v1", api_key="sk-everyapi-...",) response = llm.complete("Explain RAG in three sentences")print(response)จากศูนย์สู่การเรียกครั้งแรก
- ติดตั้ง LlamaIndex
ติดตั้ง LlamaIndex และส่วนเชื่อมต่อ OpenAI LLM: pip install llama-index llama-index-llms-openai
- ตั้งค่า api_base + api_key ของอินสแตนซ์ LLM
ใช้ OpenAI(api_base="https://api.everyapi.ai/v1", api_key="sk-everyapi-...", model="...") แทนอินสแตนซ์ OpenAI() ค่าเริ่มต้น
- อยากได้ค่าเริ่มต้นทั่วทั้งระบบ? ตั้ง Settings.llm
หลังจาก Settings.llm = everyapi_llm ทุก query engine / chat engine / เอเจนต์จะใช้ค่านี้โดยอัตโนมัติ ไม่ต้องส่งพารามิเตอร์ llm ทุกครั้ง
เกี่ยวกับ LlamaIndex × EveryAPI
ทำไมไม่ใช้ llama-index-llms-anthropic / llama-index-llms-gemini?
ใช้ได้ แต่ผู้ให้บริการต้นทางทุกรายที่เพิ่มเข้ามาคือ dependency อีกหนึ่งตัว การใช้ llama-index-llms-openai + base URL ของ EveryAPI อย่างเดียวกันทั้งหมด หมายถึงคีย์เดียวและ dependency เดียว