รันเกตเวย์ EveryAPI ภายใน Langfuse
Langfuse เป็นแพลตฟอร์มการสังเกตการณ์แบบโอเพนซอร์ส ซึ่งสามารถติดตามการเรียกของแอปพลิเคชันที่ทำผ่านไคลเอนต์ที่รองรับและติดตั้งการวัดผลไว้ โดย EveryAPI ยังคงเป็น endpoint สำหรับการอนุมานและการเรียกเก็บเงิน ส่วน Langfuse บันทึกข้อมูลเทเลเมทรีที่แอปของคุณส่งไปให้
แก้ base URL บรรทัดเดียว ก็ชี้ Langfuse มาที่ EveryAPI ได้
Base URL ทั่วโลกเริ่มต้น / Base URL ที่ให้ความสำคัญกับจีน: https://api.everyapi.ai/v1 / https://api-cn.everyapi.ai/v1
จากศูนย์สู่การเรียกครั้งแรก
- สมัครใช้งาน Langfuse
สมัครที่ cloud.langfuse.com (SaaS) หรือโฮสต์เองด้วย docker compose แล้วรับ public key + secret key ของคุณ
cloud.langfuse.com
- ติดตั้ง Langfuse SDK
pip install langfuse openai หรือ npm i langfuse openai — Langfuse เป็น wrapper ไม่ใช่ตัวแทน
- ชี้ไคลเอนต์ OpenAI ไปที่ EveryAPI
ตั้ง base_url เป็น https://api.everyapi.ai/v1 และ api_key เป็น sk-everyapi-... — เหมือนการตั้งค่า EveryAPI ตามปกติ
- ให้ Langfuse ห่อหุ้มไคลเอนต์
ใช้วิธีผสานรวมตามเอกสารของ Langfuse SDK เวอร์ชันที่คุณติดตั้ง เพื่อติดตั้งการวัดผลให้ไคลเอนต์ OpenAI ที่ชี้ไปยัง EveryAPI ทั้งนี้ API ของ Langfuse SDK เปลี่ยนแปลงไปตามเวลา จึงควรทำตามตัวอย่างอย่างเป็นทางการฉบับปัจจุบัน
- ตรวจสอบ trace
ตรวจสอบข้อมูลเทเลเมทรีที่การวัดผลของ Langfuse เก็บได้ ให้ถือว่าแดชบอร์ด EveryAPI เป็นข้อมูลอ้างอิงที่ถูกต้องสำหรับการเรียกเก็บเงินของ EveryAPI เครื่องมือสังเกตการณ์อาจคำนวณต้นทุนโดยใช้ข้อมูลราคาคนละชุด