รันเกตเวย์ EveryAPI ภายใน LangSmith
LangSmith เป็นแพลตฟอร์มสำหรับการสังเกตการณ์และประเมินผลของแอปพลิเคชัน LangChain และไคลเอนต์ที่ติดตั้งการวัดผลไว้ ติดตามไคลเอนต์ OpenAI ที่ชี้ไปยัง EveryAPI และควบคุมแยกต่างหากว่าจะส่งอินพุตและเอาต์พุตใดของแอปพลิเคชันไปยัง LangSmith
แก้ base URL บรรทัดเดียว ก็ชี้ LangSmith มาที่ EveryAPI ได้
Base URL ทั่วโลกเริ่มต้น / Base URL ที่ให้ความสำคัญกับจีน: https://api.everyapi.ai/v1 / https://api-cn.everyapi.ai/v1
จากศูนย์สู่การเรียกครั้งแรก
- สมัครใช้งาน LangSmith
สร้างโปรเจกต์ LangSmith หรือใช้การติดตั้งแบบโฮสต์เองที่ได้รับอนุมัติ จากนั้นขอข้อมูลรับรองตามเอกสาร LangSmith ฉบับปัจจุบัน
smith.langchain.com
- ติดตั้ง SDK
ติดตั้ง LangSmith SDK เวอร์ชันที่เข้ากันได้กับแพ็กเกจ OpenAI หรือ LangChain ของคุณ
- ตั้งค่า env vars
กำหนดค่าการติดตามและการตั้งค่าโปรเจกต์ของ LangSmith ผ่านตัวแปรสภาพแวดล้อมหรือตัวเลือกไคลเอนต์ฉบับปัจจุบัน เก็บคีย์ทั้งของ LangSmith และ EveryAPI ไว้เป็นข้อมูลลับ
- ชี้ไคลเอนต์ OpenAI ไปที่ EveryAPI + wrap_openai
ติดตั้งการวัดผลให้ไคลเอนต์ OpenAI ที่มี base URL เป็น https://api.everyapi.ai/v1 ด้วย wrapper หรือการผสานรวมกับ LangChain ที่ SDK เวอร์ชันที่คุณติดตั้งรองรับ
- ดู trace
ส่งคำขอทดสอบและยืนยันว่าเก็บข้อมูลเทเลเมทรีได้ตามที่ตั้งใจ ใช้แดชบอร์ด EveryAPI เป็นแหล่งข้อมูลที่ถูกต้องสำหรับการใช้งานและการเรียกเก็บเงินของ EveryAPI
เกี่ยวกับ LangSmith × EveryAPI
ตัวเลขต้นทุนใน LangSmith ไม่ตรงกับแดชบอร์ด EveryAPI?
LangSmith ประมาณต้นทุนจากราคาสาธารณะของโมเดลต้นทาง ส่วน EveryAPI ใช้ราคารวมศูนย์ + การจับคู่ และยอดที่คุณถูกเรียกเก็บจริงในฐานะผู้ซื้อคือยอดที่แสดงในแดชบอร์ด EveryAPI สถานการณ์เดียวกันนี้เกิดกับ Langfuse / Helicone เช่นกัน
wrap_openai กับเดคอเรเตอร์ traceable ต่างกันอย่างไร?
wrap_openai เพิ่มการติดตามให้อินสแตนซ์ไคลเอนต์ OpenAI ตัวเดียว ส่วน @traceable เพิ่ม span ให้ฟังก์ชันใดก็ได้ (ไม่จำกัดแค่ LLM) คุณใช้ทั้งสองอย่างร่วมกันได้ โดย wrap_openai จับการเรียก LLM และ @traceable ห่อฟังก์ชันธุรกิจของคุณไว้รอบนอกเพื่อประกอบเป็นต้นไม้ของ trace