Chạy gateway EveryAPI trong Langfuse
Langfuse là nền tảng khả năng quan sát mã nguồn mở, có thể truy vết các lượt gọi của ứng dụng được thực hiện bằng những client đã gắn instrumentation được hỗ trợ. EveryAPI vẫn là endpoint suy luận và tính phí; Langfuse ghi lại dữ liệu telemetry mà ứng dụng của bạn gửi tới nó.
Một dòng base URL trỏ Langfuse sang EveryAPI
Base URL toàn cầu mặc định / Base URL ưu tiên Trung Quốc: https://api.everyapi.ai/v1 / https://api-cn.everyapi.ai/v1
Từ số không đến lệnh gọi đầu tiên
- Đăng ký Langfuse
Đăng ký tại cloud.langfuse.com (SaaS) hoặc tự host bằng docker compose. Lấy public key + secret key của bạn.
cloud.langfuse.com
- Cài đặt Langfuse SDK
pip install langfuse openai hoặc npm i langfuse openai. Langfuse là một wrapper, không phải bản thay thế.
- Trỏ client OpenAI tới EveryAPI
Đặt base_url thành https://api.everyapi.ai/v1 và api_key thành sk-everyapi-... — giống như một thiết lập EveryAPI thông thường.
- Để Langfuse bọc client
Hãy dùng cách tích hợp được mô tả trong tài liệu cho phiên bản Langfuse SDK bạn đã cài để gắn instrumentation cho client OpenAI đang trỏ tới EveryAPI. API của Langfuse SDK thay đổi theo thời gian, vì vậy hãy làm theo ví dụ chính thức hiện hành của nó.
- Kiểm tra trace
Hãy kiểm tra dữ liệu telemetry mà phần instrumentation Langfuse của bạn thu được. Với việc tính phí của EveryAPI, hãy lấy bảng điều khiển EveryAPI làm căn cứ; các công cụ khả năng quan sát có thể tính chi phí dựa trên siêu dữ liệu giá khác.