연동 · LLM 옵저버빌리티OpenAI 호환 · 키 하나 · 라이브 카탈로그
H
다음 환경에서 EveryAPI 게이트웨이를 실행하세요: Helicone
Helicone 프록시 모드는 OpenAI 호환 요청을 대상 URL로 전달하면서 관측 데이터를 수집할 수 있습니다. EveryAPI와 연결하기 전에 추가 데이터 처리자, 네트워크 홉, 헤더, 장애 동작을 검토하세요.
01설정 코드
base URL 한 줄로 Helicone을(를) EveryAPI로 연결합니다
Base URL: https://api.everyapi.ai/v1
app.py
# Helicone 프록시 모드: 기본 URL를 oai.helicone으로 변경합니다.ai/v1,# 실제 업스트림(EveryAPI)을 지정하려면 Helicone-Target-Url 헤더를 사용하세요. from openai import OpenAI client = OpenAI( base_url="https://oai.helicone.ai/v1", api_key="sk-everyapi-...", # EveryAPI 키 default_headers={ "Helicone-Auth": "Bearer sk-helicone-...", # Helicone 키 "Helicone-Target-Url": "https://api.everyapi.ai", # 앞으로 목표 },) resp = client.chat.completions.create( model="claude-sonnet-5", messages=[[{"role": "user", "content": "Hello"}]],)02단계
처음부터 첫 호출까지
- Helicone 가입
us.helicone.ai에서 가입하여 sk-helicone- key를 받으세요(docker 한 줄 명령으로 셀프호스팅도 가능합니다).
us.helicone.ai
- proxy와 async logger 중에서 결정하기
Proxy 모드는 base URL을 oai.helicone.ai/v1로 바꾸고 Helicone-Target-Url을 EveryAPI로 지정합니다. Async logger는 요청을 EveryAPI로 직접 보내고 텔레메트리를 별도로 전송합니다. 각 방식의 네트워크, 개인정보, 장애 특성을 환경에서 검증하세요.
- API 키의 관계
Helicone 키를 Helicone-Auth 헤더에, EveryAPI 키를 Authorization(OpenAI 클라이언트의 api_key)에 넣으세요. Helicone은 Helicone-Target-Url을 사용해 요청을 EveryAPI로 전달하고, OpenAI 키 헤더를 EveryAPI로 그대로 넘깁니다.
- Helicone dashboard에서 추적 보기
us.helicone.ai/requests로 가면 각 호출의 입력 / 출력 / 지연 시간 / 비용 / tokens를 볼 수 있습니다. 비용 수치는 모델별 추정치로, EveryAPI의 실제 청구와는 차이가 있습니다(Langfuse와 동일).
04기타 연동
EveryAPI는 이런 것들에도 연결됩니다
LangChain 공식 LLM Observability
LangSmith →수집 데이터를 통제하면서 EveryAPI 연결 클라이언트의 호출을 LangSmith에서 추적하세요.LLM 옵저버빌리티
Langfuse →Langfuse로 EveryAPI를 거치는 LLM 호출을 추적하세요 — 트레이스, 비용, 품질을 한곳에서 확인합니다.L셀프 호스팅 오픈 소스 ChatUI
LibreChat →현재 LibreChat 배포에 EveryAPI를 사용자 정의 엔드포인트로 추가하세요.LangChain 계열의 상태 유지 에이전트 오케스트레이션
LangGraph →LangGraph 워크플로에서 EveryAPI에 연결된 ChatOpenAI 클라이언트를 사용하세요.TypeScript AI 에이전트 프레임워크
Mastra →지원되는 OpenAI 호환 공급자로 현재 Mastra 프로젝트를 EveryAPI에 연결하세요.자기 개선형 자율 에이전트(Nous Research)
Hermes Agent →현재 Hermes Agent가 문서화한 사용자 정의 공급자 경로로 EveryAPI를 사용하세요.모든 연동 보기 →