다음 환경에서 EveryAPI 게이트웨이를 실행하세요: Helicone
Helicone 프록시 모드는 OpenAI 호환 요청을 대상 URL로 전달하면서 관측 데이터를 수집할 수 있습니다. EveryAPI와 연결하기 전에 추가 데이터 처리자, 네트워크 홉, 헤더, 장애 동작을 검토하세요.
base URL 한 줄로 Helicone을(를) EveryAPI로 연결합니다
기본 글로벌 Base URL / 중국 우선 Base URL: https://api.everyapi.ai/v1 / https://api-cn.everyapi.ai/v1
# Helicone 프록시 모드: 기본 URL를 oai.helicone으로 변경합니다.ai/v1,# 실제 업스트림(EveryAPI)을 지정하려면 Helicone-Target-Url 헤더를 사용하세요. from openai import OpenAI client = OpenAI( base_url="https://oai.helicone.ai/v1", api_key="sk-everyapi-...", # EveryAPI 키 default_headers={ "Helicone-Auth": "Bearer sk-helicone-...", # Helicone 키 "Helicone-Target-Url": "https://api.everyapi.ai", # 앞으로 목표 },) resp = client.chat.completions.create( model="claude-sonnet-5", messages=[[{"role": "user", "content": "Hello"}]],)처음부터 첫 호출까지
- Helicone 가입
us.helicone.ai에서 가입하여 sk-helicone- key를 받으세요(docker 한 줄 명령으로 셀프호스팅도 가능합니다).
us.helicone.ai
- proxy와 async logger 중에서 결정하기
Proxy 모드는 base URL을 oai.helicone.ai/v1로 바꾸고 Helicone-Target-Url을 EveryAPI로 지정합니다. Async logger는 요청을 EveryAPI로 직접 보내고 텔레메트리를 별도로 전송합니다. 각 방식의 네트워크, 개인정보, 장애 특성을 환경에서 검증하세요.
- API 키의 관계
Helicone 키를 Helicone-Auth 헤더에, EveryAPI 키를 Authorization(OpenAI 클라이언트의 api_key)에 넣으세요. Helicone은 Helicone-Target-Url을 사용해 요청을 EveryAPI로 전달하고, OpenAI 키 헤더를 EveryAPI로 그대로 넘깁니다.
- Helicone dashboard에서 추적 보기
us.helicone.ai/requests로 가면 각 호출의 입력 / 출력 / 지연 시간 / 비용 / tokens를 볼 수 있습니다. 비용 수치는 모델별 추정치로, EveryAPI의 실제 청구와는 차이가 있습니다(Langfuse와 동일).