연동 · Python LLM 프레임워크OpenAI 호환 · 키 하나 · 라이브 카탈로그

다음 환경에서 EveryAPI 게이트웨이를 실행하세요: LlamaIndex

LlamaIndex는 RAG / index / 에이전트 추상화를 중심으로 하는 LLM 앱용 Python 프레임워크입니다. OpenAI Compatible로 EveryAPI에 연결하려면 query engine / chat engine / 에이전트 사용법은 그대로 두고, LLM 인스턴스의 api_base + api_key만 설정하면 모든 상류 모델을 LlamaIndex 앱에서 사용할 수 있습니다.

EveryAPI API 키 받기 →LlamaIndex 공식 사이트로 이동 ↗

01설정 코드

base URL 한 줄로 LlamaIndex을(를) EveryAPI로 연결합니다

기본 글로벌 Base URL / 중국 우선 Base URL: https://api.everyapi.ai/v1 / https://api-cn.everyapi.ai/v1

app.py

from llama_index.llms.openai import OpenAI
 
llm = OpenAI(
    model="claude-sonnet-5",     # EveryAPI가 지원하는 모든 모델
    api_base="https://api.everyapi.ai/v1",
    api_key="sk-everyapi-...",
)
 
response = llm.complete("Explain RAG in three sentences")
print(response)

02단계

처음부터 첫 호출까지

LlamaIndex 설치
pip install llama-index llama-index-llms-openai. 모든 표준 LlamaIndex 예제는 평소처럼 실행됩니다.
LLM 인스턴스의 api_base + api_key 설정
기본 OpenAI() 인스턴스 대신 OpenAI(api_base="https://api.everyapi.ai/v1", api_key="sk-everyapi-...", model="...")를 사용하세요.
전역 기본값이 필요하신가요? Settings.llm 설정
Settings.llm = everyapi_llm 이후에는 모든 query engine / chat engine / agent가 자동으로 그것을 사용하므로, 매번 llm 파라미터를 전달할 필요가 없습니다.

03FAQ

LlamaIndex × EveryAPI 소개

왜 llama-index-llms-anthropic / llama-index-llms-gemini를 사용하지 않나요?

쓸 수 있지만, 업스트림 provider를 추가할 때마다 의존성이 하나씩 늘어납니다. llama-index-llms-openai + EveryAPI base URL을 일관되게 사용하면 하나의 키, 하나의 의존성으로 끝납니다.

04기타 연동

EveryAPI는 이런 것들에도 연결됩니다

로우코드 LLM 앱 플랫폼

Dify →Dify 워크플로우 / 에이전트에 EveryAPI를 모델 공급자로 추가하세요.

중국 LLM 지식 베이스 / 워크플로 플랫폼

FastGPT →현재 FastGPT 배포를 OpenAI 호환 설정으로 EveryAPI에 연결하세요.

멀티 에이전트 프레임워크

CrewAI →검증한 모델을 EveryAPI를 통해 호출하도록 CrewAI LLM을 설정하세요.

LangChain 계열의 상태 유지 에이전트 오케스트레이션

LangGraph →LangGraph 워크플로에서 EveryAPI에 연결된 ChatOpenAI 클라이언트를 사용하세요.

LLM 옵저버빌리티

Langfuse →Langfuse로 EveryAPI를 거치는 LLM 호출을 추적하세요 — 트레이스, 비용, 품질을 한곳에서 확인합니다.

CVS Code / JetBrains AI 확장 프로그램

Continue →Continue에서 EveryAPI를 가리키는 OpenAI provider를 하나 설정하고, 에디터 전반에서 재사용하세요.모든 연동 보기 →