당신의 GPU는 하루 대부분 놀고 있습니다. 이제 게이트웨이 쪽으로 돌려 보세요.
남는 GPU가 있는 컴퓨터에서 오픈소스 Edge 에이전트를 실행하세요. 내 컴퓨터가 EveryAPI 쪽으로 연결을 걸고, 그 컴퓨터에서 돌아가는 Ollama로 마켓플레이스 요청에 답합니다. 열어 둘 포트도, 공개 주소도, 도메인도, 방화벽을 손볼 일도 없습니다. 승인된 판매자는 대시보드에서 노드를 추가하고 한 번만 쓰는 설치 코드를 받습니다.
연결은 밖으로 나갑니다. 그게 핵심입니다.
집이나 사무실 컴퓨터에는 공개 주소가 있는 경우가 거의 없고, 저희도 그런 걸 준비하라고 하고 싶지 않았습니다. 대신 내 컴퓨터가 저희 쪽으로 연결을 열고 계속 유지합니다. 메신저 앱이 계속 연결되어 있는 것과 같은 방식입니다.
- 01구매자쓰던 도구가 원래 주고받는 형식 그대로, 평범한 요청을 보냅니다.
- 02게이트웨이요청을 정리하고, 그 모델을 갖고 있는 노드를 고릅니다.
- 03내 에이전트자기가 열어 둔 연결로 일을 받고, 전달해도 되는 몇 안 되는 요청 중 하나가 맞는지 확인합니다.
- 04내 컴퓨터의 Ollama내 GPU에서 실행됩니다. 답변은 왔던 길 그대로 되돌아갑니다.
내 컴퓨터 쪽을 가리키는 화살표는 내 컴퓨터가 직접 만든 연결입니다. 저희가 내 네트워크 안으로 들어갈 수는 없습니다. 노드에 필요한 건 api.everyapi.ai에 접속할 수 있다는 것뿐이고, 여느 웹사이트에 접속하는 것과 똑같습니다.
내 GPU가 글자를 만들어 내는 대로 바로 내보내기 때문에, 구매자는 답이 다 될 때까지 기다리지 않고 글이 써지는 모습을 그대로 봅니다. 중간에 연결이 끊기면 그 요청은 실패로 처리되고, 끝난 것처럼 요금이 매겨지지 않습니다.
같은 대화에서 이어지는 메시지는 같은 노드로 다시 옵니다. 내 컴퓨터에 앞선 내용이 아직 올라와 있어서 그만큼 빠릅니다. 노드가 새로 들어오거나 빠져도, 영향을 받는 건 그 노드에 있던 대화뿐입니다.
컴퓨터는 몇 대든 채널 하나에 묶을 수 있습니다. 그 채널에는 여러 컴퓨터가 가진 모델이 전부 합쳐져 올라갑니다. 그래서 모든 컴퓨터에 똑같은 모델을 깔아 둘 필요가 없습니다.
노드는 수시로 잘 돌아가고 있다고 알려 옵니다. 그게 멈추면, 그러니까 정전이 나거나 재부팅되거나 연결이 끊기면, 저희가 알아채고 꺼진 것으로 표시한 뒤 다시 돌아올 때까지 일을 보내지 않습니다. 누가 손댈 필요는 없습니다.
명령어 한 줄을 GPU가 있는 컴퓨터에서 실행하면 됩니다.
대시보드에서 노드를 추가해 한 번만 쓰는 설치 코드를 받고, 그 컴퓨터에서 설치 프로그램을 실행하세요. 어떤 장비를 갖고 있는지 알아서 확인하고, 거기 맞게 다 준비한 다음, 실행까지 해 줍니다.
노드 만들기
승인된 판매자는 대시보드에서 edge 노드를 추가하고 설치 코드를 받습니다. 코드는 딱 한 번만 보여 줍니다. 저희가 갖고 있는 건 알아볼 수 없게 뒤섞은 형태뿐이고, 내 컴퓨터가 연결되고 나면 그것마저 지웁니다.
설치 프로그램 실행하기
GPU 메모리가 얼마나 되는지, 저장 공간이 얼마나 남았는지 확인해서 넉넉히 들어가는 모델을 고르고, 내려받은 다음, 실제로 시험 질문을 한 번 돌려 보고 나서야 잘 됐다고 알려 줍니다. 직접 고르고 싶으면 --model을 붙이세요.
온라인으로 바뀌는지 보기
내 컴퓨터가 자기만의 개인 키를 만들고, 자기가 맞다는 걸 증명하고, 어떤 모델을 갖고 있는지 알려 줍니다. 팔 수 있는 모델을 하나라도 가진 컴퓨터가 연결될 때까지, 내 채널은 꺼진 채로 있습니다.
# 아래 값은 노드를 만들 때 대시보드에서 알려 줍니다curl -fsSL https://dl.everyapi.ai/edge/install.sh | bash -s -- \ --node-id 42 --token edgert_... # 자동으로 고르는 대신 모델을 직접 정하기curl -fsSL https://dl.everyapi.ai/edge/install.sh | bash -s -- \ --node-id 42 --token edgert_... --model qwen2.5:7b처음 한 번에 잘 안 되더라도 발이 묶이지 않도록 설치 프로그램이 챙기는 것들이 있습니다. 코드를 모아 두는 폴더 안에서는 실행되지 않습니다. 설치 코드가 실수로 남들과 공유할 만한 곳에 남지 않게 하려는 것입니다. 연결이 실제로 확인될 때까지 그 코드를 갖고 있어서, 처음에 실패해도 죽은 노드를 남기는 대신 다시 해 볼 수 있습니다. 그리고 나중에 다시 실행해도 아무 문제 없습니다.
GPU 종류 세 가지, 알아서 찾습니다
설치 프로그램이 어떤 장비를 갖고 있는지 알아서 확인합니다. NVIDIA, 그다음 AMD, 그다음 Apple Silicon, 그다음 CPU 순으로 보고 거기에 맞게 준비합니다. 빠진 게 있으면 알려 주고 멈춥니다. 물어보지 않고 컴퓨터에 뭔가를 설치하는 일은 없습니다.
가장 흔한 구성이고 기본값입니다. 그래픽 드라이버가 어느 정도 최신이어야 하고, NVIDIA의 컨테이너 도구를 먼저 설치해 두어야 합니다.
AMD 그래픽카드에서도 돌아갑니다. 다만 AMD의 ROCm을 컴퓨터에 미리 설치해 두어야 합니다.
Mac은 그래픽 칩을 Docker와 나눠 쓸 수 없습니다. 그래서 Mac에서는 모델을 컴퓨터에서 바로 실행하고, 컨테이너 안에서는 에이전트만 돌아갑니다.
그래픽카드 없이 CPU로 돌아가고, 답도 CPU가 만듭니다. 한번 해 보기에는 괜찮고, 딱 한 가지 일, 그러니까 글을 검색하기 좋은 숫자로 바꾸는 일에는 정말 쓸모가 있습니다. 다만 채팅은 속도가 턱없이 느려서 상업적으로 팔 만하지 않습니다.
Docker가 설치되어 있어야 하고, Docker Compose도 너무 오래된 버전이면 안 됩니다. 설치 프로그램도 CLI도 이 둘이 깔려 있는지 확인만 하고, 없으면 받을 수 있는 링크를 알려 줍니다. 대신 깔아 주지는 않습니다. Edge 에이전트는 Linux와 macOS에서 돌아갑니다.
설치한 뒤에 필요한 건 명령어 하나뿐
돌아가는 노드에 필요한 건 명령어 하나로 다 됩니다. 대시보드에도 똑같은 내용이 나옵니다. 노드마다 컴퓨터 안에서 자기 자리를 따로 쓰기 때문에, 여러 개를 나란히 돌려도 됩니다.
everyapi edge status내 컴퓨터에서 벌어지는 일을 저희가 보는 내용과 나란히 보여 줍니다. 켜져 있는지 꺼져 있는지, 마지막으로 언제 소식을 보냈는지, 어떤 모델이 깔려 있는지까지.
everyapi edge models노드에 있는 모델을 추가하고, 지우고, 목록으로 봅니다. 터미널을 열어 두지 않아도 잘 돌아가서 자동으로 돌게 만들어 둘 수 있습니다.
everyapi edge pause새 일이 들어오는 걸 멈추고, 컴퓨터를 다시 켜도 그 상태 그대로입니다. 모르는 사이에 다시 일을 시작하는 일은 없습니다. 컴퓨터를 여러 대 돌리고 있다면 하나를 멈춰도 나머지는 계속 돌아갑니다.
everyapi edge logs -f노드가 지금 뭘 하고 있는지 실시간으로 볼 수 있습니다. 터미널을 쓰고 싶지 않다면 대시보드에서도 노드별로 같은 내용을 볼 수 있습니다.
everyapi edge update최신 버전을 받아서 다시 시작합니다. 저절로 업데이트되는 건 아무것도 없습니다. 내 컴퓨터에 있는 프로그램은 이 명령을 직접 실행할 때만 바뀝니다.
everyapi edge remove전부 끄고, 만들어 둔 파일을 지우고, 등록은 남겨 두라고 하지 않는 한 노드도 없앱니다. 그러기 전에 먼저 물어봅니다.
그래서 정확히 무엇을 할 수 있고 무엇을 할 수 없는지 적어 둡니다.
저희를 믿어 달라는 약속이 아닙니다. 하나하나가 프로그램이 그렇게 만들어져 있다는 뜻이고, 코드는 직접 읽어 볼 수 있습니다.
에이전트는 처음 실행될 때 개인 키를 만들고, 나 말고는 아무도 못 읽게 잠가 둡니다. 그 파일을 다른 사람이 읽을 수 있게 되면, 에이전트는 그냥 넘어가지 않고 아예 시작을 거부합니다. 저희가 보는 건 공개된 쪽 절반뿐입니다.
에이전트는 모델이 답하는 데 필요한 몇 안 되는 요청만 전달합니다. 이 제한은 저희가 설정으로 정하는 게 아니라 에이전트 안에 아예 박혀 있습니다. 저희 쪽이 뚫리더라도 내 컴퓨터에 다른 일을 시킬 수는 없습니다.
에이전트에는 그걸 넣어 둘 자리 자체가 없습니다. 남기는 기록에 질문이나 답변이 들어갈 칸이 아예 없습니다. 어떤 모델을 썼는지, 얼마나 걸렸는지, 얼마나 처리했는지, 그리고 아무 의미 없는 고객 표시만 적습니다. 질문도, 답변도, 키도, 이메일 주소도 없습니다.
코드는 한 번만 보여 주고, 저희는 알아볼 수 없게 뒤섞은 형태만 갖고 있다가, 내 컴퓨터가 처음 연결되고 나면 그것마저 지웁니다. 그래서 누구도 다시 쓸 수 없습니다. 그다음부터는 내 컴퓨터가 매번 자기 키로 자기가 맞다는 걸 증명합니다.
새 버전은 내가 달라고 할 때만 들어옵니다. 그리고 대시보드에서 노드를 지우면 에이전트에 완전히 멈추라는 신호가 갑니다. 끝없이 다시 시도하지 않고, 왜 멈췄는지 분명히 남기고 그대로 꺼집니다.
수익은 그 요청의 요금이 실제로 결제된 뒤에만 잡히고, 요청 하나는 한 번만 계산됩니다. 그때 내 컴퓨터가 꺼져 있었다면 다음에 연결될 때 못 받은 몫을 받아 갑니다. 수익은 판매자 잔액에 쌓이고, 메인 잔액으로 옮기는 건 따로 하는 일입니다.
에이전트는 Apache 2.0 오픈소스이고, 전체 코드는 github.com/everyapi-ai/everyapi-edge에 있습니다. 위에 적은 내용도 전부 그 안에 들어 있습니다.
아니요. Edge 노드는 마켓플레이스의 일부이고, 판매자 권한은 심사를 거칩니다. 먼저 신청하시면 저희가 검토합니다. 계정을 만든 지 얼마나 됐는지, 그동안 어떻게 써 왔는지 같은 것들을 보고, 이 기준은 운영자가 조정할 수 있습니다. 그 뒤에야 노드를 추가할 수 있습니다.
남아도는 GPU를, 쓸모 있는 곳으로.
판매자 권한을 신청하고, 노드를 등록하고, 컴퓨터에서 명령어 한 줄을 실행하세요. 판매자 권한은 심사를 거쳐 부여됩니다.