Free LLM Gateway 접근 키 요청

요청 하나 · 무료 모델 10개

무료 모델을 한 곳에서.
끊기지 않게.

Free LLM Gateway는 여러 곳의 무료 모델을 하나로 묶습니다. 지금 답할 수 있는 곳을 골라 보내고, 막히면 응답이 시작되기 전에 다음 곳으로 넘깁니다. API 키는 하나면 됩니다.

접근 키 요청 모델 보기
내 요청/v1/chat/completions
후보 1 429 · 한도 초과 후보 2 selected · 200 OK 후보 3 대기

예시 경로입니다. 실제로는 별칭에 정해 둔 순서와 각 제공사의 지금 한도에 따라 고릅니다.

확인하고, 보내고, 넘깁니다.

base URL과 발급받은 키만 넣으면 OpenAI SDK에서 그대로 동작합니다.

Check

한도를 먼저 확인합니다

제공사마다 분당·하루 무료 한도를 지키고, 알려주는 제공사는 응답 헤더로 남은 양을 배웁니다.

Route

정해 둔 순서대로 보냅니다

별칭 하나에 여러 후보가 있고, 지금 쓸 수 있는 첫 후보로 요청을 보냅니다.

Fall back

막히면 다음으로 넘깁니다

429·5xx·시간 초과면 첫 바이트가 나가기 전에 다음 후보로 바꿉니다. 스트리밍은 그대로 흘려보냅니다.

지금 쓸 수 있는 별칭

모델 이름 대신 별칭을 쓰면 가능한 무료 모델로 알아서 이어집니다. 아래 목록은 /v1/catalog에서 가져옵니다.

별칭포함 모델
auto
google/gemma-4-31b-itopenai/gpt-oss-120bopenai/gpt-oss-20bqwen/qwen3.8-27bMeta-Llama-3_3-70B-InstructMistral-Small-3.2-24B-Instruct-2506
fast/free
openai/gpt-oss-20bqwen/qwen3.8-27bgoogle/gemma-4-31b-itgoogle/gemma-4-26b-a4b-itpoolside/laguna-s-2.1cohere/north-mini-codethinkingmachines/inkling
free
google/gemma-4-31b-itopenai/gpt-oss-120bopenai/gpt-oss-20bqwen/qwen3.8-27bMeta-Llama-3_3-70B-InstructMistral-Small-3.2-24B-Instruct-2506
large/free
google/gemma-4-31b-itopenai/gpt-oss-120bMeta-Llama-3_3-70B-Instruct

포함 모델은 시도하는 순서대로 나열되어 있습니다. 쓸 수 있는 별칭은 auto·free·fast/free·large/free 네 가지뿐이며, 다른 모델 이름은 404 model_not_found를 돌려줍니다. 무료 한도는 모든 사용자가 함께 씁니다.

키 하나로 시작하기

지금은 초대제로 운영합니다. 키를 받으면 OpenAI SDK에서 바로 쓸 수 있습니다.

from openai import OpenAI

client = OpenAI(base_url="https://gateway-production-7908.up.railway.app/v1", api_key="YOUR_KEY")
client.chat.completions.create(model="free", messages=[{"role": "user", "content": "안녕"}])
# 응답 본문의 model 필드로 실제로 답한 모델을 확인할 수 있습니다.
접근 키 요청

위 버튼을 누르면 메일이 열립니다. 이름·사용 용도·예상 사용량·연락처를 적어 보내면 운영자가 직접 검토해서 키를 메일로 보내 드립니다. 키는 개인용이며 다른 사람에게 넘기면 안 됩니다. 키가 유출되면 같은 메일로 알려주세요. 해당 키는 폐기하고 새로 발급합니다.

이용 전에

무료 엔드포인트를 쓰기 전에 알아두면 좋은 내용입니다.

운영 주체

개인이 운영하는 비공식 서비스입니다. 어느 제공 측과도 제휴·공식 관계가 아니며, 각 모델의 권리는 해당 제공 측에 있습니다.

가용성

가용성 보장(SLA)은 없습니다. 제공 측 사정으로 모델은 예고 없이 빠지거나 바뀔 수 있으니, 실험·평가 용도로 쓰는 것을 권장합니다.

키 사용

발급받은 키는 개인용이고 양도할 수 없습니다. 무료 한도를 모든 사용자가 함께 쓰므로, 몰아서 쓰면 다른 사람까지 막힙니다.

키별 요청 한도

키 하나는 분당 20회, 하루 500회까지 요청할 수 있습니다. 한도를 넘기면 429 rate_limit_exceeded를 돌려주고, Retry-After 헤더(초)로 다시 시도할 시점을 알려드립니다.

요청 시간 제한

한 요청은 최대 300초까지 실행됩니다. 그보다 오래 걸리는 작업은 나눠서 요청하세요.

약관 적용

각 제공 측의 이용 약관과 사용 정책이 이 게이트웨이를 거치는 모든 요청에 그대로 적용됩니다. 위반하면 경위와 관계없이 키를 폐기합니다.

데이터와 학습

게이트웨이는 프롬프트와 응답을 저장하지 않습니다. 일부 무료 모델은 제공 측 약관에 따라 입력이 학습에 쓰일 수 있으니 민감한 정보는 보내지 마세요.

호출 방법

브라우저에서 직접 호출할 수 없습니다. 키가 노출되므로 반드시 서버에서만 사용하세요. 지원 엔드포인트는 /v1/chat/completions(스트리밍 포함)와 /v1/models이며, 요청 본문은 최대 1MB입니다.

자주 묻는 질문

정말 무료인가요?

네. 각 제공사가 무료로 여는 모델만 씁니다. 대신 제공사마다 하루·분당 한도가 있어, 많이 쓰면 일시적으로 다음 후보로 넘어가거나 잠시 기다려야 합니다.

한도를 다 쓰면 어떻게 되나요?

모든 후보가 무료 한도에 걸리면 HTTP 429와 rate_limit_exceeded 코드를 돌려줍니다. Retry-After 헤더에 다시 시도할 수 있는 시점(초 단위)이 담기고, OpenAI SDK는 이 헤더를 읽어 자동으로 재시도합니다.

요청 수에 제한이 있나요?

키마다 분당 20회, 하루 500회까지 요청할 수 있습니다. 한도를 넘기면 마찬가지로 429와 Retry-After 헤더를 돌려줍니다.

요청이 오래 걸려도 되나요?

한 요청은 최대 300초까지 실행됩니다. 그보다 오래 걸리는 작업은 나눠서 보내 주세요.

어떤 모델 이름을 쓸 수 있나요?

auto, free, fast/free, large/free 네 별칭만 쓸 수 있습니다. 이 외의 모델 이름은 404 model_not_found를 돌려줍니다.

스트리밍이 중간에 끊기면 어떻게 되나요?

스트림이 중간에 끊기면 그냥 조용히 끝나지 않습니다. 끝에 upstream_interrupted 코드가 담긴 error 객체가 든 데이터 청크를 하나 보내고 스트림을 닫으며, OpenAI SDK는 이 청크를 만나면 APIError를 던집니다. 그래서 코드에서도 끊긴 사실을 알 수 있습니다.

어떤 모델이 답했는지 알 수 있나요?

응답 본문의 model 필드에 실제로 답한 모델이 들어 있고, x-free-llm-attempts 헤더로 몇 번째 후보가 답했는지 알 수 있습니다.

내 대화 내용이 저장되나요?

게이트웨이는 프롬프트와 응답을 기록하지 않습니다. 일부 무료 모델은 제공 측 약관에 따라 입력을 학습에 쓸 수 있으니 민감한 내용은 보내지 마세요.

브라우저에서 fetch로 바로 호출해도 되나요?

안 됩니다. 게이트웨이 키가 브라우저에 노출되면 누구나 가져다 쓸 수 있습니다. 반드시 서버 코드에서만 호출하세요.

어떤 엔드포인트를 지원하나요?

/v1/chat/completions(스트리밍 포함)과 /v1/models를 지원합니다. 요청 본문은 최대 1MB까지 받습니다.