API 사용량 제한 — 예산 상한과 속도 제한 차이

API 사용량 제한에는 서로 다른 두 장치가 있습니다. 속도 제한은 짧은 시간의 요청량을 제어하고, 예산 상한은 누적 지출을 관리합니다. 하나를 설정했다고 다른 위험까지 막히는 것은 아니므로 운영 전 두 값을 따로 시험해야 합니다.

이 글의 요금·조건은 2026년 9월 14일에 각 서비스 공식 페이지에서 확인한 값입니다. 이후 변경됐을 수 있습니다.

속도 제한은 무엇을 막나요?

분당 요청 수와 분당 토큰 수처럼 처리량을 제한합니다. 짧은 시간에 트래픽이 몰릴 때 서비스와 계정을 보호합니다. 한도에 닿으면 보통 재시도 가능한 오류가 오지만 즉시 반복하면 요청 폭주가 더 커집니다. 지수 백오프와 최대 재시도 횟수를 함께 둡니다. 큐에 쌓인 작업 수도 별도로 제한합니다.

예산 상한은 어디에 쓰나요?

한 달이나 프로젝트의 누적 비용을 감당 가능한 범위로 묶는 장치입니다. 알림은 경고일 뿐 호출을 끊지 않을 수 있습니다. 강제 중단 여부와 반영 지연을 콘솔 설명에서 확인합니다. 자동 충전 잔액과 청구 한도도 같은 뜻이 아닙니다. 실제로 작은 시험 한도를 걸어 차단 동작을 확인합니다.

앱 안에도 제한이 필요한가요?

사업자 한도만 믿으면 여러 기능이 한 프로젝트를 공유할 때 원인을 나누기 어렵습니다. 사용자별 일일 호출, 작업별 최대 토큰, 한 요청의 도구 실행 횟수를 앱에서 제한합니다. 중요한 기능에는 남은 예산이 적을 때 저렴한 모델로 전환하거나 작업을 보류하는 규칙을 둡니다.

429 오류는 어떻게 다루나요?

먼저 응답 헤더와 공식 문서에서 어느 제한에 걸렸는지 확인합니다. 기다림 없이 같은 요청을 복제하면 비용과 지연이 함께 늘 수 있습니다. 재시도는 멱등성이 있는 작업에만 적용하고, 결제나 파일 생성처럼 중복 부작용이 있는 단계에는 요청 키를 둡니다. 장애 복구 뒤 대기열이 한꺼번에 풀리지 않게 속도를 올립니다.

설정 뒤 무엇을 점검하나요?

2026년 9월 14일 OpenAI와 Gemini의 속도 제한 문서는 제한이 모델과 사용 등급에 따라 달라질 수 있다고 안내합니다. 문서 숫자를 코드에 영구 고정하지 않습니다. 콘솔의 현재 한도를 읽고, 한도 근접 알림과 강제 중단을 따로 시험한 기록을 남깁니다.

확인한 공식 원문

• OpenAI 속도 제한 안내 — 2026년 9월 14일 확인
• Gemini API 속도 제한 — 2026년 9월 14일 확인