시험 삼아 만들 때는 요금이 거의 안 나옵니다. 그런데 실제로 서비스를 열면 자릿수가 바뀝니다. 그 사이에서 예산이 어긋납니다.
이 글은 시험 단계의 숫자로 운영 단계를 추정하는 방법과 그때 빠지는 항목을 적었습니다.
이 글의 요금·조건은 2026년 8월 26일에 각 서비스 공식 페이지에서 확인한 값입니다. 이후 변경됐을 수 있습니다.
시험 단계 숫자가 그대로 안 늘어나는 이유
“시험에서 100건에 $1이었으니 10,000건이면 $100″이라는 계산은 선형 부분만 맞습니다. 실제로는 셋이 더 붙습니다.
| 항목 | 시험 단계 | 운영 단계 |
|---|---|---|
| 재시도 | 사람이 보고 판단 | 자동 재시도 — 요금이 배로 |
| 입력 크기 | 깨끗한 표본 | 실제 데이터는 더 길고 지저분함 |
| 예외 처리 | 안 만듦 | 검증·분류 호출이 추가됨 |
셋 다 요율이 아니라 호출 수와 입력 크기를 늘립니다. 요금표를 아무리 봐도 안 나오는 증가분입니다.
얼마나 늘어나는지 계산해 보기
시험에서 건당 $0.01이 나왔다고 두고, 위 세 항목을 넣어 보겠습니다.
| 단계 | 계수 | 건당 | 월 10,000건 |
|---|---|---|---|
| 시험 그대로 | 1.0 | $0.010 | $100 |
| + 재시도 20% | 1.25 | $0.0125 | $125 |
| + 입력 1.5배 | 약 1.88 | $0.0187 | $188 |
| + 검증 호출 | 약 2.06 | $0.0206 | $206 |
계수가 약 2.06배가 됐습니다. 시험 숫자로 세운 예산의 두 배를 넘습니다. 마지막 줄의 검증 호출은 1.1배로 두었습니다.
위 계수들은 저희가 둔 가정값입니다. 실제 값은 시스템에 따라 다릅니다. 표의 쓸모는 숫자가 아니라 계수가 곱해서 쌓인다는 구조입니다.
재시도 20%와 입력 1.5배가 따로 보면 작지만, 곱하면 1.25 × 1.5 = 1.875가 됩니다. 더하기가 아니라 곱하기라는 점이 핵심입니다.
추정을 정확하게 만드는 방법
계수를 가정하지 않는 방법이 있습니다. 작게 실제로 열어 보는 것입니다.
전체가 아니라 일부에만 엽니다 — 사용자 5%나 특정 조건에만.- 며칠 돌리고 실제 사용량을 봅니다 — 이 숫자에는 위 세 항목이 이미 들어 있습니다.
- 건당 평균을 냅니다 — 총액 ÷ 실제 처리 건수.
- 전체 규모를 곱합니다 — 이제 계수를 가정하지 않아도 됩니다.
이 방식의 이점은 가정이 없다는 것입니다. 실제 데이터로 돌아간 결과이므로 위 세 항목이 자동으로 반영돼 있습니다.
5%로 며칠 돌리는 비용은 위 표 기준 몇 달러입니다. 추정 오차를 없애는 값으로는 쌉니다.
여는 순간 걸어야 하는 것
시험 단계에서는 없어도 되지만 운영에서는 반드시 필요한 것들입니다.
| 장치 | 없으면 생기는 일 |
|---|---|
| 지출 한도 | 사고 시 상한 없이 청구 |
| 재시도 상한 | 오류가 반복되며 요금 폭주 |
| 사용량 알림 | 청구서로 처음 알게 됨 |
| 출력 상한 | 비정상적으로 긴 응답이 나가도 못 막음 |
재시도 상한이 특히 중요합니다. 오류가 나서 재시도하고, 그것도 실패해서 또 재시도하는 구조는 요금이 지수로 늘 수 있습니다.
설계 방법은 API 오류와 재시도와 API 요금 사고 막기에 적었습니다.
규모가 커진 뒤에 다시 볼 것
운영이 안정되면 시험 단계에서는 의미 없던 절감 수단들이 의미를 갖기 시작합니다.
| 수단 | 월 $10일 때 | 월 $1,000일 때 |
|---|---|---|
| 캐시 적용 | 몇 달러 — 손댈 이유 적음 | 수백 달러 |
| 배치 처리(50%) | $5 | $500 |
| 모델 한 단계 | $5 | $500 |
같은 수단인데 규모에 따라 값어치가 100배 달라집니다. 그래서 시험 단계에서 최적화하는 것은 대체로 이르고, 규모가 커진 뒤에 다시 보는 것이 순서에 맞습니다.
다만 예외가 하나 있습니다 — 나중에 바꾸기 어려운 구조는 처음에 정해야 합니다. 모델 이름을 한 곳에 모아 두는 것 같은 일입니다. 이건 요금이 들지 않으므로 처음부터 해 두시는 편이 낫습니다.
자주 묻는 질문
계수 2.06은 믿을 만한가요?
저희가 둔 가정값입니다. 실제 값은 시스템에 따라 다릅니다. 일부만 열어 실제로 재는 방법을 권합니다.
왜 계수가 곱해지나요?
각 항목이 서로 독립적으로 작용하기 때문입니다. 재시도가 20% 늘고 그 각각의 입력이 1.5배면 곱해집니다.
시험 단계에서 최적화하면 안 되나요?
금액이 작아 효과가 적고, 나중에 구조가 바뀌면 다시 해야 합니다. 다만 나중에 바꾸기 어려운 것은 처음에 정하시는 편이 낫습니다.
5%로 열어 보는 게 안전한가요?
요금 면에서는 안전합니다. 다만 서비스 품질 면의 판단은 저희 범위 밖이니 직접 판단하셔야 합니다.