구독 점검은 반년에 한 번이면 되지만, API를 쓰신다면 월 1회는 보셔야 합니다. 사용량이 계속 변하기 때문입니다.
이 글은 10분짜리 월간 점검 절차입니다.
10분 점검표
| 순서 | 확인 | 이상 신호 |
|---|---|---|
| 1 | 이번 달 총액 | 지난달 대비 급증 |
| 2 | 모델별 비중 | 비싼 모델이 늘었다 |
| 3 | 입력·출력 비율 | 출력 비중이 커졌다 |
| 4 | 캐시 토큰 | 0이거나 줄었다 |
| 5 | 시간대 분포 | 안 쓰는 시간에 호출 |
| 6 | 구독 사용률 | 포함량을 절반도 못 씀 |
각 항목이 뜻하는 것
1. 총액 급증
가장 눈에 띄지만 원인은 아래 항목들에 있습니다. 총액만 보고 끝내면 원인을 못 찾습니다.
2. 모델별 비중
테스트로 켠 상위 모델이 그대로 남아 있는 경우가 흔합니다. 확인된 단가로 가장 비싼 모델과 가장 싼 모델이 최대 43배 차이입니다.
여기가 대체로 가장 큰 절감 여지입니다.
3. 입력·출력 비율
출력 요율이 입력의 5~6배이므로, 출력 비중이 커지면 총액이 빠르게 오릅니다.
비율이 예상보다 높다면 답변 길이를 지시하는 것만으로 크게 줄일 수 있습니다.
4. 캐시 토큰이 0
가장 놓치기 쉬운 항목입니다. 캐시를 쓴다고 생각했는데 안 걸리면 안 쓰는 것보다 25% 비쌉니다.
원인은 대체로 지시문 앞부분에 매번 바뀌는 값이 들어간 것입니다. 날짜·시각·사용자 이름 같은 것입니다.
이 상태는 오류가 나지 않아 사용량을 보지 않으면 알 수 없습니다.
5. 시간대 분포
안 쓰는 시간에 호출이 찍히면 키 유출이나 코드 반복을 의심합니다.
정기 배치를 돌리고 계시다면 그 시간과 맞는지 확인하시면 됩니다.
6. 구독 사용률
포함량을 절반도 못 쓰고 있다면 하위 플랜으로 내리는 것이 즉시 절감입니다.
계산: (상위 요금 − 하위 요금) ÷ 하위 초과 단가 = 버틸 수 있는 초과량
이상이 발견됐을 때
- 어느 항목에서 났는지 특정합니다. 총액이 아니라 원인 항목입니다.
- 고칠 수 있는 것부터 손댑니다. 모델 변경은 대체로 한 줄입니다.
- 고친 뒤 며칠 지켜봅니다. 사용량 반영에 시간차가 있을 수 있습니다.
- 재발하면 게이트로 만듭니다. 알림 지점을 조정하거나 코드에 상한을 넣습니다.
기록해 두면 좋은 것
월별로 세 숫자만 적어 두시면 추세가 보입니다.
- 총액
- 건수(호출 수)
- 건당 평균(총액 ÷ 건수)
세 번째가 핵심입니다. 건수가 늘어서 총액이 는 것과 건당 비용이 올라서 는 것은 완전히 다른 문제입니다.
| 상황 | 총액 | 건수 | 건당 | 해석 |
|---|---|---|---|---|
| A | ↑ | ↑ | → | 정상 성장 |
| B | ↑ | → | ↑ | 확인 필요 |
| C | ↑↑ | ↑↑ | → | 반복 호출 의심 |
B가 조용히 진행되는 유형입니다. 입력이 길어지거나 모델이 바뀌었을 가능성이 큽니다.
확인 범위
이 글은 점검 절차를 다룹니다. 사용량 화면의 항목 구성과 명칭은 서비스마다 다릅니다. 위 여섯 항목이 모두 표시되지 않을 수도 있습니다.
또한 대시보드 반영에 시간차가 있을 수 있으므로, 월말 직후보다 며칠 지나 보시는 편이 정확합니다.
자주 묻는 질문
매달 하기 번거롭지 않나요?
10분이면 됩니다. 사고가 났을 때의 비용과 비교하시면 값어치가 큽니다.
구독만 쓰는데도 필요한가요?
구독은 반년에 한 번이면 충분합니다. 월간 점검은 API를 쓰실 때 필요합니다.
캐시 토큰이 안 보이는 서비스는요?
표시되지 않는다면 소량 시험으로 요금 차이를 직접 재 보시는 방법이 있습니다.
건당 평균이 오르는 것이 항상 문제인가요?
아닙니다. 더 복잡한 작업으로 옮겨 갔다면 정상입니다. 원인을 확인하는 것이 목적입니다.