AI 요금 모니터링 — 청구서 오기 전에 알아채기

AI 요금은 쓰는 동안에는 잘 안 보입니다. 청구서가 와야 알게 되는 구조라, 그때는 이미 늦습니다.

이 글은 돌아가는 중에 알아채는 방법을 정리합니다.

세 가지 시점에서 봐야 합니다

대부분 세 번째만 합니다. 그런데 사고를 막는 것은 앞의 둘입니다.

알림을 거는 방법 — 여러 단계로

알림을 한 지점에만 걸면 늦게 알거나 너무 자주 옵니다. 여러 단계로 거시길 권합니다.

1. 평소 사용량의 2배 지점에 하나. 이것이 조기 경보입니다.
2. 한도의 절반 지점에 하나. 절반을 넘겼다면 이 달 패턴이 평소와 다르다는 뜻입니다.
3. 한도의 80% 지점에 하나. 곧 멈춘다는 예고입니다.

첫 알림이 평소보다 이르게 오면 그때 확인하시면 됩니다. 알림이 안 오는 것도 정보입니다 — 정상 범위라는 뜻입니다.

사용량 화면에서 볼 세 가지

1. 어느 모델이 얼마를 썼는가

모델별 사용량이 나뉘어 보이면 비싼 모델이 어디에 쓰이고 있는지 알 수 있습니다. 테스트용으로 켜 둔 상위 모델이 그대로 돌고 있는 경우가 흔합니다.

2. 입력과 출력의 비율

출력 요율이 입력의 5~6배이므로, 출력 비중이 크면 총액이 빠르게 오릅니다. 이 비율이 예상보다 높다면 답변 길이를 지시하는 것만으로 크게 줄일 수 있습니다.

3. 캐시가 실제로 걸렸는가

캐시 관련 토큰이 별도로 표시됩니다. 캐시를 쓴다고 생각했는데 0이면 지시문 앞부분이 매번 달라지고 있다는 뜻입니다.

이 경우 캐시 쓰기 요금만 내고 효과는 못 보는 상태라 안 쓰는 것보다 비쌉니다. 확인 없이 가정하지 마시기 바랍니다.

이상 신호

• 안 쓰는 시간대에 사용량이 찍힌다 — 키 유출이나 코드 반복 호출을 의심합니다.
• 건수는 그대로인데 토큰이 늘었다 — 입력이 길어지고 있습니다. 대화 기록이 누적되는 구조일 수 있습니다.
• 낯선 모델이 보인다 — 설정 실수이거나 유출입니다.
• 실패 건수가 늘었다 — 재시도가 요금을 쓰고 있을 수 있습니다.

두 번째가 조용히 진행되는 유형입니다. 대화형으로 이어 가는 구조에서 앞선 내용이 매번 함께 전송되면 건당 토큰이 계속 늘어납니다.

구독 쪽 점검

구독은 정액이라 급증하지 않지만, 다른 것을 봐야 합니다.

• 포함량의 몇 %를 쓰고 있는가 — 절반도 못 쓰면 하위 플랜을 검토합니다.
• 한도에 몇 번 막혔는가 — 잦으면 상위 플랜이 시간을 삽니다.
• 몇 번이나 열었는가 — 작업당 비용의 근거입니다.

월 1회 점검 항목

10분이면 됩니다.

• 이번 달 총액과 지난달 비교
• 모델별 비중 — 비싼 모델이 늘었는가
• 구독별 사용률 — 안 쓰는 것이 있는가
• 한도와 알림 설정이 그대로인가