캐시는 요금을 10분의 1로 줄이지만 유지 시간이 있습니다. 앤트로픽 요금 페이지에는 5분(TTL)이 명시돼 있습니다.
이 글은 그 5분을 실제 작업에 어떻게 맞추는지 다룹니다.
이 글의 요금·조건은 2026년 8월 25일에 각 서비스 공식 페이지에서 확인한 값입니다. 이후 변경됐을 수 있습니다.
왜 유지 시간이 중요한가
캐시 쓰기는 일반 입력보다 비쌉니다. 앤트로픽 기준 입력의 1.25배입니다. 그 비용을 캐시 읽기(0.1배)로 회수하는 구조입니다.
따라서 유지 시간 안에 재사용하지 못하면 손해입니다. 5분이 지나 다시 부르면 캐시 쓰기 요금이 또 붙습니다.
| 호출 간격 | 일어나는 일 | 비용(입력 1 기준) |
|---|---|---|
| 5분 이내 연속 | 캐시 유지 | 첫 1.25 + 이후 0.1씩 |
| 5분 초과 간격 | 매번 캐시 재생성 | 매번 1.25 |
| 캐시 안 씀 | — | 매번 1.00 |
가운데 줄이 함정입니다. 캐시를 쓴다고 생각했는데 실제로는 안 쓰는 것보다 25% 비싼 상태입니다.
5분에 맞추는 세 가지 방법
1. 호출을 몰아서 한다
가장 단순합니다. 처리할 건을 모아 두었다가 연속으로 보내면 캐시가 유지됩니다.
하루에 100건을 띄엄띄엄 처리하는 대신 한 번에 100건을 돌리면, 첫 건만 캐시 쓰기이고 나머지 99건은 캐시 읽기입니다.
2. 간격이 길면 캐시를 끈다
하루에 몇 번만 부르는 작업이라면 캐시를 안 쓰는 편이 쌉니다. 매번 1.25를 내느니 1.00을 내는 것이 낫습니다.
판단 기준은 “다음 호출이 5분 안에 오는가”입니다. 아니라면 캐시가 손해입니다.
3. 확장 옵션을 확인한다
요금 페이지에 “Learn about extended prompt caching” 링크가 있습니다. 더 긴 유지 시간 옵션이 있다는 뜻으로 읽힙니다.
다만 저희가 그 옵션의 요율과 유지 시간을 원문에서 확정하지 못했습니다. 간격이 긴 작업이 많다면 API 문서에서 이 옵션을 확인해 보시기 바랍니다.
손익분기 계산
5분 안에 몇 번 부르면 이득인지 계산했습니다. 앤트로픽 요율(쓰기 1.25, 읽기 0.1) 기준입니다.
| 5분 내 호출 수 | 캐시 사용 | 캐시 없이 | 판정 |
|---|---|---|---|
| 1회 | 1.25 | 1.00 | 손해 |
| 2회 | 1.35 | 2.00 | 이득 |
| 5회 | 1.65 | 5.00 | 3배 절감 |
| 20회 | 3.15 | 20.00 | 6.3배 절감 |
5분 안에 2회 이상이면 이득입니다. 기준이 단순합니다.
실전 점검표
- 이 작업의 호출 간격이 얼마인지 적어 봅니다.
- 5분 안에 2회 이상이면 캐시를 켭니다.
- 고정 지시문을 앞에 두고 바뀌는 값을 뒤로 뺍니다. 앞부분이 한 글자만 달라도 캐시가 끊깁니다.
- 사용량 대시보드에서 캐시 읽기 토큰이 실제로 잡히는지 확인합니다. 가정하지 말고 봅니다.
4번이 중요합니다. 캐시가 걸렸다고 생각했는데 안 걸린 경우가 가장 비쌉니다 — 매번 1.25를 내게 됩니다.
앞부분에 넣으면 안 되는 것
날짜, 시각, 사용자 이름, 요청 번호처럼 매번 바뀌는 값을 지시문 앞쪽에 넣으면 그 지점부터 캐시가 끊깁니다.
“오늘은 2026년 8월 26일입니다”를 첫 줄에 넣으면 날이 바뀔 때마다 캐시가 새로 생깁니다. 필요하다면 뒤쪽에 넣으시면 됩니다.
확인 범위
“5분 TTL”과 캐시 쓰기·읽기 요율은 앤트로픽 공식 요금 페이지 원문과 대조했습니다. 오픈AI의 캐시 유지 조건은 원문에서 확정하지 못했습니다 — 위 계산은 앤트로픽 기준입니다.
또한 최소 토큰 조건(얼마나 길어야 캐시가 걸리는지)은 양쪽 다 확인하지 못했습니다. 짧은 지시문은 캐시가 적용되지 않을 수 있습니다.
자주 묻는 질문
5분이 지나면 캐시가 사라지나요?
요금 페이지에 5분 TTL로 표기돼 있습니다. 이후 호출은 캐시 쓰기부터 다시 시작될 수 있습니다.
확장 옵션은 얼마인가요?
요금 페이지에 링크만 있고 금액은 확인하지 못했습니다. API 문서를 확인하시기 바랍니다.
캐시가 걸렸는지 어떻게 아나요?
사용량 대시보드에 캐시 관련 토큰이 별도로 표시됩니다. 소량으로 시험해 확인해 보시기 바랍니다.
지시문이 짧으면 캐시가 안 걸리나요?
최소 토큰 조건이 있어 그럴 수 있습니다. 저희가 그 수치를 확인하지 못했습니다.