캐시된 입력이 뭐길래 10배 싼가 — API 요금표 읽는 법 (2026년 8월)

API 요금표를 처음 보면 같은 모델에 가격이 여러 개 적혀 있어 당황합니다. 입력, 캐시된 입력, 캐시 쓰기, 출력. 넷이 각각 다른 숫자입니다.

이 글은 그 네 칸이 각각 무엇을 세는지, 그리고 왜 10배씩 차이가 나는지를 요금표 원문 기준으로 설명합니다.

이 글의 요금·조건은 2026년 8월 25일에 각 서비스 공식 페이지에서 확인한 값입니다. 이후 변경됐을 수 있습니다.

먼저 표를 보겠습니다

단위는 100만 토큰당 달러입니다. 원문 헤더는 “Prices per 1M tokens”입니다.

네 칸이 각각 세는 것

입력 — 내가 보낸 것

질문, 지시문, 첨부한 문서까지 모델에게 보낸 모든 것입니다. 대화를 이어 갈 때는 앞선 대화 내용도 매번 함께 보내지므로, 대화가 길어질수록 입력 토큰이 누적해서 늘어납니다.

출력 — 모델이 답한 것

모델이 생성한 답변입니다. 표에서 보듯 입력의 5~6배 요율입니다. 같은 양이라도 답변 쪽이 훨씬 비쌉니다.

이 비대칭이 실제 비용에서 가장 중요합니다. “짧게 답해 달라”는 지시 한 줄이 총액을 눈에 띄게 줄이는 이유입니다.

캐시된 입력 — 이미 보낸 적 있는 앞부분

같은 내용을 반복해서 보낼 때, 앞부분이 이전과 똑같으면 그 부분은 다시 처리하지 않고 저장해 둔 것을 씁니다. 그래서 입력 요율의 10분의 1입니다.

왜 쌀까요. 모델 입장에서 이미 처리해 둔 것을 재사용하는 것이므로 계산이 덜 듭니다. 그 절감분이 요율에 반영된 구조입니다.

캐시 쓰기 — 저장해 두는 값

캐시를 만들어 두는 시점에 붙는 요금이고, 일반 입력보다 오히려 비쌉니다(sol 기준 $5.00 vs $4.00). 저장 자체에 비용이 들기 때문입니다.

여기서 중요한 판단이 나옵니다. 캐시는 재사용해야 이득입니다. 한 번 쓰고 말면 $5.00을 내고 $4.00짜리를 산 셈입니다.

언제 이득이 되는가 — 계산

gpt-5.6-sol로 100만 토큰짜리 지시문을 N번 반복해서 보낸다고 하겠습니다.

계산은 캐시 쓰기 1회($5.00) + 캐시된 입력 (N−1)회($0.40씩)입니다. 표에서 보듯 2회부터 이미 이득이고, 반복이 많을수록 격차가 커집니다.

100회 반복이면 총액이 9분의 1 수준으로 내려갑니다. 같은 지시문으로 문서를 계속 처리하는 작업이라면 이 차이가 요금표에서 가장 큰 변수입니다.

주의: 자동으로 싸지는 것이 아니다

저희가 캐시 유지 시간과 최소 토큰 조건까지 원문으로 확정하지는 못했습니다. 정확한 조건은 각 서비스의 API 문서를 확인하시기 바랍니다. 위 계산은 캐시가 걸렸다고 가정했을 때의 산술입니다.

짧은 정리

• 출력이 제일 비싸다 — 입력의 5~6배. 답변 길이를 줄이는 것이 가장 즉효.
• 캐시된 입력이 제일 싸다 — 입력의 10분의 1.
• 캐시 쓰기는 입력보다 비싸다 — 그래서 재사용이 전제.
• 2회 이상 반복이면 캐시가 이득이다.