시스템 프롬프트의 요금 몫 — 같은 문장을 만 번 보내는 값 (2026년 8월)

시스템 프롬프트는 매 호출에 똑같이 실리는 입력입니다. 한 번 보면 작아 보이는데, 호출 수를 곱하면 총액에서 큰 몫을 차지합니다.

이 글은 그 몫을 계산하고 줄이는 방법을 적었습니다.

이 글의 요금·조건은 2026년 8월 26일에 각 서비스 공식 페이지에서 확인한 값입니다. 이후 변경됐을 수 있습니다.

얼마나 되는지 계산해 보기

시스템 프롬프트 1,000토큰, 사용자 입력 500토큰, 출력 300토큰인 작업입니다.

시스템 프롬프트가 입력 비용의 3분의 2이고, 전체의 33%입니다. 사용자가 실제로 보낸 것(17%)의 두 배입니다.

월 10,000회 호출이면 시스템 프롬프트만으로 월 $20입니다. 같은 문장을 만 번 보낸 값입니다.

세 가지 대응

1. 캐시에 올린다 — 가장 효과적

시스템 프롬프트는 캐시 조건에 가장 잘 맞는 부분입니다. 매번 똑같기 때문입니다.

확인된 값에서 캐시 읽기가 입력의 10분의 1이므로, 위 $20이 $2가 됩니다.

쓰기 비용은 캐시가 만료될 때마다 붙습니다. 1,000토큰 × $2.50 ÷ 100만 = 회당 $0.0025입니다.

호출이 5분 안에 이어지면 쓰기가 드물게 일어나 거의 $2에 가깝습니다. 호출이 뜸하면 매번 쓰기가 붙어 오히려 손해입니다.

2. 짧게 쓴다

캐시를 못 쓰는 상황이라면 길이를 줄이는 것이 직접적입니다.

시스템 프롬프트가 길어지는 이유는 대체로 덧붙이기만 하고 지우지 않아서입니다. 문제가 생길 때마다 지시를 하나씩 더하는데, 그 지시가 여전히 필요한지는 다시 안 봅니다.

1. 
   현재 시스템 프롬프트의 토큰 수를 확인합니다.
2. 각 지시가 왜 들어갔는지 적어 봅니다 — 이유를 못 대는 줄이 있습니다.
3. 의심스러운 줄을 빼고 표본 20건을 돌려 비교합니다.
4. 결과가 같으면 뺍니다.
   

표본 20건 비교는 확인된 요율 기준 1달러 안쪽입니다. 재는 비용이 거의 없습니다.

3. 나눈다

모든 호출에 같은 지시가 다 필요하지는 않습니다. 작업 종류별로 다른 시스템 프롬프트를 두면 각각이 짧아집니다.

다만 이 방법은 캐시와 상충합니다. 종류가 여럿이면 각각 따로 캐시해야 하고, 각각의 호출 빈도가 낮아져 캐시가 만료되기 쉽습니다.

둘 중 하나를 고르셔야 합니다 — 하나로 길게 두고 캐시하거나, 여럿으로 짧게 나누되 캐시는 포기하거나입니다.

줄이면 안 되는 부분

요금을 이유로 빼면 안 되는 것들이 있습니다.

• 형식 지시 — 빼면 파싱 실패가 늘어 재시도 비용이 더 큽니다.
• 금지 사항 — 규제나 안전에 관한 지시는 요금과 견줄 항목이 아닙니다.
• 길이 지시 — 이걸 빼면 출력이 길어져 요금이 오히려 늡니다.

마지막이 역설적입니다. 길이 지시 자체는 입력 토큰을 쓰지만, 그것이 막는 출력이 훨씬 비쌉니다. 출력이 입력의 5~6배이기 때문입니다.

계산해 보면 명확합니다. “세 문장으로 답하라”는 지시가 20토큰이라면 입력 비용은 $0.00004입니다. 그것이 출력을 1,000토큰 줄이면 $0.01을 아낍니다. 250배입니다.