컨텍스트 경계를 피하는 법 — 입력 줄이기 네 가지 (2026년 8월)

API 요금표에 Short context와 Long context가 따로 있습니다. 같은 모델인데 요율이 다릅니다.

이 글은 그 경계에 걸리지 않게 작업을 짜는 방법을 다룹니다.

이 글의 요금·조건은 2026년 8월 25일에 각 서비스 공식 페이지에서 확인한 값입니다. 이후 변경됐을 수 있습니다.

요율 차이

입력은 정확히 2배, 출력은 1.5배입니다. 세 모델 모두 같은 비율입니다.

경계를 이 글에서 적지 않는 이유

입력을 줄이는 네 가지

1. 문서를 쪼갠다

긴 문서를 통째로 넣는 대신 필요한 부분만 보냅니다. 입력이 줄고 경계도 피할 수 있습니다.

다만 쪼개면 앞뒤 맥락이 끊깁니다. 문서 전체를 봐야 답이 나오는 작업이라면 이 방법이 맞지 않습니다.

2. 먼저 검색해서 관련 부분만 넣는다

질문과 관련된 대목만 골라 보내는 방식입니다. 1번보다 정교하지만 고르는 단계가 추가됩니다.

그 단계를 가벼운 모델로 처리하면 총액이 크게 줄어듭니다.

3. 가벼운 모델로 먼저 줄인다

가장 효과적입니다. luna의 긴 컨텍스트 입력이 $0.40인데 sol의 짧은 컨텍스트 입력이 $4.00입니다.

즉 싼 모델은 긴 컨텍스트로 써도 비싼 모델의 짧은 컨텍스트보다 10배 쌉니다. 전처리를 싼 모델에 맡기면 경계 문제가 대부분 해소됩니다.

4. 대화를 길게 끌지 않는다

대화형에서는 앞선 내용이 매번 함께 전송됩니다. 이어 갈수록 입력이 누적되어 어느 순간 경계를 넘습니다.

주제가 바뀌면 새로 시작하시는 편이 쌉니다.

계산 — 경계를 넘으면

gpt-5.6-sol로 100만 토큰을 넣고 1만 토큰을 받는 작업입니다.

거의 정확히 2배입니다. 이 작업을 하루 10번 하면 월 기준 $1,260과 $2,490의 차이입니다.

웹 검색과 겹칠 때 주의

검색 결과가 길어지면 토큰이 늘어나는 동시에 요율도 2배가 될 수 있습니다. 조합 효과로 총액이 급증합니다.

검색을 쓰는 작업은 특히 지출 한도로 관리하시기 바랍니다. 결과 길이를 이용자가 통제할 수 없기 때문입니다.

확인 범위

요율은 오픈AI 공식 요금 문서 원문과 대조했습니다. 원문 표기는 “Standard / Short context”와 별도의 Long context 표입니다.

확정하지 못한 것: Short와 Long을 가르는 토큰 경계, 캐시가 긴 컨텍스트에서 어떻게 적용되는지, 앤트로픽 쪽에 유사 구분이 있는지.