단가표만 보면 뒤집힌다…AI 모델 값 고르는 기준

AI 모델은 100만 토큰당 단가가 아니라, 같은 일을 끝내는 데 든 총비용으로 비교해야 합니다. 단가가 낮아도 재시도와 출력이 많으면 실제 비용이 뒤집히기 때문입니다.

AI 모델을 고를 때 가장 먼저 보는 것이 100만 토큰당 가격입니다. 그런데 그 숫자만으로 고르면 실제 비용이 뒤집히는 경우가 있습니다.

기업들이 이미 그 사실을 확인하고 선택을 바꾸고 있습니다.

단가표에는 이 숫자가 있습니다

먼저 기준선을 놓겠습니다. 8월 말 보도 기준 100만 토큰당 입력·출력 가격입니다.

• 클로드 페이블5 — 입력 10달러 / 출력 50달러
• 클로드 오푸스5 — 입력 5달러 / 출력 25달러
• GPT-5.6 솔 — 입력 4달러 / 출력 20달러 (한시 인하 적용가, 공식 요금 페이지 기준 최소 2026년 11월 21일까지)

오푸스5는 페이블5의 최첨단 성능에 근접하면서 가격은 절반이라고 앤트로픽 스스로 소개한 모델입니다. GPT-5.6 솔은 최근 인하로 오푸스5보다도 낮아졌습니다.

단가가 낮은 쪽이 항상 싼 것은 아니다

여기서 함정이 하나 있습니다. 같은 일을 시켰을 때 모델마다 쓰는 토큰 양과 걸리는 시간이 다릅니다.

오픈AI는 GPT-5.6 발표문에서 솔이 코딩 에이전트 지수 평가에서 클로드 페이블5보다 출력 토큰을 절반 이하로 쓰고 시간도 절반 이하로 줄였으며 비용은 약 3분의 1 낮았다고 밝혔습니다.

이때의 비용은 API 단가가 아닙니다. 독립 평가 사이트는 코딩 에이전트 리더보드에서 비용을 작업당 평균 종량제 API 비용으로 측정한다고 설명합니다.

100만 토큰 가격이 높아도 재시도가 줄고 출력이 짧으면 실제 업무 비용은 달라집니다.

단가표는 재료값이고, 작업당 비용은 완성된 요리값입니다.

재시도가 얼마나 비싼지는 에이전트형 AI에서 가장 분명하게 드러납니다. 이데일리와 CBC뉴스가 전한 분석에 따르면 에이전트형 AI 비용의 약 60%는 처음 답을 만드는 과정이 아니라 결과를 고치고 보완하는 반복 작업에서 나옵니다.

CBC뉴스에 따르면 같은 업무를 맡겨도 일반 챗봇보다 최대 30배 많은 토큰을 쓸 수 있고, 결과가 기준에 못 미쳐 다시 수행하면 전체 맥락을 다시 처리하면서 토큰 소비가 최대 50배까지 늘 수 있습니다.

실제 지출은 어디로 갔나

시장은 이미 움직였습니다. 결제 서비스 업체 램프가 미국 기업 7만 곳의 지출을 분석한 결과, 지난달 기업이 산 앤트로픽 전체 토큰 가운데 최고 성능 모델 페이블5의 비중은 약 6%, 지출액 기준으로는 11.4%였습니다.

절반 값인 오푸스5는 출시 한 달도 되지 않아 기업 지출액 기준으로 페이블5를 넘어섰습니다. 최신·최고 모델이 나오면 빠르게 주력이 되던 흐름이 바뀐 것입니다.

저렴한 쪽으로 선택지를 넓히는 움직임도 나옵니다. 램프에 따르면 지난달 AI를 쓰는 기업 가운데 오픈소스나 중국산 모델을 이용할 수 있는 '모델 서빙 플랫폼'을 쓴 기업 비중은 6.1%로 전달보다 0.2%포인트 늘었습니다.

그러면 어떻게 고를까

업무 성격에 따라 봐야 할 숫자가 다릅니다.

• 챗봇·개발 보조·보안 점검처럼 짧은 호출이 반복되는 일 — 토큰 단가가 총비용을 좌우합니다
• 복잡한 코딩 에이전트·장시간 자동화 — 성공률과 재시도 횟수, 출력 토큰이 총비용을 좌우합니다
• 정답이 하나인 단순 작업 — 최상위 모델을 쓸 이유가 적습니다

앤트로픽에 10억 달러를 투자한 벤처캐피털 액셀의 마일스 클레멘츠는 “대부분의 사람은 최첨단 모델을 활용할 필요가 없다”며 “고객들이 가장 발전된 모델만 선택해온 흐름은 지속 가능하지 않았다”고 말했습니다.

값을 고르는 것만큼 중요한 것이 한도를 정하는 일입니다. 같은 작업을 자동으로 반복하게 두면 단가와 무관하게 비용이 쌓입니다.

우버가 그 사례입니다. CBC뉴스에 따르면 우버는 올해 초 엔지니어 5,000명에게 AI 코딩 도구를 적극 쓰라고 권했다가 연간 예산을 4개월 만에 소진했고, 이후 직원 한 명당 월 사용 한도를 약 1,500달러로 제한했습니다.

마이크로소프트도 올해 5월 수천 명의 내부 직원에게 주던 클로드 코드 라이선스를 중단하고 자사 깃허브 코파일럿으로 전환했습니다.

한 곳만의 일이 아닙니다. CBC뉴스에 따르면 맥킨지가 지난 5월 주요 5개 산업의 기업 75곳을 대상으로 한 AI 핀옵스(FinOps) 조사에서 응답 기업의 93%가 AI 예산을 넘겼습니다.

가트너는 2028년까지 전 세계 조직의 20%가 AI 비용을 통제하지 못해 업무 적용을 포기할 것으로 내다봤습니다. 대응책으로는 AI 사용량과 지출, 성과를 계속 추적하는 'AI 핀옵스'를 제시했고, 업무에 맞는 모델을 고르고 출력 범위를 조절하라는 제언이 붙었습니다.

요금 방식이 정액제에서 쓴 만큼 내는 종량제로 빠르게 옮겨 가고 있어, 사용량이 늘수록 최종 비용을 예측하기 어려워진다는 점도 이데일리는 짚었습니다.

미리 정해 두면 좋은 것은 셋입니다. 언제 멈출지(실행 횟수나 기간의 상한), 얼마나 쓰면 알림을 받을지(예산 경보 지점), 실패하면 어디로 넘길지(대체 모델이나 예비 경로)입니다.

단가표는 출발점이지 답이 아닙니다. 같은 일을 두 모델에 시켜 보고 끝날 때까지의 총비용을 재보는 편이 정확합니다.