본문 바로가기
스터디 열기

모델의 비밀

"제일 좋은 모델 하나만 쓰면 되지 않나?"라는 생각이 들 법한데, 실제로는 한 회사가 크기가 다른 모델을 여러 개 나란히 내놓습니다. Claude를 만드는 Anthropic만 해도 작고 빠른 Haiku부터 중간 크기의 Sonnet, 큰 Opus와 Fable까지 한 식구를 이루고 있습니다. 2026년 11월 지금은 Haiku 5.5, Sonnet 5.5, Opus 5.5, Fable 5.2입니다. 왜 하나로 통일하지 않는 걸까요. 시뮬레이터의 '모델의 비밀' 페이지에 답이 있습니다.

이 절의 가격과 성능 숫자는 2026년 11월 10일에 Anthropic 공식 문서와 Artificial Analysis의 종합 지수(v5.0.1)에서 확인한 값입니다. 모델은 몇 달 단위로 바뀌니 숫자보다 읽는 법을 가져가세요. 시뮬레이터도 같은 날짜의 같은 자료로 맞춰 두었습니다. 나중에 시뮬레이터가 먼저 고쳐져 책과 숫자가 다르면 시뮬레이터 쪽이 새 값입니다.

1. 가격은 80배까지 벌어진다

먼저 가격입니다. AI 회사는 토큰의 비밀에서 본 그 토큰 수로 요금을 매깁니다. 시뮬레이터의 가격 그래프를 보면 같은 회사의 모델인데도 막대 높이가 확 다릅니다. 지금 Claude의 공식 가격으로 보면 이렇습니다.

모델입력(100만 토큰)출력(100만 토큰)
Haiku 5.5$0.10$0.50
Sonnet 5.5$2$10
Opus 5.5$4$20
Fable 5.2$8$40

가장 작은 Haiku와 가장 큰 Fable은 80배 차이가 납니다. 그리고 어느 모델이든 출력이 입력보다 5배 비쌉니다. 입력은 한꺼번에 읽지만, 답을 만들 때는 단어 맞히기에서 봤듯 토큰 하나를 뽑을 때마다 전체 계산을 다시 해야 하기 때문입니다.

이 표는 API 표준 가격입니다. Haiku 5.5는 한 번에 보내는 글이 10만 토큰을 넘으면 입력 $0.50·출력 $2.50로 올라갑니다. ChatGPT나 Claude 앱의 월 구독료와는 다른, 개발자가 프로그램에서 모델을 부를 때의 값입니다.

100만 토큰 단위라 감이 오지 않으면 일 하나로 계산해 보면 됩니다. 한국어 보고서 한 편(입력 2,000토큰, 토큰의 비밀에서 본 어림셈 '1토큰에 1~2글자'로 2천~4천 자쯤)을 넣고 500토큰짜리 요약을 받는 일을 1,000번 시킨다고 하겠습니다. 계산은 입력 토큰 × 입력 값 + 출력 토큰 × 출력 값입니다.

모델1번1,000번
Haiku 5.5약 $0.00045약 $0.45
Sonnet 5.5약 $0.009약 $9
Opus 5.5약 $0.018약 $18
Fable 5.2약 $0.036약 $36

예를 들어 Sonnet 5.5는 2,000 × $2 ÷ 100만 = $0.004에 500 × $10 ÷ 100만 = $0.005를 더해 한 번에 $0.009입니다. 보고서 1,000편 요약이 Haiku로는 1달러도 안 되고 Fable로는 36달러가 됩니다. 한 번만 쓸 때는 어느 쪽이든 푼돈이지만, 프로그램이 하루에 수천 번 부르는 일이라면 이 차이가 그대로 쌓입니다.

가격은 모델끼리만 벌어지는 것이 아니라 시간에 따라서도 빠르게 내려갑니다.

GPT-4 수준의 값은 1.4년 사이 약 286분의 1로 내려갔다

가로축은 시간, 세로축은 100만 토큰의 값(입력 3 : 출력 1로 섞은 값, 로그 눈금)입니다. 계단 세 개는 Epoch AI의 종합 능력 점수(ECI)가 120·140·160을 넘은 모델 가운데 그날까지 가장 싼 값입니다. 왼쪽 파란 계단(ECI 120 이상, 대략 GPT-4 수준)은 2023년 3월 GPT-4의 37.50달러에서 2024년 8월 Gemini 1.5 Flash의 0.13달러로 약 286분의 1이 됐습니다.

오른쪽 회색 계단의 끝이 위 표의 Haiku 5.5입니다. 2026년 4월 GPT-5.5가 11.25달러에 내던 수준(ECI 160)을 반년이 안 돼 0.20달러에 쓰게 된 것입니다. 오늘의 가장 작은 모델이 몇 달 전 가장 큰 모델의 자리를 싼값에 대신하는 일이 되풀이됩니다. 다만 생각을 오래 하는 모델은 같은 일에 토큰을 더 쓰므로, 일 하나의 값은 그래프만큼 내려가지 않을 수 있습니다.

2. 성능은 2배가 안 되고, 속도는 반대로

Haiku 5.5의 36점부터 Fable 5.2의 65점까지, 가격 차이보다 훨씬 작은 성능 차이를 보여 주는 시뮬레이터 화면(2026년 11월 10일 Artificial Analysis 지수 v5.0.1 기준)

그런데 가격이 비싼 만큼 성능도 그대로 오르지는 않습니다. 시뮬레이터의 성능 그래프에서 종합 성능 지수는 Haiku 5.5의 36점부터 Fable 5.2의 65점까지였습니다(모델마다 답하기 전에 가장 오래 생각하게 한 설정으로 잰 점수입니다. 이 설정은 3절에서 봅니다). 가격은 80배 벌어졌는데 점수는 1.8배 차이입니다. 값이 곧 순위도 아닙니다. 바로 전 세대인 Fable 5.1은 가장 비쌌는데도 49점으로, 더 싼 Opus 5.5(59점)와 Sonnet 5.5(55점)보다 낮았습니다. 이 점수는 모델이 바뀔 때마다 달라지니 숫자보다 "가격 차이만큼 성능 차이가 나지는 않는다"는 흐름을 가져가세요.

대신 작은 모델은 답이 훨씬 빨리 나옵니다. 같은 지수를 잰 곳(Artificial Analysis)의 출력 속도로 보면 Haiku 5.5는 초당 토큰 254개, Fable 5.2는 102개로 2.5배쯤 차이가 납니다. 서버 상황과 설정에 따라 달라지는 값이니 순서와 폭만 읽으세요.

이유는 앞에서 배운 다이얼, 그러니까 파라미터에 있습니다. 토큰 하나를 만들 때 쓰는 다이얼이 많을수록 곱하고 더할 계산이 늘어납니다. '단어 맞히기' 절에서 본 대로 요즘 큰 모델은 다이얼의 일부만 꺼내 쓰기도 하고, 회사들이 크기를 밝히지 않아 정확한 수는 알 수 없습니다. 그래도 원리는 같습니다. 계산이 많으면 느려지고, 계산 장치(GPU)를 오래 붙잡으니 비싸집니다. 속도와 가격은 계산량이라는 같은 뿌리에서 나오는 셈입니다.

3. 딱 맞는 모델 고르기

그래서 모델 고르기는 무조건 큰 것을 잡는 일이 아니라 작업과의 궁합을 맞추는 일이 됩니다. 손잡이는 둘입니다. 모델의 크기, 그리고 답하기 전에 얼마나 생각하게 할지입니다.

생각하는 정도부터 보겠습니다. 요즘 모델은 필요하다고 판단하면 답을 내기 전에 풀이를 먼저 써 내려갑니다. 이것도 앞에서 본 다음 토큰 뽑기입니다. 풀이를 쓰는 만큼 토큰과 시간이 들고, 그 토큰은 출력 토큰으로 값이 매겨집니다. 대신 어려운 문제에서는 정확도가 올라갑니다. '계산의 비밀' 절에서 숫자 하나짜리 답을 내려고 토큰을 200개 안팎 만든 것이 이 풀이였습니다. Claude는 이 정도를 노력(effort)이라는 다섯 단계로 고르게 합니다. 개발자가 쓰는 값은 low·medium·high·xhigh·max이고, 앱에서는 보내기 버튼 옆 모델 메뉴에서 고릅니다. 시뮬레이터의 데모 4가 그 차이를 보여 줍니다.

같은 Fable 5.2도 노력을 가장 낮게 하면 지수 54점, 가장 높게 하면 65점이었고, 지수의 시험 문제를 모두 푸는 동안 만든 토큰은 약 3,500만 개에서 약 2억 7,500만 개로 8배쯤 늘었습니다(Artificial Analysis 측정).

그래서 크기와 노력은 같이 정해야 합니다. Sonnet 5.5를 가장 높은 노력으로 쓴 점수(55점)는 Fable 5.2를 가장 낮은 노력으로 쓴 점수(54점)와 비슷한데, 만든 토큰은 약 3억 3,500만 개로 10배 가까이 됩니다. 그 결과 시험 과제 하나를 끝내는 데 든 값도 Sonnet 5.5 쪽이 약 10달러, Fable 5.2 쪽이 약 3달러로 뒤집혔습니다(같은 곳 측정). 토큰 값이 4배인 큰 모델을 가볍게 쓴 쪽이 더 싸고 빨랐던 것입니다. 작은 모델에 오래 생각시키는 것이 언제나 싼 길은 아닙니다.

앱에서 이 차이는 가격이 아니라 한도와 속도로 느껴집니다. Claude 도움말도 노력을 높이면 답이 더 꼼꼼해지는 대신 시간이 더 걸리고 토큰을 더 써서 사용 한도에 더 빨리 닿는다고 안내합니다.

이제 페이지 아래의 '작업에 맞는 모델 고르기'에서 작업 버튼을 하나씩 눌러 보세요. 맞춤법 고치기나 기사 3줄 요약 같은 가벼운 일은 가장 작은 모델로도 충분해서, 가장 큰 모델 대신 쓰면 비용을 크게 아끼면서 답도 더 빨리 받습니다. 보고서 초안은 중간 크기가, 긴 코드에서 숨은 버그를 찾는 일은 한 단계 위 모델이 맞는 것으로 나옵니다(필요한 점수는 교육용 어림값입니다). 반대로 자료 조사부터 정리까지 여러 단계를 혼자 처리하는 긴 자동화 작업은 가장 큰 모델급 성능이 있어야 결과가 쓸 만해집니다. Anthropic 문서도 대부분의 일은 Opus 5.5로 시작하고, 어려운 추론과 오래 이어지는 에이전트 작업에 Fable 5.2를 쓰라고 권합니다. 가장 비싼 모델이 아니라 딱 맞는 모델을 고르는 것, 개발자들이 비용과 속도를 아끼는 방법입니다.

시간이 있다면 시뮬레이터 메뉴의 에이전트의 비밀도 열어 보세요. 모델이 도구와 파일을 써 가며 여러 단계를 혼자 해내는 모습을 볼 수 있습니다.

그렇다면 사람들은 이 모델들로 실제로 어떤 일을 시키고 있을까요. 마지막 절에서 실제 사용 데이터를 들여다보겠습니다.

마지막 수정