이 책을 읽는 법
이 책은 그래프가 본문입니다. 절마다 그래프나 표가 먼저 나오고, 글은 그 그래프를 읽는 법과 결론 몇 줄입니다. 바쁘시면 그래프와 굵은 글씨만 읽으셔도 됩니다.
실험 환경
이 책의 실측 숫자는 모두 2026년 11월 4일 하루 동안 제 업무용 PC 한 대에서 잰 것입니다. 특별히 실험용으로 꾸민 장비가 아니라, 평소처럼 브라우저와 메신저, VS Code가 켜져 있는 PC입니다.
| 항목 | 값 |
|---|---|
| 그래픽카드 | NVIDIA GeForce RTX 5070 12GB (드라이버 616.92) |
| CPU·메모리 | Intel Core i9-14900K, 시스템 메모리 48GB |
| 운영체제 | Windows 11 Pro, vLLM만 WSL2 Ubuntu 24.04 |
| 로컬 모델 | Qwen3.5 4B·9B, Qwen3.8 27B (비트별 GGUF 파일. GGUF는 llama.cpp 계열 도구가 쓰는 모델 파일 형식) |
| 클라우드 모델 | Claude Haiku 5.5·Sonnet 5.5·Opus 5.5, 추론 강도 low~max |
| 도구 | LM Studio 0.4.27, Ollama 0.40.14, llama.cpp b12086, vLLM 0.33.0 |
무엇으로 쟀나
- 품질: 위니브가 실제로 가벼운 모델에 맡기는 일로 평가 문항 46개를 만들었습니다. 맞춤법 12, 문의 분류 10, 정보 추출 5, 요약 4, 문장 다듬기 4, 짧은 코드 5, 계산·추론 6문항입니다. 어려운 일로는 위니브 알고리즘 문제 15개(난이도 2~5)를 숨은 테스트까지 모두 통과해야 맞은 것으로 셌습니다. 채점은 대부분 자동이고, 다듬기 4문항만 Claude Opus 5.5가 채점 기준표로 채점했습니다.
- 속도: 첫 글자가 나올 때까지 걸린 시간, 초당 생성 토큰, 프롬프트 처리 속도. 같은 조건으로 3~5번 재서 평균했습니다.
- 원가: 클라우드는 공식 표준가에 실제로 쓴 토큰을 곱하고, 2026년 11월 4일 환율 1,341.5원으로 바꿨습니다. 로컬은 1초마다 기록한 그래픽카드 전력에 전기 요금(kWh당 214.6원)을 곱하고, 그래픽카드 값 100만 원을 3년 동안 하루 8시간 쓴다고 보고 나눠 더했습니다.
숫자를 읽을 때 조심할 점
- 도구와 모델은 몇 주마다 바뀝니다. 그래프마다 측정 날짜와 버전을 적었습니다. 부록의 측정 방법대로 하시면 여러분의 PC에서 다시 잴 수 있습니다.
- 로컬 원가는 그래픽카드 전기만 셌습니다. CPU와 나머지 부품의 전기는 빠졌으니, 실제 로컬 원가는 이보다 높습니다.
- 평가 문항은 위니브의 업무입니다. 여러분 회사의 일과는 다를 수 있습니다. 그래서 맺으며에 새 모델이 나왔을 때 한 시간 안에 직접 재 보는 점검표를 실었습니다.
마지막 수정