AIC-107 매개변수 하나에 먹이는 글, 중앙값 0.07개에서 45개로

무엇을 보여 주나

학습 데이터 크기를 매개변수 수로 나눠 '매개변수 하나에 글을 얼마나 먹였나'를 봤습니다. 해마다의 중앙값이 2017년 0.07개에서 2026년 45개로 올랐습니다.

읽는 법

2022년 중앙값은 5.7개였고 2024년에 34.3개로 뛰었습니다. 2022년 Chinchilla 논문이 '학습 연산이 같다면 약 20개가 좋다'고 보인 뒤에 일어난 변화입니다. 2025년 모델 26개 가운데 19개가 그 값을 넘고 중앙값은 43.8개입니다.

주의할 점

값이 둘 다 알려진 모델 253개만 셌습니다. 2026년은 6개뿐입니다. 전문가 혼합(MoE) 모델은 전체 매개변수로 나눠 비율이 낮게 나옵니다. 그림에서 Chinchilla와 시기가 맞아 보여도, 그 논문이 이 변화의 유일한 원인이라고 이 자료로 말할 수는 없습니다.

출처

Epoch AI, Data on AI models (CC BY 4.0). Hoffmann et al. 2022(Chinchilla).

인용할 때

출처: 주식회사 위니브, 『그래프로 보는 AI의 속도』(2026년 11월판), 그림 AIC-107, 원자료: Epoch AI (CC BY 4.0)