본문 바로가기
스터디 열기

계산 방법과 변경 이력

자주 나오는 말

  • ECI(Epoch Capabilities Index): Epoch AI가 벤치마크 수십 개의 점수를 하나의 눈금으로 이은 능력 지수입니다. Claude 3.5 Sonnet을 130, GPT-5를 150에 맞춰 눈금을 정했고, 최고값에 한계는 없습니다. 방법은 Epoch AI 논문(arXiv:2512.00193)에 있습니다.
  • 시험 난이도(EDI): 같은 눈금에 놓은 시험의 어려움입니다. 모델 능력과 시험 난이도가 같으면 그 시험에서 보정 점수를 절반쯤 받는다고 보는 모형입니다.
  • 보정 점수: (점수 − 찍어서 맞힐 몫) ÷ (천장 − 찍어서 맞힐 몫). 네 개 중 하나를 고르는 시험이라면 25%는 찍어도 나오므로 빼고, 문제 오류로 아무도 받을 수 없는 몫은 천장으로 삼습니다. Epoch의 계산 방식과 같습니다.
  • 최고 기록: 날짜순으로 그날까지 나온 모델 가운데 가장 높은 값입니다. 같은 날 두 모델이 나오면 높은 쪽을 씁니다.
  • 공개 가중치 / 닫힌 가중치: 모델 파일을 누구나 내려받을 수 있는지(사용 조건이 붙은 것 포함), API·서비스로만 쓸 수 있는지입니다. Epoch의 분류를 따랐습니다.

위니브가 정한 기준

기준값쓰인 그림까닭
포화 문턱보정 점수 80%AIC-005남은 20%에는 문제 오류·채점 차이가 섞여 있어 100%를 기준으로 삼기 어렵다
추세 계산 시작2023-03-31AIC-007, AIC-008자료 첫 달(LLaMA-65B → GPT-4)의 큰 계단이 기울기를 부풀린다
예측 되짚기 자르는 날2025-06-30AIC-007그 뒤 1년 남짓을 맞혀 볼 구간으로 남긴다
세 가지 속도2023-03~2024-10 / 전체 / 최근 2년AIC-008자료에서 실제로 관측된 느린 시기·평균·최근 속도
회사 선모델 5개 이상인 회사 중 최고 기록 상위 8곳AIC-002선이 너무 많으면 읽을 수 없다. 빠진 회사는 그림에 적었다
나라 선만든 기관의 나라(Epoch 구분)AIC-105, AIC-302여러 나라 공동 모델은 나라마다 하나씩 셌다
시험 8개 고르기2019~2025년에 한 해에 하나꼴AIC-202나온 시기가 다른 시험을 견주려고
되짚기 시점2024-03부터 분기 끝마다, 1년 뒤AIC-4011년 뒤 실제 값이 있는 시점만
사건 분류판 교체·통합과 철수를 나눔AIC-010, AIC-602대체 제품이 있는 종료를 철수로 세면 철수가 부풀려진다

검증

  • 그림을 그린 코드와 별도로, 다른 검증 담당이 그 코드를 보지 않고 원자료에서 숫자를 다시 계산해 AIC-001~009 카드의 숫자·날짜·이름·순서를 대조했습니다. 이 과정에서 회사 선 고르는 기준, 기록 횟수 세는 법, 표기 자리수 등 8곳을 바로잡았습니다.
  • 사건표(AIC-010)는 89건을 회사 공지·공식 문서·논문으로, 10건을 보도로 확인했습니다. 별도 검증에서 철수·보류·제한 사건 27건 전부와 무작위 15건의 출처를 다시 열어 날짜와 내용을 대조했고, 그 결과에 따라 대체 제품이 있는 종료를 '판 교체·통합'으로 나눴습니다.
  • 그 뒤 추가한 그림 10장(AIC-101·103·105·202·301·302·401·502·602·603)도 같은 방식으로 원자료에서 다시 계산해 대조했고, 신뢰 구간 비교의 셈법(AIC-301) 등 4곳을 바로잡았습니다.

변경 이력

날짜판바뀐 것
2026-11-062026년 11월판(견본)대표 그림 10장과 카드 글. 원자료 기준일 2026-11-06
2026-11-062026년 11월판그림 10장 추가(AIC-101·103·105·202·301·302·401·502·602·603), 카드 말투를 '~습니다'로, 사건표 분류에 판 교체·통합 추가

마지막 수정