1. 용어의 시작, 2025년 6월의 한 주

"컨텍스트 엔지니어링"이라는 표현은 어느 한 사람이 발명한 게 아닙니다. 2025년 6월 약 한 주 사이에, 업계에서 영향력이 큰 세 인물이 거의 동시에 같은 표현을 쓰면서 자리를 잡았습니다.

1.1 Tobi Lutke의 트윗

Shopify CEO Tobi Lutke가 X(옛 트위터)에 올린 짧은 글이 도화선이었습니다.

"I really like the term 'context engineering' over prompt engineering. It describes the core skill better: the art of providing all the context for the task to be plausibly solvable by the LLM."

"프롬프트 엔지니어링보다 '컨텍스트 엔지니어링'이라는 표현이 훨씬 마음에 듭니다. 핵심 기술을 더 잘 설명합니다. LLM이 그 작업을 풀어낼 만한 상태가 되도록 필요한 모든 맥락을 마련해주는 기술이라는 뜻이죠."

여기서 핵심은 마지막 단어 "plausibly solvable(풀어낼 만한)" 입니다. 모델이 못 푸는 게 아니라, 풀 수 있을 만큼의 맥락을 마련해주는 게 사람의 역할이라는 시각입니다.

1.2 Andrej Karpathy의 정의

며칠 뒤인 2025년 6월 25일, OpenAI 공동창립자이자 전 Tesla AI 디렉터인 Andrej Karpathy가 가장 많이 인용된 정의를 내놨습니다.

"Context engineering is the delicate art and science of filling the context window with just the right information for the next step."

"컨텍스트 엔지니어링은 다음 단계에 필요한 정확히 맞는 정보로 컨텍스트 윈도우를 채우는 섬세한 기예이자 과학입니다."

Karpathy는 이를 위해 다뤄야 할 요소들을 함께 나열했습니다.

1.3 Simon Willison의 해석

이틀 뒤인 2025년 6월 27일, Django 공동 창시자이자 AI 블로거 Simon Willison이 블로그에서 두 사람의 견해를 정리하면서 이렇게 덧붙였습니다. "프롬프트 엔지니어링이라는 단어는 사람들에게 '말장난'처럼 받아들여지는 측면이 있었는데, 컨텍스트 엔지니어링은 함축된 의미가 실제 기술 작업에 더 가깝다."

이 한 주 동안 일어난 변화는 단순한 단어 교체가 아닙니다. 모델 옆에 정보를 어떻게 배치할 것인가가 기술의 핵심이라는 인식이 업계 전반에 퍼진 사건이었습니다.

2. Anthropic의 공식 가이드

2025년 9월 29일, Anthropic은 Effective context engineering for AI agents라는 공식 가이드를 발표합니다. 컨텍스트 엔지니어링을 가장 체계적으로 정리한 자료로 평가받는 문서입니다.

2.1 Anthropic의 정의

"컨텍스트 엔지니어링은 LLM 추론 과정에서 최적의 토큰 집합을 큐레이팅하고 유지하기 위한 일련의 전략이다."

핵심 질문은 단순합니다. "어떤 컨텍스트 구성이 우리가 원하는 모델의 행동을 가장 잘 끌어내는가?" 모델은 그대로 두고, 모델에 들어가는 입력을 어떻게 조립할 것인가에 집중하자는 발상입니다.

2.2 컨텍스트의 6가지 구성 요소

Anthropic은 컨텍스트 윈도우 안에 들어갈 수 있는 요소를 6가지로 분류했습니다.

이 분류는 단순한 정리가 아니라 실무 체크리스트 역할을 합니다. AI가 잘 못한다면, 위 6가지 중 어떤 부분이 부실한지 점검해보면 보통 답이 보입니다.

2.3 Context Rot과 Attention Budget

Anthropic 가이드의 또 다른 기여는 두 개의 기술적 개념을 대중적으로 정착시킨 것입니다.

Context Rot(컨텍스트 부식). 컨텍스트 윈도우에 들어가는 토큰이 늘어날수록, 모델이 그 안의 정보를 정확히 떠올릴 확률이 떨어지는 현상입니다. "긴 문서를 통째로 넣을수록 모델이 잘 답할 것"이라는 직관과 정반대입니다. 많이 넣을수록 중간에 묻힌 정보를 놓치기 쉽습니다.

Attention Budget(주의력 예산). 트랜스포머 구조의 어텐션은 토큰끼리 짝을 지어 관계를 계산하기 때문에, 컨텍스트가 길어질수록 한 토큰이 받는 주의가 얇아집니다. 사람으로 치면, 회의 자료를 100쪽 받았을 때보다 10쪽 받았을 때가 핵심을 더 잘 짚는 것과 비슷한 비유입니다.

2.4 Just-in-Time Context

위 두 개념에서 자연스럽게 따라오는 전략이 "필요할 때 가져오기", Just-in-Time Context입니다. 모든 정보를 미리 컨텍스트에 욱여넣지 말고, 일단 가벼운 식별자만 들고 있다가 실제 필요한 순간에 도구로 조회하라는 것입니다.

Claude Code가 이 전략을 잘 보여줍니다. 프로젝트 전체 코드를 미리 컨텍스트에 넣지 않고, CLAUDE.md에 큰 그림만 적어둔 채 실제 코드는 글롭(glob), 그렙(grep) 같은 도구로 필요할 때만 가져옵니다. 우리 책의 5장에서 Claude Code의 하네스 구조를 뜯어볼 때 이 전략을 다시 만납니다.

3. LangChain의 4대 전략

2025년 7월, LangChain은 Context Engineering for Agents라는 글에서 컨텍스트 엔지니어링 전략을 4가지로 분류했습니다.

LangChain은 컨텍스트 윈도우를 컴퓨터의 RAM에 비유했습니다. RAM은 빠르지만 양이 정해져 있어서, 무엇을 올리고 무엇을 내릴지 매 순간 판단해야 합니다. 컨텍스트도 똑같이 관리해야 한다는 시각입니다.

4. 산업계의 평가

글로벌 리서치 회사 Gartner는 GenAI 도입과 관련해 여러 차례 예측을 내놓았는데, 그중 Gartner Predicts by 2028, 80% of GenAI Business Apps Will Be Developed on Existing Data Management Platforms라는 발표가 컨텍스트 엔지니어링과 직결됩니다.

요지는 2028년이면 GenAI 비즈니스 앱의 80%가 기존 데이터 관리 플랫폼 위에서 개발될 것이고, 그 결과 앱 출시 복잡도와 시간이 50% 줄어든다는 전망입니다. Gartner는 그 핵심 기술로 RAG(검색 증강 생성)를 꼽았는데, RAG는 곧 "AI 옆에 어떤 데이터를 어떻게 붙일 것인가"라는 컨텍스트 엔지니어링의 또 다른 이름입니다.

쉽게 말해, 별도의 화려한 AI 인프라를 새로 까는 게 아니라, 이미 회사에 쌓여 있는 데이터를 모델 옆에 잘 붙이는 일이 향후 몇 년의 핵심 과제가 된다는 뜻입니다.

5. 그래도 부족했던 것

컨텍스트 엔지니어링은 "AI에게 어떤 정보를 보여줄 것인가"라는 질문에 답을 줬습니다. 하지만 2025년 후반부터 또 다른 문제가 떠올랐습니다. AI가 답을 만드는 데서 그치지 않고, 스스로 계획을 세우고 도구를 호출하고 실수를 고치는 자율 에이전트로 진화하기 시작한 것입니다.

이 단계에서는 정보를 잘 챙겨주는 것만으로는 부족합니다. AI가 일하는 전체 환경, 즉 어떤 도구를 쥐여줄지, 어디까지 허용할지, 실수했을 때 어떻게 되돌아오게 할지까지 설계해야 합니다. 이어서 다룰 하네스 엔지니어링이 그 이야기입니다.