맥락 창과 기억

오래 이어 온 대화에서 “아까 정한 대로 해 줘”라고 했는데, AI가 폐기한 안을 다시 꺼내 놓습니다. 새 대화를 열었더니 이번에는 내 말투 취향을 이미 알고 있습니다. 이런 차이를 이해하려면 지금 펼쳐 볼 수 있는 맥락과 대화 사이에 이어지는 기억을 나눠 볼 필요가 있습니다.

1. 맥락 창은 지금 펴 놓은 작업대입니다

맥락 창(Context window)은 모델이 한 번의 요청에서 처리할 수 있는 정보의 범위입니다. 질문과 이전 대화, 제공된 자료, 만들어 낼 답 등에 토큰이 쓰입니다. 입력 파일을 넣을 자리만 따로 무한히 있는 것이 아닙니다.

책상에 비유하면 지금 펼쳐 놓고 참고할 수 있는 작업대의 크기입니다. 책장에 책이 많이 있어도 모두 펼쳐 놓을 수는 없습니다. 마찬가지로 대화 기록이 화면에 남아 있다고 해서 그 모든 내용이 매번 같은 방식으로 모델에 전달된다고 생각하면 안 됩니다.

서비스는 긴 기록을 요약하거나 필요한 부분을 찾아 전달하는 방식으로 작업을 이어 갈 수 있습니다. 파일도 내용을 추출하거나 관련 부분을 검색해 활용할 수 있습니다. 첨부했다는 사실과 지금 답에 어떤 내용이 쓰였는지는 나누어 생각해야 합니다.

따라서 큰 맥락 창을 지원하는 모델은 긴 자료를 다루는 데 도움이 되지만, 모든 세부 사항을 항상 정확히 활용한다는 보장은 아닙니다. 필요한 정보를 찾고 연결하는 일은 여전히 남아 있습니다. 문서를 많이 넣었는데 답이 빗나간다면 양을 더 늘리기보다 어떤 자료를 기준으로 쓸지 분명히 할 수 있습니다.

2. 긴 대화가 흐려지는 이유

가상의 행사 기획 대화를 생각해 보겠습니다. 처음에는 대학생 대상의 대면 행사를 검토했다가 직장인 대상의 온라인 행사로 바꾸었습니다. 이후 제목과 홍보 문구를 여러 번 고쳤습니다. 대화에는 최신 결정과 폐기한 안이 함께 쌓입니다.

이 상태에서 “처음 정한 내용을 참고해 최종안을 써 줘”라고 하면 무엇이 유효한지 모호합니다. 모델에 전달된 맥락에서도 결정 사항이 분명해야 하고, 오래된 설명과 새 지시가 충돌할 때 어느 것을 따를지도 알 수 있어야 합니다. 길어진 대화의 문제는 단순히 오래된 말을 잊는 것만이 아닙니다.

수정이 여러 번 이어졌다면 현재 기준을 따로 묶어 주세요. “대상은 직장인, 방식은 온라인, 이전 대면안은 폐기”처럼 최종 결정을 적고, 미정인 항목은 미정으로 남깁니다. 이후에는 그 요약과 필요한 원문을 기준으로 다음 일을 맡길 수 있습니다.

요약도 AI에게 시킬 수 있습니다. 다만 요약문을 새 대화로 옮길 때는 중요한 조건이 빠지지 않았는지 확인할 근거가 있어야 합니다. 예산 한도나 꼭 지켜야 하는 문구처럼 원형이 중요한 부분은 원문을 함께 남기면 좋습니다. 모든 대화를 줄여 적는 것보다 현재 작업에 필요한 기준을 보존하는 것이 목적입니다.

3. 맥락, 메모리, 프로젝트, 파일

AI 서비스의 메모리(Memory)는 취향이나 반복해서 쓰는 정보를 이후 대화에 활용하는 기능입니다. 맥락 창의 크기를 무한히 늘리는 기능으로 생각하면 안 됩니다. 어떤 정보를 저장하고 참조하는지, 사용자가 어떻게 확인하고 지울 수 있는지는 서비스마다 다릅니다.

프로젝트는 관련 대화와 지시, 자료를 한 업무 단위로 모아 쓰는 공간입니다. 계속 진행하는 행사 기획이라면 행사 기준과 자료를 그 공간에 둘 수 있습니다. 파일은 그 안에서 참고하는 실제 원문입니다. 최종 공고문과 기획 초안은 서로 다른 역할을 하는 자료가 됩니다.

예를 들어 “짧은 경어체를 선호한다”는 내용은 개인화 설정에 둘 수 있습니다. “이번 행사 제목은 이 문구로 확정한다”는 내용은 업무 자료에 남기는 편이 분명합니다. 반드시 따라야 하는 기준을 AI가 언젠가 기억할 것이라고 기대하기보다 읽을 수 있는 문서로 제공하는 것입니다.

4. 새 대화에도 일을 이어 주는 자료

일을 넘겨받는 동료에게는 무엇을 하고 있는지, 무엇이 결정됐는지, 다음 할 일이 무엇인지 알려 줍니다. AI에게도 같은 방식의 인수인계가 도움이 됩니다. 긴 대화 전체를 전달하기 어려울 때 이 정보가 다음 시작점이 됩니다.

연습용 행사라면 목표, 독자, 확정 사항, 미정 사항, 결과물 형식을 한 문서에 적어 보세요. 원문 파일 이름이나 문서 제목도 함께 남길 수 있습니다. “아까 말한 자료”보다 어떤 문서를 가리키는지 명확해야 새 대화에서도 찾을 수 있습니다.

파일을 고쳤다면 무엇이 최신인지 구별해야 합니다. 초안과 확정본이 함께 있으면 제목이나 문서 첫머리에 상태를 적고, 이번 작업에서 어느 것을 기준으로 쓸지 알려 주세요. 실제로 읽을 수 없는 파일을 이름만 적었다면 내용을 제공하거나 접근 가능한 자료로 연결해야 합니다.

이렇게 남긴 문서는 나중에 사람이 읽기에도 유용합니다. AI의 대화 기록을 처음부터 훑지 않아도 목표와 결정을 알 수 있습니다. 8장에서는 이런 맥락 자료를 업무 지시와 함께 주는 방법을 더 구체적으로 다룹니다.

5. 따라 해 보기

아래는 모두 가상의 행사 자료입니다. 열려 있는 AI 대화창에 그대로 붙여 넣어 보세요. 실제 회사나 참가자 정보를 추가하지 않아도 연습할 수 있습니다.

다음 가상 행사 자료를 새 대화에서도 이어 쓸 수 있는 인수인계 메모로 정리해 주세요.
자료에 없는 내용은 보태지 말고 '미정'으로 적어 주세요.
목표, 확정 사항, 폐기한 안, 미정 사항, 다음 할 일로 나눠 주세요.
마지막에 다음 AI가 바로 수행할 요청 한 문장을 써 주세요.

[가상 자료]
행사 이름: 달빛배움터 문서 정리 연습회
목표: AI를 처음 쓰는 직장인이 회의 메모 정리를 연습한다.
처음에는 대학생 대상 대면 행사로 검토했다.
현재 대상은 직장인으로 확정했고, 방식은 온라인으로 확정했다.
대학생 대상 대면안은 폐기했다.
날짜, 참가비, 신청 주소는 아직 정하지 않았다.
다음 결과물은 짧은 경어체의 안내문 초안이다.
확정하지 않은 항목은 안내문에서도 미정으로 표시한다.

이런 답이 오면 잘된 것: 현재 대상과 방식이 분명하고, 날짜·참가비·신청 주소는 미정으로 남아 있습니다.

이렇게 오면 이렇게 다시 말하기: 없던 날짜를 넣었다면 “자료에 없는 값은 삭제하고 모두 미정으로 바꿔 주세요”라고 요청하세요.

인수인계 메모를 복사해 새 대화를 연 뒤, 메모 끝의 요청을 실행해 보세요. 앞선 대화를 모르는 새 AI도 같은 조건으로 안내문을 만들 수 있는지 확인하면 됩니다. 빠진 조건을 발견하면 메모에 보완하면 됩니다. 중요한 기준을 유지하는 방법을 직접 시험하는 과정입니다.

6. 기억과 데이터 설정은 따로 봅니다

메모리를 껐다고 해서 대화가 즉시 모두 삭제되거나 모델 개선에 쓰이지 않게 되는 것은 아닙니다. 대화 기록, 개인화용 기억, 모델 개선에 쓰는 데이터는 서로 구분되는 설정입니다. “기억하지 마”라는 한마디보다 서비스 설정에서 해당 항목을 확인해야 합니다.

다음에 참고할 자료를 어디에 둘지와, 서비스가 내 데이터를 어떻게 처리할지는 다른 질문입니다. 이 차이를 기억해 두면 편리함을 위해 무엇을 남길지 더 분명하게 선택할 수 있습니다. 구체적인 초기 설정은 5-4절에서 함께 하겠습니다.

참고 자료

• Memory in ChatGPT, OpenAI, 상시 도움말·조회 2026-10-25.
• What are projects?, Anthropic, 상시 도움말·조회 2026-10-25.