대화, 추론, 그리고 에이전트

출장 준비를 앞두고 AI에게 교통편을 물었는데, 돌아온 설명을 보며 예약 사이트는 다시 직접 열고 있습니다. 앞 장에서 그림과 영상을 만드는 AI를 보았다면, 이제는 이런 일을 어디까지 맡길 수 있는지 볼 차례입니다. 대답을 받는 것과 일을 맡기는 것의 차이를 알면, 같은 AI 앞에서도 부탁하는 내용이 달라집니다.

1. 대답을 받던 자리에서

ChatGPT는 2022년 11월 30일 공개됐습니다. 질문하면 설명하고, 글을 주면 고치고, 어려운 말을 쉬운 말로 바꿔 주는 대화형 AI였습니다. 검색창에 넣을 단어를 고민하던 사람이 평소 말투로 질문할 수 있게 됐다는 점만으로도 큰 변화였습니다.

이런 방식으로 출장 준비를 하면 “공항에서 행사장까지 어떻게 가나요?”라고 묻습니다. AI는 버스와 택시의 차이를 설명합니다. 사용자는 그 답을 읽고 다음 질문을 고릅니다. “짐이 많으면요?”, “시간이 촉박하면요?”처럼 대화를 이어 갑니다. 다음에 무엇을 할지 결정하고 실제로 움직이는 사람은 사용자입니다.

이 방식은 지금도 유용합니다. 낯선 개념을 이해하거나 문장 하나를 다듬는 데 일을 통째로 맡길 필요는 없습니다. 다만 설명을 얻었는데도 내 할 일 목록이 거의 그대로라면, AI가 답하는 범위를 넘어 실제로 처리할 단계를 찾아볼 수 있습니다.

2. 답하기 전에 더 생각하는 AI

2024년 9월 12일 공개된 o1-preview는 추론에 시간을 쓰는 모델의 등장을 보여 줬습니다. 추론은 주어진 조건에서 결론을 얻기 위해 중간 단계를 따져 보는 일입니다. 여러 조건을 맞추거나, 계산 순서를 정하거나, 처음 떠올린 방법을 고치는 작업이 여기에 들어갑니다.

효과는 숫자로도 드러났습니다. OpenAI가 공개한 미국 수학 경시(AIME 2024) 평가에서 GPT-4o는 12%를 맞혔고, o1 연구 모델은 한 번 답하는 조건에서 74%, 64개 답을 모아 다수결로 정하는 조건에서 83%를 기록했습니다.

가상의 출장에서 “행사 시작 전에 도착하고, 짐을 들고 오래 걷지 않으며, 정해진 교통비 안에서 이동하고 싶다”고 해 보겠습니다. 조건 하나씩에 답하는 데서 그치지 않고 어떤 선택이 조건을 함께 만족하는지 비교해야 합니다. 빠른 교통편이 예산을 넘으면 다른 길을 찾아야 하고, 싼 교통편이 늦게 도착하면 후보에서 빼야 합니다.

추론 능력이 좋아지면 이런 계획과 비교의 질이 올라갑니다. 하지만 계획을 세우는 것과 실행하는 것은 별개의 일입니다. 교통편을 아무리 잘 비교해도 실제 시간표를 조회하지 않았다면 최신 운행을 확인한 것이 아닙니다. 예약 사이트에 접속하지 않았다면 좌석이 남아 있는지도 모릅니다.

그래서 대화와 추론 다음에는 도구가 중요해집니다. 검색하고, 파일을 읽고, 다른 프로그램에서 작업한 결과를 받아올 수 있어야 계획이 현실의 일로 이어집니다. 추론 모델은 에이전트가 일을 수행할 때 판단을 맡는 바탕이 될 수 있습니다.

3. 에이전트는 목표를 받아 움직입니다

에이전트는 목표를 받고, 필요한 순서를 정하고, 도구를 쓰고, 결과를 확인하며 일을 이어 가는 AI 시스템입니다. 한 번에 그럴듯한 답을 내는 것으로 끝나지 않고, 실행 뒤에 돌아온 결과를 다음 행동의 재료로 삼습니다.

출장 준비에 대입하면 여섯 요소가 보입니다.

여기서 기억은 반드시 사람처럼 모든 대화를 떠올린다는 뜻이 아닙니다. 작업 메모나 파일에 “이 후보는 예산 초과로 제외했다”고 적어 두는 것도 일을 이어 가는 기억입니다. 무엇을 남겨야 같은 일을 되풀이하지 않을지 정하는 것이 핵심입니다.

이 흐름을 보면 “에이전트처럼 답해 줘”라는 말만으로 에이전트가 되는 것은 아니라는 점도 알 수 있습니다. 실제로 사용할 도구와 작업 공간이 있어야 합니다. 조회할 수 없는 예약 사이트의 가격을 만들어 적고 “예약했습니다”라고 말하면 실행한 것이 아닙니다. 조회 결과나 예약 내역처럼 작업을 확인할 수 있는 흔적이 돌아와야 합니다.

4. 출장 예약을 맡긴다면

가상의 요청을 조금 더 구체적으로 바꿔 보겠습니다. “행사 전날 이동하고, 행사장까지 대중교통으로 갈 수 있는 숙소를 찾아 주세요. 총예산과 취소 조건을 표로 비교하고, 예약 직전의 후보안을 보고해 주세요.” 목표와 완료 기준을 한꺼번에 준 요청입니다.

도구가 연결된 에이전트라면 시간표를 조회하고, 숙소 후보를 찾고, 각각의 이동 경로를 비교할 수 있습니다. 중간에 객실이 없으면 다른 숙소를 찾습니다. 마지막에는 교통비와 숙박비를 합친 금액, 도착 시각, 취소 가능 여부, 확인한 주소를 남깁니다. 사용자는 검색 결과 사이를 오가며 자료를 옮기는 일을 덜게 됩니다.

여기에 “결제는 후보안을 보고 내가 결정한다”는 범위를 함께 주면 돈을 쓰기 전의 판단 지점도 분명해집니다. 이미 허용한 작업 범위 안에서는 이어서 일하고, 사람이 정하기로 한 지점에서 결과를 넘기게 만드는 것입니다. 모든 클릭을 사람에게 묻게 하면 일을 맡긴 효과가 줄고, 범위를 정하지 않으면 원치 않는 행동까지 이어질 수 있습니다.

완료 보고에는 좋은 후보만 있으면 부족합니다. 어떤 조건을 충족했는지, 아직 확인하지 못한 것이 있는지까지 있어야 받아들일 수 있습니다. 필요하면 다른 대화의 AI에게 요청 조건과 후보표를 주어 누락을 찾게 할 수 있습니다. 사람에게 남는 일은 기준을 정하고, 돌아온 근거를 읽고, 실제로 예약할지 결정하는 일입니다.

5. 이름보다 맡긴 범위를 봅니다

대화형 AI, 추론 모델, 에이전트는 앞의 것이 없어지고 뒤의 것만 남는 구분이 아닙니다. 에이전트도 사람과 대화하고 추론을 활용합니다. 같은 서비스에서도 질문 하나에 답하는 기능과 도구를 써서 일을 진행하는 기능이 함께 있을 수 있습니다.

따라서 새 도구를 볼 때는 “에이전트인가요?” 다음에 더 구체적인 질문을 해 보면 좋습니다. 어떤 자료를 읽을 수 있는지, 어디에 결과를 저장하는지, 실패하면 무엇을 하는지, 완료를 무엇으로 입증하는지 살펴보는 것입니다. 설명의 길이보다 실제로 끝낸 단계가 일을 맡길 수 있는 범위를 보여 줍니다.

이제 AI에게 어떤 일을 시킬지 생각할 때 “무엇을 물어볼까”에 더해 “어떤 결과까지 받아볼까”를 떠올려 보세요. 다음 절에서는 그 범위를 넓혀 주는 전문 작업 지침과 도구 연결을 알아보겠습니다.

참고 자료

• Introducing ChatGPT, OpenAI, 2022-11-30.
• Introducing OpenAI o1-preview, OpenAI, 2024-09-12.
• Learning to reason with LLMs, OpenAI, 2024-09-12.