AI가 모르는 것은 내 사정뿐이다

위니버시티에 교재를 직접 편집하는 기능을 넣을 때, 처음 적은 요구사항에는 강사는 자기가 맡은 교재만 고칠 수 있다고 쓰여 있었습니다. 담당자 칸을 바꿔서 권한을 얻는 길까지 막으라고 되어 있었습니다. 여러 사람이 쓰는 서비스라면 누구나 이렇게 설계합니다. 틀린 곳이 없는 요구사항입니다.

그런데 위니브의 강사는 직원입니다. 외부 강사들이 각자 교재를 올리는 장터가 아닙니다. 서로의 교재에 손대는 것을 막을 이유가 없습니다. 10월 1일에 이 부분을 다시 보고, 강사는 담당 여부와 관계없이 모든 교재를 관리하게 바꿨습니다. 담당자 칸은 표시로만 남겼습니다. 교재를 통째로 지우는 권한은 주지 않았습니다.

AI는 세상을 압니다. 보통의 서비스가 권한을 어떻게 나누는지, 안내 문구를 어떻게 쓰는지 저보다 많이 압니다. 그래서 빈칸을 남기면 잘 채웁니다. 그렇게 채운 답은 보통의 회사에 맞는 답입니다. 저희 강사가 직원이라는 것은 세상 어디에도 적혀 있지 않습니다. 기획에서 사람이 할 말은 대부분 이런 사정입니다.

1. 보통은 맞고 저희에게는 틀린 것들

교재 PDF가 그렇습니다. 파는 파일을 어떻게 보호할지 물으면 답은 끝이 없습니다. 주소를 더 조이고 복제 방지 장치를 달 수 있습니다. 저희는 PDF를 내려받은 뒤에는 공유될 수 있는 파일로 봅니다. 구매를 확인하고 내려받기 링크를 주는 데서 멈춥니다. 회사 규칙에도 별도 요청이 없으면 이 보호를 더 강화하지 않는다고 적어 두었습니다.

학습 도구의 채점도 그렇습니다. 정답과 숨겨 둔 시험 내용은 감추는 것이 상식입니다. 저는 10월 29일에 그것이 드러나도 괜찮다고 정했습니다. 지금은 AI로 다 풀 수 있고, 저희 학습 도구의 초점은 부정을 막는 데 있지 않고 학생이 해 보는 데 있기 때문입니다.

화면에 쓰는 말도 AI는 세상의 친절로 채웁니다. 10월 11일, 알고리즘 화면에는 로그인하지 않아서 어떻게 된다는 안내와 코드가 어디에서 실행되는지를 설명하는 문장이 있었습니다. 정직하고 친절한 문장입니다. 저는 전부 지우라고 했습니다. 사용자는 그런 내부 사정을 알 필요가 없습니다. 위니버시티에서는 지금도 사람이 해야 할 일이나 실제로 막힌 것만 쓰고, 문제가 없을 때는 아무 말도 하지 않습니다.

AI가 세상의 눈으로 가장 자주 말하는 곳은 비용입니다. 상담 채팅을 직접 만들자고 했을 때 AI는 반대했고, 저는 일주일쯤 만들지 않았습니다. 들이는 수고에 비해 얻는 것이 작다는 판단은 보통의 회사라면 맞습니다. 사람을 붙여 개발하고 서버를 따로 빌려야 하니까요. 저희는 회사 서버가 어차피 켜져 있고 AI 사용량도 남아 있었습니다. 이 두 가지를 말하고 만들게 했더니 그날 저녁에 붙었습니다. AI의 판단이 틀렸던 것이 아닙니다. 그 사정을 제가 말하지 않았습니다.

2. 강의실은 AI의 머릿속에 없습니다

가장 값을 크게 치른 사정은 강의실이었습니다. 10월 27일 보안 점검을 거치며 가입 인증을 한 인터넷 주소에서 보낼 수 있는 횟수를 줄였습니다. 공격을 막는 데는 좋은 값입니다. 그런데 저희는 강의실에서 가르치는 회사이고, 강의실의 수강생은 바깥에서 모두 같은 주소로 보입니다. 11월 3일 저녁, 위니브 교실에서 함께 가입하던 수강생들이 막혔습니다. 고칠 거리는 수업이 끝난 밤 10시 이후에 올리게 했습니다. 수업 시간표 역시 AI가 아는 세상에는 없습니다.

이런 사정은 코드 지식이 아닙니다. 코드를 몰라도 말할 수 있고, 그 회사 사람 말고는 말할 사람이 없습니다. 코드를 모르는 분이 AI가 만든 것을 볼 때 살필 것도 같습니다. 세상의 기준에 맞는지는 AI가 저보다 잘 봅니다. 사람이 볼 것은 우리 경우에도 맞는지입니다.