똑똑한 것과 기억하는 것은 다르다

AI는 대화창을 닫으면 다 잊는다. 어제 같이 고친 파일도 오늘은 모른다. 그래서 매일 같은 설명을 다시 하고, 같은 실수를 다시 보고, 같은 돈이 다시 든다. Anthropic 직원이 지난여름 런던 행사에서 이렇게 말했다. 새 모델이 아무리 좋아져도 우리 회사에서 무슨 일을 어떻게 해야 하는지는 모른 채 온다고. 똑똑한 것과 아는 것은 다르다.

그래서 Anthropic은 4월에 기억을 넣었다. AI가 일하면서 스스로 메모를 남기고 다음에 꺼내 보는 방식이다. 메모는 그냥 파일이라 사람이 열어 읽을 수 있다. 그런데 메모는 쌓일수록 문제가 생긴다. 같은 내용이 두 번 적히고, 옛 정보와 새 정보가 같이 남고, 이미 틀린 메모가 그대로 있다. 책상 위에 메모지가 쌓이면 어느 게 최신인지 모르는 것과 같다.

5월에 붙인 답이 '드리밍'이다. 사람이 자는 동안 하루를 되감아 남길 것을 고르듯, AI가 일하지 않는 시간에 지난 대화록과 메모를 다시 읽고 새 메모장을 만든다. 겹치는 건 합친다. 낡은 건 새 값으로 바꾼다. 여러 번 되풀이된 실수는 규칙으로 올린다. 원래 메모장은 손대지 않는다. 사람이 새 메모장을 보고 마음에 안 들면 버리면 된다. 법률 AI 회사 Harvey는 이걸 켜고 일 완료율이 여섯 배쯤 올랐다고 한다. Anthropic 쪽 사람은 이렇게 표현했다. AI가 미래의 자기에게 더 나은 메모를 남기는 법을 배우는 중이라고.

석 달 뒤 개발자들의 반응이 기사로 실렸다. 반대가 아니라 조건이었다. 틀린 답은 그 대화에서 끝나지만, 틀린 메모는 이후 수천 번의 대화에 영향을 준다. 그러니 메모마다 어디서 왔는지, 무슨 근거인지, 언제까지 믿을지가 붙어 있어야 한다. 사람이 검토한다지만 양이 많아지면 도장만 찍게 된다. 대화록에는 AI가 쓰지 않은 말, 남이 넣은 말도 섞여 있다. 그걸 그대로 규칙으로 올리면 안 된다. 작은 실험 하나도 같은 쪽을 가리킨다. 깔끔하게 요약한 메모만 준 AI가 메모 없는 AI보다 못했다. 요약이 근거 없는 확신을 줬다.