AI는 틀려도 당당하다, 《내가 틀릴 수도 있습니다》가 알려주는 인간의 마지막 우위

확신은 정확도의 신호가 아니다

먼저 사람 쪽 데이터부터. 비영리 평가기관 METR이 2025년에 진행한 실험에서, 경력 개발자 16명은 AI 도구를 쓸 때 실제로는 19% 더 느렸는데 스스로는 20% 빨라졌다고 답했다. 시작 전 예상은 24% 단축이었다. 숫자가 반대 방향으로 갔는데도 체감은 끝까지 한 방향을 가리켰다. 워크데이·하노버리서치가 2026년 3월 발표한 조사에서는 국내 직장인 31%가 품질이 낮은 AI 결과물을 고치는 데 매주 1~2시간을 쓰고 있었다. 그 재작업 시간은 대개 "잘 되고 있다"는 체감에서 빠져 있다.

그러니까 확신에 차서 틀리는 건 모델만의 버릇이 아니다. 다만 차이가 하나 있다. 사람에게는 자기 의심이라는 기능이 탑재될 수 있다는 것. 기본값으로 켜져 있지는 않지만, 훈련하면 켜진다. 이 책은 그 훈련에 17년을 쓴 사람의 기록이다.

17년 수행의 결론이 "초능력"이었다는 것

비욘 나티코 린데블라드는 1961년 스웨덴에서 태어났다. 대학을 졸업하고 다국적 기업에 들어가 스물여섯 살에 임원으로 지명됐는데, 그 자리를 포기하고 사직서를 냈다. 그 후 태국 밀림의 숲속 사원에 귀의해 '나티코', 즉 '지혜가 자라는 자'라는 법명을 받고 17년간 수행했다. 마흔여섯에 사원을 떠나 승복을 벗었고, 2018년 루게릭병 진단을 받았으며, 2022년 1월 스스로 삶을 거뒀다. 이 책은 그가 남긴 처음이자 마지막 책이다(박미경 옮김, 다산초당, 2022).

책 초반, 한 기자 앞에서 그는 자기가 무엇을 포기했는지 늘어놓는다. 돈을 한 푼 쓰지 않았고, 성교도 자위도 하지 않았고, 텔레비전이나 소설책을 접하지도 않았고, 술을 마시지 않았고, 가족과 멀리했고, 현대 문명의 이기를 누리지도 않았고, 새벽 3시에 일어나 하루 한 끼 주어진 음식을 주어진 만큼 먹었다고. 17년 동안, 자발적으로. 그리고 스스로 묻는다. 그렇게 해서 무엇을 얻었을까. 답은 이랬다.

17년 동안 깨달음을 얻고자 수행에 매진한 결과, 머릿속에 떠오른 생각을 다 믿지는 않게 되었습니다. 그게 제가 얻은 초능력입니다.

이 문단을 읽고 한참 멈춰 있었다. 17년의 결론이 더 좋은 생각이 아니라 떠오른 생각을 다 믿지 않는 능력이었다는 것. 그리고 그게 정확히 지금의 언어모델에게 없는 기능이라는 것. 모델은 다음 토큰의 확률은 계산하지만, "이 문장을 내가 믿어도 되는가"를 묻는 층은 갖고 있지 않다. 확률과 확신은 다른 것이다.

"내가 틀릴 수도 있습니다"는 겸손이 아니라 절차다

책에는 「마법의 주문」이라는 제목의 장이 따로 있다(125쪽). 그 주문이 곧 이 책의 제목이다. 여기서 중요한 건 이 문장이 자기비하가 아니라는 점이다. 자신을 낮추는 말이 아니라, 판단이 굳기 직전에 끼어드는 장치에 가깝다. 확신이 행동으로 넘어가는 지점에 일부러 한 칸을 비워두는 일.

엔지니어링의 언어로 옮기면 이건 사람 쪽에 심는 검증 관문이다. AI 출력에 검증 단계를 붙이는 설계는 이제 익숙하다. LLM-as-a-Judge 같은 패턴이 그것이고, 검증을 빼먹으면 딜로이트가 호주 정부에 환불한 사건 같은 일이 벌어진다. 그런데 정작 같은 관문을 자기 판단에 달아두는 사람은 드물다. AI 출력은 의심하면서 내 확신은 의심하지 않는다면, 검증 체계의 절반이 비어 있는 셈이다.

나는 이 감각을 연구실에서 먼저 배웠다. 대학원에서 자율주행 UX를 연구하면서 IEEE 저널에 논문을 쓰는 과정은, 요약하면 내 가설을 어떻게 무너뜨릴지 미리 설계하는 훈련이었다. 좋은 결과를 얻는 방법이 아니라, 결과를 믿어도 되는지 확인하는 절차를 먼저 짜는 일. 지금 AI 검증 프레임워크를 설계할 때 쓰는 근육이 거기서 왔다. 나티코가 사원에서 17년에 걸쳐 익힌 것과 이름만 다르지, 하는 일은 같다고 생각한다. 떠오른 것을 곧바로 믿지 않기.

책에는 이 의심이 문화와 부딪히는 장면도 정직하게 나온다. 태국 사원에서는 중요한 결정을 논의할 때 "이게 마음에 들지 않습니다"라거나 "일할 기분이 아니에요"라고 얼마든지 말할 수 있었는데, 서구식 조직문화에서 자란 외국인 승려로서는 감정이 그렇게 큰 비중을 갖는다는 걸 이해하기 어려웠다고. 그리고 이렇게 덧붙인다. 감정이라는 직관에 기댈 수 없고 감정이 받아들여질 것이란 기대도 없었기에, 우리는 모든 지시를 더 의심하고 시비를 가려야 했는지도 모른다고. 의심조차 어디서 자랐느냐에 따라 모양이 다르다는 이야기다.

그래서 AI와 일할 때 무엇을 바꾸나

이 책을 읽고 실제로 바꾼 건 세 가지다.

1. 어조를 신호로 읽지 않는다. AI가 단정적으로 말한다고 해서 근거가 강한 게 아니다. 확신의 톤과 정확도는 상관이 없다. "확실합니다"는 문체이지 증거가 아니다
2. 주문을 거는 위치를 바꾼다. "내가 틀릴 수도 있습니다"를 AI 출력을 볼 때가 아니라 AI 출력을 반박하려 할 때 건다. 내 생각과 다른 답이 나왔을 때 반사적으로 무시하는 순간이, 사실 가장 많이 틀리는 순간이다
3. 틀린 것을 기록한다. 나티코가 「아홉 번의 실패」라는 장을 따로 둔 것처럼. 틀린 사례가 쌓여야 다음번 확신의 크기가 조절된다. 이 기록을 프롬프트로 되돌리는 방법은 피드백 루프 이야기에 적어뒀다