나는 틀릴 수도 있다

Source: Dev.to

“You are absolutely right!” 순간

AI 에이전트를 다뤄본 적이 있다면, 아마도 다음과 같은 응답을 본 적이 있을 것입니다:

You are absolutely right!

나는 이 표현이 싫다. 보통 많은 토큰을 낭비하고도 에이전트가 상황을 파악하지 못할 때 나타난다. 인간인 당신이 직접 문제를 진단하고 해결책을 제시해야 하는 좌절의 순간이다.

나는 에이전트를 탓했다. 왜 *“I am wrong”*이라고 말하지 못할까? 왜 이전에 *“maybe I’m wrong”*이라는 힌트도 없이 그렇게 강한 자신감을 보였을까?

바로 이런 순간에 나는 AI가 인간 지능을 정말 대체할 수 있을지 의문을 갖게 된다.

문구 재해석

경험이 쌓이면서 You are absolutely right! 를 다르게 보기 시작했다. 여전히 답답하지만 이제는 그것을 하나의 신호로 인식한다.

LLM은 확률 기계

LLM은 인간의 지시를 따르도록 훈련되었지만, 논리적 사고와 반성을 할 수 있는 집단 지능과 대화하는 것이 아니다. 우리는 가장 가능성이 높은 다음 토큰을 반환하는 확률 기계에 생각을 투사하고 있는 것이다.

본질적으로 우리는 주로 자신(그리고 코드)과 대화하고 있다. LLM은 책상 옆에 놓인 고무 오리와 같아, 당신이 달성하려는 목표를 이해하도록 돕는다. LLM은 질문에 답할 수 있지만, 명확한 결말이 없는 개방형 탐구—연구—에 있어서는 주로 자신의 반성에 귀를 기울이는 것이다.

신호 활용하기

그래서 You are absolutely right! 를 보면 이제는 뒤로 물러서서—틀을 깨고 무엇이 빠졌는지 찾으라는 신호로 받아들인다. 우울한가? 조금은 그렇다. 하지만 동시에 자유롭기도 하다.

문학적 상기

그 순간들에 나는 컴퓨터 과학 밖에서 지혜를 찾았다. 최근에 읽은 I May Be Wrong 라는 책이다. 저자는 스웨덴 출신으로 태국에서 숲 속 스님이 된 Björn Natthiko Lindeblad이다.

통제에서 벗어나 불확실성을 받아들이는 이야기를 다룬다(익숙한가?). 당신의 생각이 곧 당신이 아니다; 당신은 틀릴 수도 있다. 소프트웨어 엔지니어링이나 AI와는 전혀 관계가 없다. 하지만 나는 책 제목을 메모로 빌려, 코드 작업 중 책상 옆에 놓고 싶다.

I May Be Wrong.

이제 뒤로 물러설 시간이다—통제에서 벗어나, 스스로 생각하는 모든 것을 무조건 믿지 말자.