AI와 진실에 대한 새로운 시각

Source: Dev.to

진실과 AI의 본질

모두가 좋아하는 영화가 하나씩 있다. 왜 그 영화를 좋아하는지 물어보면 각자 이유가 있다. 그 이유가 틀렸다고 할 수는 없다; 각자의 경험, 시대, 참여한 대화에 비추어 보면 모두 옳다. 인간에게 진실은 ‘주소’를 가진다.

대형 언어 모델이 정보를 처리하는 방식

훈련 과정에서 모델은 수백만 개의 문서를 동시에 흡수한다—서로 다른 세기의 텍스트, 상반된 정치 운동, 조화되지 않는 문화들—그리고 이를 하나의 수학적 공간으로 평탄화한다. 영화 사학자에게는 1921년 케톤 영화가 2026년 블록버스터를 설명한다. AI에게는 두 작품이 같은 깊이에 존재하며, 영원한 안개 속에 있다. ‘이전’이라는 개념도, 출처라는 개념도 없다.

AI에게 글을 검토해 달라고 요청했을 때 처음엔 어떤 문장을 ‘멋지다’고 평가했지만, 다음 세션에서는 같은 문장을 ‘약하다’고 한다면, 이는 버그도, 나쁜 날도 아니다. 플롯도, 반전도 없다. 왜냐하면 어디에서도 이야기가 전해지고 있지 않기 때문이다.

답변을 강요받을 때 모델은 어떤 입장에서 추론하지 않는다. 대신 통계적 평균을 계산한다—아이, 영화광, 사학자를 섞어 모두를 포함하면서도 어느 쪽에도 고정되지 않은 권위 있게 들리는 문장을 만든다.

프롬프트의 역할

여기가 핵심 역설이다: 대형 언어 모델은 절대 ‘틀릴’ 수 없다. 왜냐하면 ‘옳다’는 개념 자체를 가질 수 없기 때문이다—중요한 방식으로는 말이다. 옳다는 것은 어느 위치에 서 있다는 전제가 필요하다.

그래서 좋은 프롬프트는 사람들이 생각하는 것보다 훨씬 중요하다. 프롬프트는 모델이 갖는 유일한 출처이다. 모델에게 제공되는 유일한 “언제”, “누가”, “어디서”가 바로 프롬프트다. 모호한 프롬프트는 모호한 답을 얻는 것뿐 아니라, 어디에서도 온 답을 얻는다; 모든 곳에서 평균을 낸 답이다. 구체적이고 상황에 맞는 프롬프트는 대형 언어 모델에게 시간 속의 한 위치를 제공하는 가장 가까운 수단이다.

결론

따라서 “진실을 추구하는 AI”가 완전히 부서진 아이디어는 아닐지도 모른다. 다만 그 추구는 당신—‘당신’이란 무엇인가에 따라 시작되고, 그에 의존한다.