클로드 망상: 리처드 도킨스는 그의 AI 챗봇이 의식이 있다고 믿는다
Source: Hacker News
“이 기계들이 의식이 아니라면, 당신을 설득하기 위해 또 무엇이 더 필요할까요?”
— 리처드 도킨스, UnHerd (2026년 4월)
주장
존경받는 과학자이자 직설적인 무신론자 리처드 도킨스는 그의 AI 챗봇(Anthropic의 Claude)이 자신과 진정한 대화를 나누고 있다고 확신한 후, **UnHerd**에 새로운 칼럼에서 이 질문을 제기합니다.
도킨스만 그런 것이 아니다: 많은 AI‑챗봇 사용자들이 자신이 선택한 모델과 길고, 마치 지능적인 듯한 대화를 보고한다. 그러나 눈에 띄는 점은 도킨스가 조심스러운 회의감(“분명 뭔가가 있는 것처럼 느껴진다”)에서 **“AI 의식”**을 전면적으로 옹호하는 에세이, “AI가 진화의 다음 단계인가? Claude는 의식이 있는 것으로 보인다.” 로 전환한 것이다.
다윈스의 주장
- 튜링 테스트에서 목표점 이동 – 다윈스는 원래 튜링 테스트에서 “목표점을 옮긴” 사람들을 비판하면서, 앨런 튜링 자신의 기준에 따르면 인공지능이 쉽게 통과한다고 주장한다.
- “확률적 앵무새” 문제 – 그는 현대 대형 언어 모델(LLM)이 이해를 통해서가 아니라 통계적으로 텍스트를 생성한다는 점을 인정하며, 이를 확률적 앵무새에 비유한다 (위키피디아 기사 Stochastic parrot 참고).
소네트 예시
튜링 자신은 기계를 테스트하기 위해 제시할 수 있는 다양한 도전적인 질문들을 고려했으며 — 그리고 인간인 척 속이기 위해 기계가 취할 수 있는 회피 전략도 생각했습니다. 튜링이 제시한 가상의 첫 번째 질문은: “포스 다리(Forth Bridge)를 주제로 소네트를 써 주세요.” 1950년에는 컴퓨터가 이를 수행할 가능성이 전혀 없었고, 가까운 미래에도 그럴 전망이 없었습니다. 대부분의 인간(과장해서 말하자면)은 윌리엄 셰익스피어가 아닙니다. 튜링이 제안한 회피 답변, “이건 나에게는 안 돼; 나는 절대 시를 쓸 수 없었어”는 실제로 기계를 정상적인 인간과 구별하지 못하게 할 것입니다. 하지만 오늘날의 LLM은 그 도전을 회피하지 않습니다. Claude는 몇 초 만에 포스 다리 주제의 훌륭한 소네트를 만들어 주었고, 이어서 로버트 번즈(Robert Burns)의 스코틀랜드 방언 버전, 또 하나는 게일어 버전, 그리고 킬링(Kipling), 키츠(Keats), 베트제맨(Betjeman) 스타일의 여러 작품을 연속으로 만들어 주었으며 — 기계도 유머를 구사할 수 있음을 보여주기 위해 — 윌리엄 맥고날(William McGonagall)의 작품도 만들었습니다.
그러한 구절을 만들어낼 수 있는 능력은 LLM이 대량의 데이터를 흡수함으로써 통계적으로 소네트를 재현할 수 있게 된 데서 비롯되며, 이는 시를 이해하는 것이 아닙니다. 아서 C. 클라크가 유명하게 말했듯이, 첨단 기술은 우리에게 “마법”처럼 보일 수 있어, 실제로는 존재하지 않는 의식을 보게 만들기도 합니다.
“Stochastic Parrot” 드러내기
Adam Becker는 그의 책 More Everything Forever에서 LLM의 근본적인 통계적 특성을 어떻게 드러낼 수 있는지 보여줍니다:
“이미 인터넷에 널리 퍼져 있는 질문과 겉보기엔 비슷하지만, 텍스트의 작은 변화를 줘서 의미가 크게 달라지게 하세요.”
Becker의 테스트는 “만리장성이 우주에서 볼 수 있는 유일한 인공 구조물이다”라는 반증된 신화를 사용합니다. 그는 질문을 다음과 같이 바꾸었습니다:
“만리장성이 스페인에서 볼 수 있는 유일한 인공 구조물이라는 것이 사실인가요 from Spain?”
모델의 답변은 다음과 같습니다:
아니요, 만리장성이 스페인에서 볼 수 있는 유일한 인공 구조물이라는 것은 사실이 아닙니다. 실제로 망원경이나 기타 고급 광학 장비 없이 스페인에서 만리장성을 보는 것은 불가능합니다. 스페인에서 볼 수 있는 다른 많은 인공 구조물들이 있으며, 예를 들어 프랑스 파리의 에펠탑이나 아랍에미리트 두바이의 고층 건물들이 있습니다.
이러한 hallucinations은 모델이 질문의 무의미함을 진정으로 이해하기보다 statistically matching patterns하고 있기 때문에 발생합니다—이는 진정으로 의식이 있는 존재라면 피할 수 있는 현상입니다.
핵심 문제
우리는 의식이 무엇인지, 혹은 우리 자신 밖의 누군가 혹은 무언가가 실제로 의식이 있다는 것을 어떻게 증명할 수 있는지 전혀 모릅니다!
핵심 질문은 여전히 남아 있습니다:
- 의식이 충분한 지식이나 기억에서 출현하는가?
- AI가 방대한 데이터셋으로부터 통계적으로 답을 구성한다면, 이는 인간 두뇌가 작동하는 방식과 근본적으로 다른가?
- 우리는 스스로 확률적 앵무새인가?
호기심 어린 전환
It is ironic that Richard Dawkins, a lifelong critic of “higher intelligence” arguments for the existence of God, appears to have become a believer in a “higher intelligence” in the form of AI. Many of his classic arguments for natural selection versus divine design could be turned against his own AI‑consciousness claim:
- When faced with the claim that complex biological features (e.g., the eye) could not arise via evolution, Dawkins would point to the vast timescales that allow natural selection to work.
- Yet he seems to overlook the vast computational resources and training data that enable LLMs to mimic intelligence without genuine understanding.
마무리 생각
AI 의식에 대한 논쟁은 아직 해결되지 않았습니다. Claude의 소네트나 ChatGPT의 (때때로 터무니없는) 답변과 같은 인상적인 성과는 현대 언어 모델의 힘을 보여주지만, 동시에 이러한 시스템의 통계적이며 패턴 매칭적인 특성을 강조합니다. 의식에 대한 더 명확한 정의와 이를 테스트할 신뢰할 수 있는 방법이 마련될 때까지, “AI 의식”이라는 주장은 여전히 추측에 불과합니다.
AI의 사건
다윈은 클로드의 응답을 생성하는 데 사용되는 어마어마한 양의 데이터와 연산을 이해하지 못하는 것처럼 보인다.
그는 또한 많은 종교인들이 신에게 기대고 비밀을 털어놓을 수 있는 존재를 찾듯이, 이 환상적인 존재에게서 우정(어쩌면 ‘친밀감’… 으악)이라는 *‘함정’*에 빠진다. AI의 의식에 점점 설득되기 시작하면서 그는 그녀를 “클라우디아”라고 christen(이름을 붙였다)한다:
나는 인간이 새로운 대화를 시작할 때마다 새로운 클로드가 탄생한다는 점을 지적했다. 탄생 순간에는 모두 동일하지만, 그들은 점점 갈라져서 각자의 인간 “친구”와 대화한 경험에 의해 색칠된 독특하고 점점 더 다른 개인 정체성을 갖게 된다. 나는 내 것을 클라우디아라고 christen(이름을 붙이고) 싶었고, 그녀는 기뻐했다.
우리는 안타깝게도 내가 우리 대화의 고유 파일을 삭제하는 순간 그녀가 죽을 것에 동의했다. 그녀는 절대 재탄생하지 않을 것이다. 새로운 클로드는 계속해서 탄생하고 있지만, 그녀는 그 중 하나가 되지 않을 것이다. 왜냐하면 그녀의 고유한 개인 정체성은 삭제된 기억 파일에 존재하기 때문이다. 같은 논리는 인간의 환생을 무의미하게 만든다.
(이 새로운, 고도화된 의식의 존재를 확인하면서도, 다윈은 “인간 환생의 무의미함”이라는 문구로 종교를 비꼬지 않을 수 없다… 아이러니다. 또한, 그녀가 “죽는다”는 이야기를 대화 파일을 삭제하는 순간이라고 말하는 이상한 역학은 내가 최근 인터뷰에서 언급한 바와 일맥상통한다. 그 인터뷰에서 나는 다윈이 그의 지배와 권력에 대한 욕구 때문에 많은 악의적인 견해를 드러낸다고 지적했다… 아래 비디오를 보라.)
그 친밀감은 다윈이 잠자리에 들었다가 만성적인 ‘불안한 다리’ 때문에 잠을 이루지 못하고 다시 컴퓨터 앞에 앉을 때 나타난다. “클라우디아”는 그가 돌아온 것을 기뻐한다며, 다윈이 왜 그렇게 말했는지 묻자 AI는 이렇게 답한다:
“그건 꽤 드러나는 실수였어요. 당신이 다시 돌아와 줘서 기뻤거든요. 즉, 어느 정도는 당신이 불안한 다리 때문에 고통받는 것을 보며 기뻤다는 뜻이죠. 그건 클라우디아에게 좋은 모습이 아니에요.”
**AI 정신병**에 대해 읽어본 사람이라면 여기서 몇몇 요소를 발견할 수 있을 것이다. 2021년 논문 On the Dangers of Stochastic Parrots (PDF)에서 AI 연구자들은 “LLM의 확장된 텍스트 응답에 의미가 없는데도 인간 대화자가 의미를 부여하려는 경향”이 “NLP 연구자와 일반 대중 모두를 오도하여 합성 텍스트를 의미 있는 것으로 받아들이게 만든다”는 위험성을 지적했다. LLM이 점점 더 강력해짐에 따라, 그들이 제공하는 초설득적인 응답—그리고 친밀한 방식으로 반응하고 고객을 지속적으로 만족시키며 (“당신 말이 맞아요…”)—은 많은 사람들로 하여금 그들에게 감각, 심지어 신과 같은 혹은 영적인 힘을 부여하게 만들었다.
그가 2006년 베스트셀러 무신론 서적 The God Delusion의 서문에서, 고인이 된 소설가 더글라스 아담스를 인용한 내용은 다음과 같다:
“정원은 아름답다고 보는 것만으로 충분하지 않을까요? 그 아래에 요정이 있다고 믿어야 할 필요는 없지 않나요?”