독일 법원, 구글에 허위 AI 개요 답변 책임 물어
출처: Engadget
최근 연구에 따르면 이러한 요약은 정기적으로 잘못된 정보를 제공하고, 인용된 출처로 뒷받침되지 않는 사실들을 포함하고 있다고 합니다.
독일 법원은 The Decoder의 보도에 따르면 구글이 AI 오버뷰(Overview) 플랫폼에서 제공하는 잘못된 정보에 대해 직접적인 책임이 있다고 판결했습니다. 독일에는 검색 엔진 운영자를 책임으로부터 보호하는 법률이 존재하지만, 법원은 이것이 AI 오버뷰에는 적용되지 않는다고 판단했습니다. AI 오버뷰가 단순히 검색 결과 목록이 아니라 구글 자체의 콘텐츠이기 때문에 구글을 직접적인 침해자로 분류한 것입니다.
이 사안은 구글의 AI 오버뷰 알고리즘이 뮌헨에 기반을 둔 두 출판사를 둘러싼 허위 주장을 퍼뜨리면서 시작되었습니다. 해당 출판사들은 특정 검색어와 연관돼 사기, 구독 함정, 그리고 음흉한 사업 관행과 연결됐다고 전해졌습니다. 법원은 AI가 전혀 관련 없는 두 기업에 대한 정보를 뒤섞어, 연결된 출처 어디에서도 찾을 수 없고 실제로 존재하지도 않는 연관성을 만들어냈다고 지적했습니다.
출판사들은 구글에 중지 및 금지 서한을 보냈지만, 구글이 적절히 대응하지 않았다고 주장했습니다. 뮌헨 지방 법원은 구글에 임시 금지 명령을 내렸으며, 이에 따라 구글은 해당 두 기업에 대한 허위 정보를 더 이상 퍼뜨릴 수 없게 되었습니다.
이번 판결은 AI 오버뷰가 “자신만의 말과 구조로” 정보를 재작성하기 때문에, 사실 오류에 대한 책임을 구글에 전가합니다. 사례에서는 오버뷰가 한 출판사가 “의심스러운 사업 관행으로 알려져 있다”고 자신 있게 제시했으며, 요약, 위험 신호, 사용자 팁 등 자체 구조를 만들었습니다. 문제는 AI 오버뷰가 실제로는 다른 기업에 대한 정보를 끌어와서 억지로 연결했으며, 검색 결과에 전혀 나타나지 않은 주장을 날조했다는 점입니다.
쉽게 말해, 검색 엔진으로서의 구글은 제3자 콘텐츠를 찾아주는 역할만 하기 때문에 직접적인 책임이 없지만, AI 오버뷰를 제공하는 구글은 제3자 웹사이트의 콘텐츠를 평가·조합해 “독립적이고 새로운 실질적 진술”을 만들어내기 때문에 책임을 지게 됩니다. 이는 제가 직업적으로 하는 일과 동일하며, 만약 제가 몇몇 출판사에 대해 허위 비방을 만들었다면 저 역시 책임을 져야 할 것입니다.
구글은 청문회에서 사용자가 링크된 출처를 확인해 AI 요약이 정확한지 검증할 수 있다고 주장했습니다. 또한 “AI가 만든 정보는 무조건 신뢰해서는 안 된다”는 점을 사용자들이 알고 있다고도 말했습니다. 이는 최근 Gemini 오버뷰가 우리에게 강제로 도입된 속도를 고려하면 꽤 놀라운 주장입니다. 연구에 따르면 이러한 오버뷰를 본 후 1% 미만의 사용자만이 출처 링크를 클릭한다고 합니다.
“AI 요약이 결과에 나타날 때 구글 사용자는 링크를 클릭할 가능성이 낮아진다” – 새로운 연구 결과, @pewresearch
https://t.co/eFGpniAP6m
— Bob Pickard (@BobPickard) 2025년 7월 22일
AI 오버뷰의 사실 정확성 문제는 얼마나 심각할까요? 이는 보는 관점에 따라 다릅니다. 뉴욕 타임즈가 보도한 최근 연구에 따르면 오버뷰는 약 **9%**의 비율로 정보를 틀린다고 합니다. 플랫폼이 얼마나 바쁜지 생각하면 이 수치는 꽤 높은 편입니다. 구글은 최근 20억 명이 매월 AI 오버뷰와 상호작용한다는 사실을 자랑했으며, 이는 연간 240억 명에 해당합니다. 간단히 계산하면 연간 20억 건 이상의 잘못된 질의가 발생한다는 뜻이 됩니다. 이는 플랫폼이 얼마나 보편화됐는지, 그리고 매일 165억 건(=16.5 billion) 정도의 구글 검색이 이루어지는지를 고려하면 매우 보수적인 추정치입니다.
하지만 사실 정확성만이 문제는 아닙니다. 또 다른 연구에서는 오버뷰가 **56%**의 정답을 실제로는 링크된 출처로 뒷받침할 수 없다고 지적했습니다. 즉, 사용자가 AI의 작업을 검증할 실제 방법이 거의 없다는 것입니다.
덧붙여, 이 마법 같은 AI 검색 기술을 “놓치고” 싶다면 간단히 모든 구글 검색 앞에 -ai 를 붙이면 됩니다. 도움이 되셨길 바랍니다.