법원, “인터넷 검색에 AI는 필요 없다”며 구글 패소.

Source: Ars Technica

출처 링크를 부실하게 바꾸는 것으로 알려진 모든 AI 검색 엔진 및 챗봇에 영향을 미칠 수 있는 이번 판결에서, 독일 법원은 구글이 AI 개요에서 허위 진술에 대해 책임이 있다고 **ruled**했습니다.

예비 판결은 **The Decoder**가 주목한 사건에서 나왔으며, 두 출판사는 구글의 AI 개요가 자신들을 사기 및 기타 의심스러운 사업 관행과 잘못 연결하고 있음을 발견했습니다. “예, [그것]은 의심스러운 사업 관행으로 알려져 있고 종종 사기로 인식된다”는 식의 확정적인 진술로 출판사를 비방한 뒤에도, 출판사들이 올해 초에 보낸 중지 및 금지 서한에도 불구하고 구글은 오해를 불러일으키는 출력을 수정하지 않았습니다.

구글은 AI 개요에서 허위 진술에 대한 책임을 회피하기 위해 일반적인 주장을 내세웠습니다. 예를 들어 대부분의 사용자가 AI 출력이 항상 정확하지 않으며 검증이 필요하다는 점을 이해하고 있다고 주장했습니다.

하지만 법원은 전통적인 검색 엔진이 단순히 제3자 진술에 대한 링크 목록을 제시하는 것과 달리, 구글의 도구는 “독립적이고 새로운, 실질적인 진술”을 인터넷상의 링크를 자체적으로 오해해 만들어낸다고 판단했습니다.

법원은 이것이 문제라고 지적했습니다. 출판사는 구글 검색 결과에 나타나는 명예훼손 진술을 제3자가 게시하는 것을 막기 위해 소송을 제기할 수 있었지만, AI 개요에 표시되는 근본적인 알고리즘과 출력을 수정할 수 있는 사람은 오직 구글뿐이며, 초기 단계에서 구글이 이를 수행하지 않았으므로 “책임을 져야 한다”고 판결했습니다. 더 나아가 구글의 주장은 특히 약해 보였는데, 이번 사건의 AI 개요에는 “검색 결과에 전혀 나타나지 않는 진술”이 포함되어 있었기 때문입니다.

법원의 명령은 구글이 추가 AI 개요에서 허위 주장을 퍼뜨리는 것을 금지하는 임시 금지 명령을 요구하고 있으며, 이는 AI 기업을 AI 발언에 대해 책임지게 만든 최초의 판결로 전 세계에 영향을 미칠 수 있습니다.

과거에 AI 기업들은 허위 정보에 대한 경고 문구가 신뢰할 수 없는 출력에 대한 소송으로부터 자신들을 보호해줄 것이라고 기대했습니다. 지난해 한 챗봇 제작자는 **AI 발언은 자체적인 “순수 발언” 범주에 속한다**며 제1수정헌법이 이를 보호해야 한다고 주장하기도 했습니다.

그러나 독일 법원의 판결을 구글이 번역한 바에 따르면, 허위 출력은 “주로 피고의 영업 활동의 표현”이며, AI 도구의 “의견”과 허위 진술이 여론에 영향을 미칠 수 있다고 판단했습니다.