교황의 AI 교서, 실제로는 AI에 관한 것이 아니다

Source: TechCrunch

Overview

레오 XIV 교황은 월요일에 그의 첫 번째 교서인 Magnifica Humanitas를 발표했으며, “인공지능 시대에 인간 개인을 보호하는 것”을 주제로 삼았습니다. AI가 표면적인 주제이지만, 레오가 집중하는 문제들은 더 오래되고 널리 퍼진 불평등, 전쟁, 민주주의 침식, 그리고 인류 전체가 위대함을 유지하는 것에 별다른 관심이 없는 이들의 손에 권력이 집중되는 현상입니다.

Main arguments

200페이지에 달하는 이 문서에서 교황은 안트로픽 공동 창업자 크리스 올라와 함께 발표하면서, 소수 엘리트가 구축하고 통제하는 기술은 정의상 공공선을 제공할 수 없다고 주장합니다.

“이러한 권력이 소수의 손에 집중될 때, 그것은 불투명해지고 공공 감시를 회피하게 되어, 새로운 의존성, 배제, 조작 및 불평등을 초래하는 왜곡된 형태의 발전 위험이 증가한다”고 그는 씁니다.

“실제로 모든 주요 기술 변혁과 마찬가지로, AI는 이미 경제적 자원, 전문 지식 및 데이터 접근성을 보유한 이들의 권력을 증폭시킨다”고 교서는 계속해서 강조하며, 엘리트가 그들의 권력을 이용해 “정보와 소비 패턴을 형성하고, 민주적 과정을 영향을 미치며, 경제 역학을 자신들에게 유리하게 조정한다”는 우려를 제기합니다.

Political context

이 교서는 도널드 트럼프 대통령이 AI에 관한 행정명령 서명을 지연한 지 며칠 뒤에 발표되었습니다(관련 기사). 해당 명령은 새로운 모델이 출시되기 전에 정부가 감독할 수 있게 하는 것이었으며, 벤처 투자자이자 전 백악관 AI 차관인 데이비드 삭스의 촉구에 따라 보고된 바(WSJ 기사) 있습니다.

레오 교황은 AI가 “명확한 기준과 효과적인 감독”에 의해, 그것에 영향을 받는 공동체의 참여를 바탕으로 이끌어져야 한다고 촉구했습니다. 보다 구체적으로는 기업과 국가가 “지정학적 혹은 상업적 우위를 확보한다는 명목으로 더 강력한 알고리즘과 방대한 데이터셋을 위한 AI 군비 경쟁”을 종식시켜야 한다고 주장했습니다.

“무장을 해제한다는 것은 기술적 권력이 자동으로 통치 권리를 부여한다는 가정을 깎아내리는 것”이라고 그는 적었습니다.

Historical comparisons

이러한 역학은 AI보다 앞선 것입니다. 레오 XIII 교황의 1891년 Rerum Novarum는 산업혁명 시기의 동일한 권력 집중 문제를 다루었습니다. 최근 사례로는 일론 머스크가 트위터를 인수하고 이를 트럼프 선거 지원에 활용한 경우, 그리고 기술 엘리트들이 AI 규제를 차단하기 위해 수백만 달러를 슈퍼 PAC에 투입한 사례(관련 기사) 등이 있습니다. 이러한 패턴이 레오 XIV의 작업에 명백히 영감을 주었다고 볼 수 있습니다.

Expert commentary

노틀담 로스쿨 교수이자 교황청 사회과학 아카데미 회원이며 메타 감시 위원회 의장인 파올로 카로자 교수는 TechCrunch와의 인터뷰에서 AI 기반 허위 정보와 딥페이크가 “우리의 진실과 거짓을 구별하는 능력을 부식시켰으며, 이는 민주 정치에 큰 영향을 미친다”고 말했습니다. 그는 또한 기술 산업이 인간 데이터를 “수집하고 조작”하는 관행이 “인지 자유에 근본적인 도전을 제기한다”고 덧붙였습니다.