레오 교황, 42,300단어 교황 교서에서 AI 위험을 경고

Source: Slashdot

레오 XIV 교황의 AI 교서 개요

익명의 독자가 뉴욕 타임즈의 보고서를 인용했습니다: 레오 XIV 교황은 월요일에 기업 임원, 정치인 및 인공지능의 미래를 형성하고 영향을 받을 개인들을 위한 포괄적인 비전을 제시하며, 리더들에게 AI의 가장 파괴적인 영향을 인간에게서 보호하도록 경고했습니다.

레오의 선언은 교황 교서 형태로 발표되었으며, “선한 뜻을 가진 모든 사람”에게 보내는 공개 서한으로, 영문 버전에서는 약 42 300단어에 달합니다. 이 교서는 기술이 많은 직업 및 사회적 역할에서 인간을 대체하려는 위협이 있는 시대에 인간의 존엄성과 주체성을 보호하고자 하는 교황의 의지를 담고 있습니다.

이 교서는 영적 세계와 기술 세계의 지도자들 간 대화를 상징하는 제스처로, Anthropic 공동 설립자인 크리스토퍼 올라와 함께 발표되었습니다.

주요 권고 사항

• AI 개발을 주도하는 민간 기업에 대한 정부 규제.
• 위협받는 노동자를 위한 보호 및 재교육.
• 기술에 대해 비판적으로 사고하도록 돕는 교육.
• AI가 생성한 폭력적, 과도하게 성적인, 혹은 허위 정보로부터 아동을 보호하기 위한 조치.
• 무기 사용에 관한 모든 결정에서 인간이 인공지능이 아니라 책임을 지도록 하는 안전장치.

사회적 함의

레오는 모든 인간이 기본적인 사회적 역할을 유지하는 것이 중요하다고 강조했습니다. 그는 “높은 수준의 기술 발전에도 불구하고 인구의 극히 일부에게만 고용을 보장하는 사회는 강제적 비활동에 노출되는 많은 사람들을 초래할 위험이 있다”고 경고했습니다. 이는 “물질적 진보와 인류학적 퇴보의 역설”을 낳아 정의롭고 안정된 사회 평화의 기반을 약화시킨다고 주장했습니다.

Anthropic과의 협력

Anthropic의 크리스토퍼 올라는 자신의 회사와 같은 기업들이 “때때로 올바른 일을 하는 것과 충돌할 수 있는 일련의 인센티브와 제약”에 휘둘리지 않도록 도덕적 지침이 필요하다고 말했습니다.

“우리는 인센티브가 구부릴 수 없는 도덕적 목소리가 필요합니다.”라고 올라가 말했습니다. “오늘은 시작에 불과합니다 — 우리가 내부에서 볼 수 없는 것을 볼 수 있는 사람들과 우리 사이의 긴 협력의 시작입니다.”