Meta의 Oversight Board가 영국 정치인의 deepfake 영상을 검토할 예정, Facebook에 남겨진 채

Source: Engadget

PJ McDonnell/Shutterstock

개요

Meta 감시위원회는 스코틀랜드 출신 영국 노동당 의원의 이민에 대한 견해를 왜곡한 것으로 보이는 AI‑생성 영상에 대해 조사하고 있습니다. 2023년 11월 페이스북 앨범에 게시된 이 영상은 해당 의원이 난민과 성폭행에 대해 비꼬는 듯한 모욕적인 발언을 하는 모습을 보여줍니다.

게시물에는 다음 내용도 포함되어 있습니다:

• 위원회가 AI‑생성으로 의심하는 친팔레스타인 시위자들의 두 번째 영상.
• 의원을 포함한 여러 여성들이 반극우 표지판을 들고 있는 것으로 보이는 실제 사진.
• 정치인에 대한 근거 없는 탈세 혐의를 제기하는 캡션.

Board Findings

• Engagement: 게시물은 비교적 적은 상호작용을 받았으며 AI 라벨이나 고지가 포함되지 않았습니다.
• User Reports: 두 명의 사용자가 해당 콘텐츠가 Meta의 괴롭힘 및 괴롭힘 정책을 위반했다고 주장했습니다. Meta 시스템은 해당 신고를 인간 검토로 전달하지 않아 콘텐츠가 온라인에 남아 있었습니다. 신고자 중 한 명은 감시 위원회에 항소했습니다.
• Context: 해당 의원은 영국 호텔에 망명 신청자를 수용하는 것에 대한 시위 중 반이민 정서를 부추기는 인종 차별적 허위 정보에 대해 공개적으로 반대해 왔습니다. 이전에 위협 및 AI 생성 명예훼손을 신고한 바 있습니다.

메타의 입장

• Public‑Figure Exception: 메타는 해당 게시물이 삭제되지 않은 이유가 정치인이 성인 공인이라서 “원치 않는 조작 이미지”에 대한 보호가 자동으로 적용되지 않는다고 설명했습니다.
• Policy Application:
  • 이사회가 해당 영상이 혐오 행위 정책을 위반했다고 주장한 부분은 기각되었습니다; 메타는 해당 콘텐츠가 허위 정보 기준에 부합하지 않으며 Trusted Partner 프로그램의 어떤 회원에 의해서도 플래그되지 않았다고 주장했습니다.
  • 해당 내용은 선거 개입으로 간주되지 않았습니다, 왜냐하면 해당 의원이 스코틀랜드 최근 지방선거에 출마하지 않았기 때문입니다.
  • 낮은 참여도와 영상의 “풍자적” 성격이 AI 라벨을 적용하지 않은 이유로 제시되었습니다.

Public Comment Period

감독 위원회는 이 사건에 대한 공개 의견을 초대하고 있으며, 이는 향후 메타에 대한 정책 권고에 참고될 수 있습니다. 권고는 구속력이 없지만 메타는 60 일 이내에 답변해야 합니다. 위원회는 독립적인 외부 기관으로 운영되지만, 재정적으로는 메타에 의존합니다.

관련 사례

• 아일랜드 대통령 후보 딥페이크 (2023): AI가 생성한 영상에서 당시 대통령 후보였던 캐서린 코놀리가 경기에서 철회했다고 거짓으로 발표했습니다. 이 영상은 Irish Independent의 제보를 받아 메타가 삭제하기 전까지 약 30,000회 공유되었습니다. 코놀리는 이 영상을 “유권자를 오도하고 아일랜드 민주주의를 훼손하려는 부끄러운 시도”라고 비난했습니다.
• 조 바이든 딥페이크 (2022): 메타는 이전에 대통령 바이든의 악의적으로 편집된 영상을 플랫폼에 그대로 두어 비판을 받았으며, 이는 정치적 목적의 딥페이크와 관련된 지속적인 과제를 보여줍니다.

출처

• Oversight Board investigation
• 공개 의견 초청
• Oversight Board overview
• Meta’s Trusted Partner program
• 이전 딥페이크 제거 (Engadget)
• 이전 딥페이크 논란 (Engadget)