Meta의 deepfake 조정이 충분하지 않다, Oversight Board가 말한다

Source: The Verge

Meta의 감시 위원회, 더 강력한 AI 라벨링 요구

Meta 감시 위원회는 사용자를 온라인 허위 정보로부터 보호하기 위해 AI 라벨링을 진지하게 도입할 것을 요구하고 있습니다.
이미지 출처: Cath Virginia / The Verge, Getty Images

위원회는 Meta가 딥페이크를 식별하는 방법이 **“충분히 견고하거나 포괄적이지 않다”**고 밝혔으며, 이는 이란 전쟁과 같은 무력 충돌 시 허위 정보가 급속히 확산되는 상황을 제대로 다루지 못한다는 점을 지적했습니다.

이 우려는 이스라엘 건물 피해를 보여준다고 주장하는 가짜 AI 영상에 대한 조사에서 제기되었습니다. 해당 영상은 지난해 Meta의 플랫폼인 Facebook, Instagram, Threads에 공유되었습니다. 위원회의 전체 권고안은 방대하지만, 핵심은 현재 AI‑생성 콘텐츠를 드러내고 라벨링하는 접근 방식이 대대적인 개편이 필요하다는 점입니다.

주요 발견

• 기존 딥페이크 탐지 도구는 분쟁 지역에서 허위 콘텐츠가 퍼지는 속도를 따라잡기에 부족합니다.
• 사용자는 AI‑생성 미디어와 실제 영상을 구분하기 어려워 허위 정보 위험이 증가합니다.
• 위원회 조사는 Meta 주요 플랫폼 전반에 걸친 라벨링 정책의 빈틈을 강조했습니다.

권고 사항

• 합성 미디어를 명확히 표시하는 포괄적인 AI‑라벨링 시스템을 구현할 것.
• 진화하는 딥페이크 기술에 발맞출 수 있는 보다 견고한 탐지 기술을 배치할 것.
• Facebook, Instagram, Threads 전반에 걸쳐 일관된 라벨링 관행을 보장할 것.

전체 이야기는 The Verge 원문 기사를 참고하세요.