메타 규정 완화 후 정치인 대상 인종차별 댓글 3배 증가

출처: Ars Technica

연구진은 메타의 현재 정책을 위반할 가능성이 높은 댓글을 식별하도록 훈련된 AI 시스템을 사용했습니다. 이 시스템은 폭력 및 선동, 증오 행위, 괴롭힘 및 희롱이라는 세 영역을 중점으로 분석했습니다.

폭력 위협과 관련된 메타 정책을 위반한 댓글은 변화 전 6개월 동안 1,800건에서 변화 후 6개월 동안 7,600건으로 4배 증가했습니다. 증오 발언 댓글도 6,900건에서 30,000건으로 4배 늘었습니다. 괴롭힘 및 희롱에 관한 메타 규칙을 위반한 댓글은 15,700건에서 39,900건으로 2배 증가했습니다.

“우리는 플랫폼에서 위반 콘텐츠를 추적하는 공개 보고서를 정기적으로 발행하고 있으며, 2025년 전체에 걸쳐 증오 행위의 발생률이 증가하지 않았습니다.”라고 메타 대변인은 WIRED와의 인터뷰에서 말했으며, 연구 전체를 보지 못한 상태에서는 보고서의 주장에 직접 답변할 수 없다고 덧붙였습니다. WIRED는 보고서에 인용된 남용 댓글 목록을 제공했지만, 메타는 이에 대해 별다른 언급을 하지 않았습니다. 보고서가 공개되기 몇 시간 전, 해당 예시 중 다수가 페이스북에서 삭제되었습니다.

“기업이 폭력, 증오, 괴롭힘과 같은 영역에서 감시를 줄이면 이러한 해악이 증가하는 것은 놀라운 일이 아닙니다.”라고 유타주 출신 공화당 상원의원이자 상업·과학·운송 위원회 위원인 존 커티스 의원은 CCDH에 보낸 성명에서 말했습니다.

CCDH 연구원들이 수집한 데이터는 메타의 자체 투명성 보고서와도 일치합니다. 2025년 보고서에 따르면, 정책 변경 이후 몇 달 동안 메타는 사전적 콘텐츠 조정 집행을 대략 절반 수준으로 축소했습니다. “남용 급증과 집행 붕괴는 거의 정확히 서로를 따라가고 있다.”라고 보고서 저자들은 적었습니다.