‘remove anything’를 주장한 AI editing app 광고가 금지됨

Source: BBC Technology

배경

1월에 본 PixVideo – AI Video Maker의 YouTube 광고는 젊은 여성의 “전”과 “후” 이미지를 보여주었다. “전” 사진에는 허리 부분에 빨간색 낙서가 있었고, “후” 사진에는 그녀의 맨살 일부가 드러났다. 하단에 있는 텍스트는 *“Erase anything”*와 하트‑눈 이모지를 표시했다.

여덟 명이 광고 기준 위원회(ASA)에 이 광고가 여성들을 성적 대상화하고 물화했으며, 무책임하고 모욕적이며 해롭다고 주장하며 불만을 제기했다.

규제기관의 판단

• ASA는 광고에 나온 여성이 실제 인물인지 AI가 만든 이미지인지 판단할 수 없었으며, 이는 조사 범위에 포함되지 않았다.
• PixVideo는 사용자가 디지털 이미지에서 옷을 제거해 성적인 콘텐츠를 만들도록 허용하지 않지만, 광고는 그렇게 보이게 만들었다.
• ASA는 이 광고가 동의 없이 여성의 몸을 디지털적으로 변형·노출하는 것을 용인했다고 결론 내렸으며, 이를 “무책임하고”, 해로운 성별 고정관념을 담고 있으며, 심각한 불쾌감을 일으킬 가능성이 있다고 판단했다.

기업의 대응

PixVideo를 소유한 Saeta Tech는 광고가 불쾌감을 줄 수 있다는 점은 이해하지만, 제품의 의도된 사용이 아니라 프레젠테이션과 메시지 전달 방식에 문제가 있다고 주장했다. 회사는 다음과 같이 밝혔다:

• 누드 또는 성적으로 노골적인 콘텐츠 제작을 금지한다.
• 자동 감지 및 차단 도구를 사용해 이러한 이미지가 생성되지 않도록 방지한다.
• 광고를 다시는 게재하지 않겠다고 동의했으며, 내부 검토를 진행하는 동안 모든 광고를 일시 중단했다.

법적 배경

동의 없이 여성과 소녀들의 옷을 “벗기는” 앱에 대한 논란은 1월에 일론 머스크의 챗봇 Grok가 X에 성적 이미지들을 대량으로 올리면서 다시 부각되었다.

12월에 영국 정부는 누군가의 옷을 제거하는 것처럼 보이게 이미지를 편집할 수 있는 AI 도구를 만들고 공급하는 것을 불법으로 만드는 계획을 발표했다. 이 새로운 범죄는 기존의 성적 딥페이크와 친밀 이미지 남용에 관한 규정을 기반으로 확대될 예정이다.