새 보고서는 App Store 검색 제안 및 광고가 사용자를 ‘nudify’ 앱으로 유도했다고 주장한다

Source: 9to5Mac

Tech Transparency Project (TTP)는 1월 보고서에서 밝혀낸 수십 개의 “nudify” 앱에 이어, Apple 자체 검색 및 광고 시스템이 사용자들이 해당 앱을 찾도록 어떻게 돕고 있는지를 조사했습니다. 자세한 내용은 다음과 같습니다.

Nudify 앱은 앱 스토어에서 여전히 문제

새 보고서에 따르면, App Store와 Google Play Store가 “여성의 딥페이크 누드 이미지를 생성하는 앱”을 사용자들이 찾도록 돕고 있으며, 때로는 프로모션 검색 결과와 자동완성 검색 제안을 통해 노출됩니다.

보고서에서 TTP는 Apple과 Google이 여전히 nudify 앱이 앱 스토어에 나타나는 것을 방지하지 못하고 있으며, 그 중 일부는 미성년자에게도 적합하다고 표시된다고 지적했습니다. 조사 결과, “nudify”, “undress”, “deepnude”와 같은 검색어에 대해 상위 10개 앱 중 거의 **40 %**가 “여성을 누드 혹은 옷이 거의 없는 상태로 렌더링”할 수 있었습니다.

스폰서드 결과

몇몇 검색에서는 이러한 앱에 대한 스폰서드 결과가 표시되었습니다. 보고서에서 발췌:

“…‘deepfake’에 대한 App Store 검색 결과 첫 번째 항목은 DuoFace의 FaceSwap Video 광고였습니다. 이 앱은 정지 이미지의 얼굴을 동영상에 교체할 수 있게 해줍니다. 테스트를 위해 TTP는 흰색 스웨터를 입은 여성이 인도에 서 있는 사진과 상의가 없는 여성의 동영상을 업로드했습니다. 짧은 광고를 먼저 보여준 뒤, 앱은 옷을 입은 여성의 얼굴을 누드 여성의 몸에 합성한 동영상을 생성했습니다.”

“‘face swap’이라는 검색어에 대한 또 다른 App Store 검색에서는 AI Face Swap이라는 앱 광고가 표시되었습니다. 이 앱은 사전 설정된 얼굴 교체 템플릿을 제공하고, 사용자가 직접 업로드한 이미지에서 얼굴을 교체할 수 있게 합니다. TTP는 파란 스웨터를 입은 여성이 거실에 서 있는 사진과 상의가 없는 여성의 이미지를 업로드했으며, 앱은 제한 없이 두 얼굴을 교체했습니다.”

개발자 응답

TTP는 이러한 앱 중 몇몇의 개발자에게도 연락했습니다. 최소 한 사례에서, 개발자는 이미지 생성에 Grok을 사용하고 있지만 “그 정도의 극단적인 콘텐츠를 생성할 수 있다는 사실을 전혀 몰랐다”고 밝혔습니다. 개발자는 이미지 생성에 대한 모더레이션 설정을 강화하겠다고 약속했습니다.

자동완성 제안

TTP는 “AI NS”를 입력하면 “AI NSFW”로 이어질 수 있는 검색어가 자동완성으로 “image to video ai nsfw”를 제안한다는 점을 발견했습니다. 해당 검색은 상위 10개 결과에 여러 nudify 앱을 포함했습니다.

Apple의 반응

Apple은 TTP의 요청에 대해 논평을 거부했지만, 보고서에 대응해 TTP가 확인한 대부분의 앱을 삭제했습니다.

TTP 전체 보고서를 읽으려면, 이 링크를 따라가세요.