UpScrolled의 소셜 네트워크는 빠른 성장 이후 혐오 발언 조절에 어려움을 겪고 있다

Source: TechCrunch

UpScrolled는 미국에서 TikTok 소유권이 변경된 후 폭발적인 인기를 끌었다며 급성장했지만, 심각한 중재 문제에 직면해 있습니다. 1월에 2백50만 명 이상의 사용자를 확보한 뒤 사용자들은 앱이 인종 차별적 비속어가 포함된 사용자 이름과 해시태그에 대해 조치를 취하지 않고 있으며, 유해한 콘텐츠를 적절히 중재하는 데 어려움을 겪고 있다고 보고했습니다.

성장 및 사용자 기반

• 2025년에 설립된 UpScrolled는 모든 목소리에 “동등한 힘”을 제공한다고 주장합니다.
• 이 플랫폼은 2025년 6월 이후 iOS와 Android에서 4백만 건 이상의 다운로드를 기록했으며, 시장 정보 제공업체 Appfigures에 따르면 스타트업 자체 보고 수치를 초과했습니다.

중재 문제

사용자 이름 및 해시태그

TechCrunch는 UpScrolled 사용자들의 제보를 받아 사용자 이름에 다양한 인종 차별적 비방 및 증오 발언이 존재함을 확인했습니다. 예시로는 다음과 같습니다:

• 비방어만으로 구성된 사용자 이름.
• 비방어와 다른 단어가 결합된 사용자 이름.
• 여러 비방어가 포함된 사용자 이름.
• “Glory to Hitler”(히틀러 만세)와 같은 명시적인 증오 발언.

사진이나 동영상 게시물에 동반되는 해시태그와 텍스트에도 유사한 비방어와 극단주의 언어가 포함되어 있었습니다.

기타 유해 콘텐츠

사용자 이름 외에도 TechCrunch가 발견한 내용은 다음과 같습니다:

• 인종 차별적 비방 및 증오 발언이 포함된 텍스트 게시물.
• 히틀러를 미화하는 사진 및 동영상 콘텐츠.

이러한 발견은 문제가 단순히 사용자 핸들에만 국한되지 않고 플랫폼 전반에 걸쳐 확산되고 있음을 시사합니다.

회사 응답

초기 이메일 회신

위반 사용자 이름을 UpScrolled의 공개 이메일 주소로 보고한 후, 회사는 “부적절한 콘텐츠를 적극적으로 검토하고 제거하고 있으며” 모더레이션 역량을 확대하기 위해 노력하고 있다고 답변했습니다. 이메일에서는 상황이 해결되는 동안 악의적인 행위자와 교류하지 말 것을 권고했습니다. 그러나 신고된 계정의 스크린샷을 보면, 해당 위반 사용자 이름이 며칠 후에도 여전히 온라인에 남아 있었습니다.

설립자의 비디오 성명

언론 계정은 이후 TechCrunch에게 설립자 Issam Hijazi가 X에 올린 비디오(link)를 안내했습니다. 비디오에서 Hijazi는 사용자가 UpScrolled 서비스 약관을 위반하는 “유해한 콘텐츠”를 업로드하고 있다고 인정했습니다. 그는 다음과 같이 말했습니다:

“우리는 모두가 건강하고 존중받는 디지털 환경에서 의견을 표현하고 공유할 자유를 제공하고 있습니다.”

Hijazi는 또한 회사가 “콘텐츠 모더레이션 팀을 신속히 확대하고 있으며, 유해한 콘텐츠를 보다 효과적으로 포착하고 제거할 수 있도록 기술 인프라를 업그레이드하고 있다”고 덧붙였습니다.

외부 관찰

• 반(反)혐오 연맹(ADL)은 이번 달에 블로그 게시물을 통해 UpScrolled가 반유대주의 및 극단주의 콘텐츠의 허브가 되고 있으며, 하마스와 같은 지정된 해외 테러 조직의 자료도 포함하고 있다고 강조했습니다. (ADL 블로그)
• UpScrolled의 FAQ는 앱이 “의견을 검열하지 않는다”고 명시하지만, 그 정책은 불법 행위, 증오 발언, 괴롭힘, 희롱, 노출된 누드, 무허가 저작권 자료 또는 해를 끼칠 의도가 있는 모든 콘텐츠를 제한합니다.

다른 플랫폼과의 비교

UpScrolled가 직면한 중재 문제는 빠르게 성장하는 소셜 네트워크 전반에서 흔히 나타나는 현상입니다. 예를 들어, Bluesky는 2023년 7월에 계정 사용자 이름에 욕설이 급증하면서 사용자들의 반발과 플랫폼을 떠나겠다는 위협을 받았습니다. (TechCrunch article)