틱톡, 2024년 선거 기간에 반민주적 영상을 과다하게 제공.
출처: Hacker News
최근 연구는 TikTok의 추천 시스템이 사용자를 보수적이고 반민주당 정치 콘텐츠에 더 많이 노출시키고, 자유주의적 자료보다 더 많이 노출시킨다는 증거를 제시한다. 이러한 이념적 불균형은 사용자의 초기 정치적 관심과 무관하게 발생하며, 자동화가 현대 정보 접근에 중요한 역할을 한다는 점을 시사한다. 이 연구는 과학 저널 Nature에 게재되었다.
뉴욕대 아부다비 캠퍼스의 AI and Society Lab 연구진은 자동화된 인터넷 시스템이 대중이 보는 정치 뉴스에 어떤 영향을 미치는지 탐구하기 위해 이번 연구를 진행했다. 전문가들은 인터넷 양극화가 사람들이 스스로 선호하는 관점을 찾는 데서 비롯되는지, 아니면 컴퓨터 알고리즘이 사용자를 끌어들이기 위해 극단적인 콘텐츠를 밀어넣는지에 대해 논쟁하고 있다.
교신 저자 탈랄 라흐완은 기존 플랫폼에서는 이 질문에 답하기가 어렵다고 지적했다. “우리 이전 연구는 YouTube의 추천 알고리즘을 조사했으며, 알고리즘의 영향과 사용자의 자기선택을 구분하는 것이 지속적인 과제였습니다.”라고 PsyPost에 말했다.
TikTok은 기본 인터페이스가 자동화에 크게 의존하기 때문에 알고리즘 영향력을 테스트하기에 유리한 환경을 제공한다. “알고리즘이 거의 모든 것을 결정하는 TikTok의 For You 페이지는 특히 2024년 선거가 진행되면서 플랫폼 내 정치 콘텐츠가 점점 더 중요한 역할을 하게 된 상황에서, 이 질문을 연구하기에 매우 깨끗한 설정을 제공했습니다.”라고 라흐완은 덧붙였다.
데이터 수집을 위해 연구진은 323개의 자동화된 봇 계정을 만들어 인공 사용자로 활용했으며, 이는 흔히 ‘sock puppet audit’이라고도 불린다. 2024년 4월 30일부터 11월 11일까지 매주 21개의 새로운 계정을 생성했다. 각 봇은 22세에서 24세 사이의 연령을 부여받아 젊은 성인 유권자의 행동 양식을 모방했다.
연구팀은 위치 마스킹 소프트웨어를 사용해 이 스마트폰들을 미국 내 특정 지역에 가상으로 배치했다. 뉴욕은 안정적인 민주당 지역, 텍사스는 안정적인 공화당 지역, 조지는 경쟁이 치열한 스윙 주(state)로 지정했다. 연구진은 안드로이드 운영체제를 탑재한 실제 스마트폰을 사용했으며, 매주 테스트가 끝날 때마다 공장 초기화하여 앱이 기기를 추적하지 못하도록 했다.
계정들은 먼저 ‘훈련 단계’를 거쳐 앱에 가상의 정치적 취향을 학습시켰다. 일부 봇은 공화당 크리에이터의 영상을 최대 400개 시청했고, 다른 봇은 민주당 크리에이터의 영상을 최대 400개 시청했다. 각 훈련 영상은 정확히 1분씩 재생되었다. 조지아에서는 정치 훈련 단계를 전혀 거치지 않은 중립적인 봇들을 포함시켜 정치적 관심이 없는 사용자 집단을 통제군으로 설정했다.
훈련 단계가 끝난 후, 계정들은 메인 피드로 전환돼 알고리즘이 어떤 영상을 추천하는지 확인했다. 봇들은 각 추천 영상의 처음 10초를 시청한 뒤 다음 영상으로 넘어갔다. 27주에 걸쳐 연구진은 280,000개가 넘는 추천 영상을 수집했으며, 그 중 40,264개의 텍스트 전사본을 성공적으로 다운로드해 방대한 음성 콘텐츠 데이터셋을 구축했다.
저자들은 인공지능 언어 모델을 앙상블 방식으로 활용해 전사본의 정치적 성향을 분류했다. 세 가지 서로 다른 모델의 출력을 결합해 단일 프로그램에 결과가 치우치는 것을 방지했으며, 인간 정치학 전공 학생들이 자동화 프로그램의 정확성을 검증했다. 이 도구들은 영상이 정치적인지, 다가오는 선거와 관련이 있는지, 특정 정당을 지지하거나 반대하는지를 판단했다.
연구 결과는 플랫폼 내 정치 콘텐츠 전달 방식에 뚜렷한 비대칭성이 존재함을 시사한다. 공화당 영상을 훈련시킨 계정은 민주당 계정에 비해 자신의 정당에 부합하는 콘텐츠를 약 11.5% 더 많이 받았으며, 동시에 민주당 계정은 약 7.5% 더 많은 교차 정당 콘텐츠에 노출되었다.
공동 저자 야시르 자키는 이 수치들의 넓은 의미를 설명했다. “TikTok 피드는 정치에 대한 중립적인 창이 아닙니다.”라며 “플랫폼의 추천은 민주당과 공화당을 다르게 취급하고, 이는 주(state)를 초월해 일관되게 나타나며, 사람들이 콘텐츠에 어떻게 참여하는지의 차이로는 설명되지 않습니다.”라고 말했다.
뉴욕대 아부다비 캠퍼스 연구원 하젬 이브라힘도 결과의 구체성을 강조했다. “왜곡은 ‘공화당 콘텐츠가 더 많이 보인다’는 일반적인 효과가 아니라, 민주당 성향 계정에 반민주당 콘텐츠가 집중적으로 푸시된 것에 국한됩니다.”라고 이브라힘은 말했다.
추천된 영상들의 주제 역시 크게 구분되었다. “우리는 비대칭성이 특정 정책 영역, 즉 민주당에게는 이민, 범죄, 외교 정책, 공화당에게는 낙태와 같은 주제에 집중된 것을 확인했습니다. 이는 정치 콘텐츠 전반에 고르게 퍼진 것이 아닙니다.”라고 이브라힘이 덧붙였다.
실제 사용자들이 이러한 경향을 인지하고 있는지 확인하기 위해 연구진은 미국 내 활발히 활동하는 TikTok 사용자 1,008명을 온라인 설문조사했다. 설문은 참가자들에게 지난 1년 동안 피드의 정치적 분위기에 변화가 있었는지 여부를 물었으며, 표본은 약간 공화당 성향이 강하고 25~34세 성인 중심이었다.
설문 응답은 자동화된 봇 실험과 일치하는 lived experience(실제 경험) 증거를 제공했다. 공화당 응답자는 민주당 응답자에 비해 자신의 견해에 부합하는 긍정적인 정치 콘텐츠를 더 많이 보았다고 보고했다. 개방형 질문에서는 보수적 사용자들이 일일 피드에서 낙관적이고 트럼프 지지 게시물이 증가했다고 언급했다.
라흐완은 결과 뒤에 있는 엄격한 통계 검증을 강조했다. “이 격차는 6개월 동안 수백 번의 실험을 평균한 것이며, 세 주(state)에서 일관되게 나타났고, 48가지 견고성 검증을 통과했습니다. 수십만 명의 젊은 유권자에게 매일 정치 콘텐츠를 제공하는 플랫폼에서 일관성은 매우 중요합니다.”라고 말했다.
견고성 검증은 다양한 조건에서 결과가 유지되는지를 확인하는 수학적 테스트이다. 그러나 라흐완은 노출이 영향력과 동일하지 않다고 지적했다. “우리는 노출을 측정했을 뿐 설득을 측정한 것이 아니므로, 이것이 누군가의 투표에 변화를 일으켰다고 말할 수 없습니다.”라고 덧붙였다.
자키는 이 연구가 기업이 의도적으로 보수쪽을 우대하도록 소프트웨어를 설계했다는 것을 증명하는 것이 아니라는 점을 강조했다. “우리는 TikTok이 의도적으로 공화당을 우대했다고 주장하는 것이 아니라, 결과에서 나타난 패턴을 문서화한 것입니다.”라고 자키가 말했다.
자동화된 계정은 처음 플랫폼을 이용하는 신규 사용자를 모델링하도록 설계되었다. “우리는 콘텐츠 노출을 연구하고 있으며, 태도 변화를 연구하는 것이 아니라, 봇은 짧은 참여 이력을 가진 신규 사용자를 시뮬레이션합니다. 따라서 장기 이용자는 다른 경험을 할 수 있습니다.”라고 자키가 설명했다.
이 격차는 선거 기간 동안 정치 크리에이터들이 업로드한 영상 유형의 기본적인 공급 차이에서 비롯될 수도 있다. 또한 이번 연구는 영어 영상만을 대상으로 했으며, 스페인어 사용자 및 미국 내 기타 소수 언어 커뮤니티의 경험은 제외되었다.
연구진은 앞으로 ai-and-society.com에서 확인할 수 있는 연구 그룹을 통해 이 작업을 확장할 계획이다. “봇 감사를 실제 사용자 데이터와 결합하고, 전사본을 넘어 시각·청각 정치 메시지를 포착하는 방법을 개발하며, 플랫폼 간 비교를 진행하고 싶습니다.”라고 이브라힘이 말했다. “가장 큰 미해결 과제는 이러한 노출 패턴을 태도와 행동에 미치는 하위 효과와 연결하는 것입니다.”
이 연구, “Systematic partisan content skews in TikTok during the 2024 US elections,”는 하젬 이브라힘, 장현석 다니엘, 누아르 알다흘, 아론 R. 카우프먼, 탈랄 라흐완, 야시르 자키가 공동 저술하였다.