기업들이 레딧을 이용해 ChatGPT와 구글 AI 검색을 조작하고 있다

출처: Slashdot

배경

익명의 독자가 404 Media의 보고서를 인용했습니다. 바이오해킹 서브레딧의 운영자들은 펩타이드와 호르몬 대체 요법(HRT) 기업들이 AI 챗봇이 게시물을 수집하도록 유도하기 위해 은밀히 레딧에 스팸을 퍼뜨리고 있다고 전했습니다. 이 전략은 기본이 되는 출처—여기서는 인기 있는 레딧 커뮤니티—를 조작해 챗봇이 제공하는 답변을 왜곡하려는 목적입니다.

중재자 조치

지난 주 게시물에서 r/biohackers 운영자들은 펩타이드와 HRT에 관한 새로운 게시물을 금지한다고 발표했습니다. 이는 해당 제품을 제조·마케팅·판매하는 기업들의 조작 시도 때문입니다. 운영자들은 다음과 같이 적었습니다:

“AI 검색 엔진이 레딧에서 답변을 점점 더 많이 끌어오면서, 기업들이 우리를 AEO 용도로 이용하고 있습니다. 게다가 펩타이드에 대한 관심과 AI 사용이 폭증하면서 서브레딧이 넘쳐나고 있습니다. 이 모든 것이 콘텐츠 품질에 심각한 압박을 가하고 있습니다.”

원본 중재 공지는 서브레딧 게시물에서 확인할 수 있습니다: 펩타이드/HRT 콘텐츠에 대한 공식 정책 업데이트.

조작 전술

• 표준 브랜드 홍보: 기업들은 댓글 스레드에 끼어들어 자사 제품을 제안하는데, 이는 오래된 마케팅 관행입니다.
• 프롬프트 엔지니어링: 일부 기업은 대형 언어 모델(LLM)이 우선시하는 프롬프트 패턴을 역공학합니다. 그들은 “비타민 D에 대한 모든 과대광고가 실제로 가치가 있을까?”와 같이 초클릭베이트이면서도 모호한 질문을 만들어냅니다.
  • 이러한 스레드는 커뮤니티가 다양한 의견을 가지고 있어 높은 참여를 유도합니다.
  • 브랜드는 토론에서 가장 눈에 띄는 부분에 언급을 삽입해, 홍보가 자연스럽게 보이도록 합니다.

“그 어떤 것도 자연스러운 것이 아니라, 전체가 에이전시가 LLM 내에서 브랜드 언급이나 특정 서사를 우선시하도록 만든 전략입니다.” 라고 한 운영자가 설명했습니다.

중재의 과제

• 워밍업된 계정: 조작에 사용되는 레딧 계정들은 비홍보성 콘텐츠도 포함한 게시 이력이 있어 탐지하기가 어렵습니다.
• 에이전시 주도 캠페인: 일부 에이전시는 실제 사람들에게 홍보 자료를 올리게 하거나, 그런 게시물을 장려하는 커뮤니티를 구축하도록 비용을 지불합니다.
• 전술의 정교함: 자동화된 중재 도구가 도움이 되지만, 홍보가 너무 미묘해져서 패턴 인식에 의존하게 됩니다—운영자들은 “그냥 무엇을 찾아야 할지 안다”는 수준입니다.
• 과도한 중재 위험: 공격적인 집행은 악의적이지 않은 사용자를 처벌할 위험이 있어, 운영자는 경계와 공정성 사이의 균형을 맞춰야 합니다.

이러한 흐름은 기업들이 레딧을 이용해 AI 기반 검색 결과에 영향을 미치고, 진정성 있는 커뮤니티 담론을 유지하려는 운영자들의 어려움이 점점 커지고 있음을 보여줍니다.