OpenAI, 중국 가짜 계정이 미국인들을 데이터 센터에 반대하도록 만들려 했다고 밝혀.

출처: Engadget

The company has published a report about China-linked influence campaigns that used ChatGPT.

Samuel Boivin/Shutterstock

[OpenAI]는 ChatGPT 사용자를 대상으로 한 보고서를 발표했습니다. 보고서에 따르면 이 사용자들은 대부분 중국에 기반을 두고 있었으며, 챗봇을 이용해 미국인들의 AI 데이터 센터에 대한 의견을 좌우하려는 캠페인을 계획했다고 한다. 사용자는 두 개의 군집으로 나뉘었으며, 첫 번째 군집은 “Data Center Bandwagon”(데이터 센터 열풍) 그룹으로 지정되었다. 이 그룹에 속한 계정들은 ChatGPT에게 전기 수요를 증가시키고 소비자 요금을 올리는 AI 데이터 센터에 초점을 맞춘 영문 논점과 이미지(예: 만화 스트립)를 생성해 달라고 요청한 것으로 알려졌다.

회사는 이 사용자들이 다양한 배경을 가진 미국인으로 가장해 소셜 미디어에 ChatGPT가 만든 텍스트와 이미지를 게시했다고 전한다. OpenAI는 이들이 지방 정부 고객을 위해 일하는 중국 민간 기업의 소셜 미디어 팀에 속해 있다고 판단했다. 심지어 챗봇에 파일을 업로드해 여론을 어떻게 흔들고, 탐지되지 않게 가짜 소셜 미디어 계정을 어떻게 만들지에 대한 목표와 전략을 설명한 것으로 보인다.

이 그룹은 다른 나라에 거주하는 중국인들을 겨냥하기도 했으며, ChatGPT에게 중국 반체제 인사와 정치 논평가를 괴롭히기 위한 모욕적인 문구를 생성해 달라고 요청하기도 했다. 미국에 거주하는 중국 이민자와 전문가로 가장하면서, 온라인 퍼블릭 인물들에게 미국 정책 실패에 대해 더 많이 말하도록 부추겼다.

사용자들이 대부분 가짜 계정을 이용해 소셜 미디어에 게시했을 가능성이 높지만, 회사는 이들이 “전력망 운영자의 용량 경매와 데이터 센터 전력 수요에 관한 합법적인 뉴스 기사” 링크를 함께 올렸다고 밝혔다. AI 데이터 센터 인근 도시와 마을에서 전기 요금이 상승하는 현상은 매우 실질적인 우려이며, AI 붐이 가져온 첫 번째 영향 중 하나다. Bloomberg 보고서에 따르면, 데이터 센터가 밀집된 지역에서는 전기 요금이 5년 전 대비 한 달에 267 %까지 상승했으며, 이는 에너지 수요가 공급을 초과하기 때문이다.

한편, OpenAI가 발견한 두 번째 군집은 미국 관세와 기술 정책을 비판하는 댓글과 이미지를 생성했다. 이들은 주로 미국을 비판하는 콘텐츠에 집중했으며, 미국이 동맹국을 배신하고 있다고 강조했다. 이 그룹은 생성된 이미지에 중국 시진핑 주석을 포함시키지 말라고 ChatGPT에 요청했으며, 대만 청중을 겨냥해 영어, 이탈리아어, 일본어, 번체 중국어로 댓글을 작성하도록 지시했다.

OpenAI는 이러한 캠페인이 실제 참여를 크게 얻지 못했고, 여론을 크게 바꾸지는 못했다고 인정한다. 보고서 자체에 따르면, 이들은 이미 온라인에서 논란이 되고 널리 논의되고 있던 실제 이슈에 초점을 맞췄다. 회사는 “운영자들이 미국 내 AI 역량 미래에 관한 진행 중인 논쟁에 은밀히 끼어들면서 자신들의 정체와 동기를 숨기려 했다”는 점에서 이 캠페인이 의미가 있다고 설명한다. 왜 미국 AI 챗봇을 사용했는지(예: DeepSeek 대신)까지도 OpenAI는 알 수 없다고 밝혔다. “우리는 이 선택을 무엇이 이끌었는지 판단할 입장이 아니다.” 라는 보고서의 문구가 이를 보여준다.