ChatGPT가 가짜 사기 상점을 추천한 것이 적발됐다.
Edgar Cervantes / Android Authority
TL;DR
- ChatGPT 쇼핑 결과가 가짜 매장과 연결돼 일부 사용자가 금전 사기와 결제 정보 도용에 노출되었습니다.
- 사기꾼들은 독립 소매업체였던 Russell & Bromley가 사라진 틈을 타 설득력 있는 모조 사이트를 만들어냈습니다.
- 연구자들은 “AI 중독”(AI poisoning) 현상이 사기 페이지가 대형 언어 모델에 침투해 추천에 나타나는 원인이라고 의심하고 있습니다.
가디언에서는 ChatGPT가 사용자를 설득력 있는 가짜 소매 웹사이트로 유인하고, 실제 존재하지 않는 제품까지 추천한 사례가 보고되었습니다. 사기 탐지 서비스 Ask Silver가 공유한 조사 결과에 따르면, 복제된 온라인 매장이 ChatGPT가 생성한 쇼핑 결과에 나타나기 시작했습니다. 사기꾼들은 Russell & Bromley나 Dunelm 같은 인기 브랜드를 링크로 걸어 놓은, 겉보기엔 정통해 보이는 웹사이트를 운영했습니다. 주문을 진행한 사람들은 금전적 손실을 입었을 뿐 아니라 결제 정보까지 유출되었습니다.
혼란의 한 가지 이유는 Russell & Bromley가 2026년 1월 관리 절차에 들어가 Next에 인수된 뒤 독립 소매업체로서 사라졌기 때문입니다. 소비자들이 여전히 해당 브랜드의 원래 웹사이트를 찾으면서, 사기꾼들은 이를 메우기 위해 유사 페이지를 만들어냈습니다.
이러한 공격은 연구자들이 “AI 중독”(AI poisoning)이라고 부르는 기법을 이용한 것으로 보입니다. 이는 악의적인 행위자가 가짜 정보와 복제 페이지를 웹에 대량으로 퍼뜨려 대형 언어 모델이 이를 학습하게 만드는 방식입니다. 결과적으로 모델은 가짜 출처를 진짜처럼 추천해 사기를 무의식적으로 촉진합니다.
소비자 보호 전문가들은 AI 챗봇이 제공하는 추천이라고 해서 무조건 신뢰해서는 안 된다고 경고합니다. “범죄자들은 새로운 기술에 빠르게 적응하며, 잠재적 피해자에게 접근할 수 있는 모든 채널을 활용합니다.”라고 National Trading Standards 사기팀 팀장 루이즈 백스터는 말했습니다.
경고 신호는 여전히 동일합니다. 과도한 할인, 이상한 웹사이트 주소, 부실한 연락처 정보, 은행 송금 요청 등은 모두 의심해야 할 요소입니다. 전문가들은 AI가 생성한 링크에 의존하기보다 공식 소매업체의 사이트에 직접 접속할 것을 권장합니다.
신고된 일부 사이트는 OpenAI에 의해 차단됐지만, 근본적인 문제는 여전히 남아 있습니다. AI 도구가 사람들의 검색·쇼핑 방식에 점점 더 큰 역할을 차지함에 따라, 기업들은 사기꾼이 유용한 추천을 비용이 많이 드는 실수로 바꾸는 일을 방지하기 위한 더 강력한 보호 장치를 마련해야 할 것입니다.
Follow
우리 커뮤니티의 일원이 되어 주셔서 감사합니다. 게시하기 전에 댓글 정책을 읽어 주세요.