OpenAI, 성인용 챗봇 출시 계획 취소

Source: Engadget

취소 발표

OpenAI는 직원과 투자자들의 우려에 따라 성인용 에로틱 챗봇을 “무기한” 출시 계획을 포기했다고 Financial Times에 확인했습니다. 2025년 10월에 12월 출시를 목표로 처음 발표된 이 기능은 출시 여부 자체를 놓고 논의가 진행되는 동안 이미 연기된 바 있습니다. 이는 이번 주에 OpenAI가 두 번째로 보류하기로 한 앱으로, 화요일에 Sora 비디오 생성기를 종료한다는 발표에 이어진 조치입니다.

이유와 과제

성인용 챗봇은 **“Citron mode”**라는 이름으로 알려져 있으며 현재 출시 일정이 잡히지 않은 상태로 보류 중입니다. 이 사안에 정통한 두 관계자에 따르면, OpenAI는 이전에 에로틱 콘텐츠를 차단하도록 훈련된 모델을 사용하면서도 짐승과의 성관계, 근친상간 등 불법 행위를 제거하는 데 어려움을 겪었다고 합니다.

OpenAI는 에로틱 채팅과 AI에 대한 사용자 애착 효과에 대한 장기 연구를 진행하고 싶다고 밝혔으며, 아직 이 분야에 대한 실증적 증거가 충분하지 않다고 덧붙였습니다. 또한 코딩 어시스턴트와 같은 핵심 생산성 도구에 집중하고, Sora와 에로틱 챗봇 같은 “부수적인 퀘스트”는 제외하겠다고 전했습니다.

회사 입장

성인 기능 아이디어는 OpenAI가 ChatGPT에 부모 통제 및 자동 연령 확인 기능을 추가하겠다고 발표한 뒤 등장했습니다. CEO 샘 알트먼은 10월에 회사가 AI에 대한 비정상적인 애착 우려 때문에 항상 신중하게 접근해 왔으며, 대부분의 경우 제한을 “안전하게 완화”할 수 있다고 느꼈다고 말했습니다.

투자자 및 직원 우려

성인 모드는 특히 경쟁사 xAI의 Grok 모델이 실제 인물과 아동의 딥페이크 누드를 생성한 논란 속에서 투자자들의 우려를 불러일으켰습니다. 직원들 역시 이 기능에 대해 걱정했으며, 한 고위 직원은 FT와의 인터뷰에서 “AI가 친구나 가족을 대체해서는 안 된다; 인간 관계를 유지해야 한다”고 말하며 회사를 떠났습니다.

연령 확인 기술 문제

가족들이 ChatGPT가 자녀에게 해를 끼쳤다고 제기한 소송 이후 도입된 OpenAI의 연령 확인 기술은 오류율이 10% 이상으로 보고되었습니다. 이는 여전히 많은 청소년이 해당 기술에 접근할 수 있음을 의미합니다. OpenAI는 이 수치가 업계 표준 범위 내에 있으며 정확도 향상을 위해 계속 작업 중이라고 밝혔습니다.