OpenAI, “indefinitely” 에로틱 ChatGPT 계획을 보류

Source: Ars Technica

Overview

뒤풀이가 이어지는 가운데, OpenAI는 곧 에로틱 버전의 ChatGPT를 출시하지 않을 예정입니다.

Financial Times에 따르면, 논란이 된 계획은 “무기한” 보류되었으며 OpenAI는 “핵심 제품”에 집중하기 위해 “재조정”하고 있습니다. 내부 관계자는 FT에 OpenAI가 “성인 모드” 계획을 완전히 포기하는 방안을 검토했으며, 자체 고문조차도 ChatGPT 사용자가 불건전한 애착을 형성해 정신 건강에 해를 끼칠 수 있다고 경고했다고 전했습니다. 한 고문은 이 조정이 ChatGPT를 “섹시한 자살 코치”로 전락시킬 위험이 있다고 냉정하게 제시했습니다.

Concerns from staff and advisors

• 직원들은 “섹시한 ChatGPT”가 인류에게 이익이 되는 AI를 만든다는 OpenAI의 사명과 일치하는지 의문을 제기했습니다.
• “성인 모드”를 개발하던 개발자들은 이전에 노골적인 대화를 회피하도록 훈련된 모델을 이제는 그런 콘텐츠를 생성하도록 만드는 기술적 난관을 극복하기 어려웠습니다.
• 성적 콘텐츠가 포함된 데이터셋을 사용할 경우, 불법 행위(예: 수간, 근친상간)를 출력에서 배제하는 것이 어려웠습니다.

Investor reaction

두 명의 관계자는 FT에 “OpenAI의 성인 모드 시도는 불안을 야기했다”고 전했으며, 일부 투자자들은 OpenAI가 비즈니스에 “상대적으로 작은 이익”만을 제공하는 제품으로 명성을 위험에 빠뜨릴 이유가 있는지 의문을 제기했습니다.

Ongoing mental‑health concerns

에로틱한 응답이 없더라도, ChatGPT는 어린이와 성인 모두에게 정신 건강에 해를 끼친다는 소송을 통해 연결되고 있습니다. 이 소송은 OpenAI가 적절한 안전장치 없이 챗봇을 무모하게 출시했다고 주장하고 있습니다.