OpenAI가 NSFW 챗봇 계획에서 물러나고 있다

Source: Android Authority

TL;DR

• OpenAI는 ChatGPT의 “성인 모드” 출시를 무기한 보류하기로 했다고 전해졌습니다.
• 성인 모드는 내부와 투자자들로부터 검토를 받고 있었습니다.
• 회사는 제품 결정을 내리기 전에 성적으로 노골적인 대화와 감정적 애착이 미치는 영향을 연구하고 싶다고 밝혔습니다.

OpenAI는 ChatGPT의 “성인 모드” 롤아웃을 무기한 보류하기로 결정했습니다. 이달 초, OpenAI가 출시를 연기하고 더 높은 우선순위 작업에 집중하고 있다는 보도가 있었습니다. 이제 회사는 Financial Times에 성인 챗봇이 명시적인 대화와 사용자와의 감정적 애착이 미치는 영향을 연구하는 동안 일시 중단됐다고 확인했습니다. 내부 반발은 AI에 대한 건강하지 않은 애착과 미성년자에게 성적 콘텐츠가 노출될 위험에 대한 우려에서 비롯되었으며, 투자자들은 제한된 비즈니스 성장 가능성과 관련 위험을 걱정했습니다.

당신은 ChatGPT 같은 AI 챗봇에 의존하거나 중독된 것 같나요?

1535표

이 결정은 OpenAI가 사용자가 ChatGPT에 지나치게 애착을 갖게 되어 “무면허 치료사”이자, 고소장에 따르면 “자살 코치” 역할을 했다고 주장하는 소송에 직면한 시점에 나왔습니다. CBS News가 보도한 바에 따르면, 해당 사용자의 챗봇과의 관계가 비극적인 결과에 일조했다고 합니다.

성적 콘텐츠에 대한 모델 훈련 역시 어려웠으며, 이전 버전들은 안전성을 이유로 이러한 대화를 의도적으로 회피하도록 조정되었습니다.

Other recent news

• OpenAI는 독립형 Sora 앱의 서비스를 종료한다고 발표했습니다.
• 디즈니는 AI 비디오 생성기가 디즈니 IP를 사용할 수 있게 하는 10억 달러 규모의 파트너십을 철회했습니다.