보도에 따르면 OpenAI의 성인 모드가 음란한 오디오, 이미지 또는 비디오를 생성하지 않을 것

Source: Engadget

개요

OpenAI의 곧 출시될 “성인 모드”는 사용자가 ChatGPT와 음란한 대화를 나눌 수 있게 하지만, 노골적인 이미지, 오디오, 비디오는 생성하지 않을 것입니다. 월스트리트 저널의 보도에 대한 OpenAI 대변인은 이 기능을 “포르노그래피보다는 음란물(smut)을 생산할 수 있다”고 설명했습니다.

성인 모드 개발 타임라인

• 2023년 10월: CEO 샘 알트먼이 처음으로 ChatGPT를 에로틱 콘텐츠에 활용하는 방안을 제시하며, “성인 사용자를 성인처럼 대우하고 싶다”고 강조했습니다.
• 초기 계획: 2026년 초에 성인 모드 출시.
• 그 이후 연기: 출시 일정이 여러 차례 연기되었습니다. 가장 최근 연기는 3월 초에 발표되었으며, OpenAI가 “더 많은 사용자를 위한 우선 순위가 높은 작업에 집중하기 위해”라고 설명했습니다.

복지 위원회 우려

• OpenAI는 8인으로 구성된 복지 및 AI 위원회의 우려에도 불구하고 성인 모드 개발을 진행했습니다.
• 위원회는 AI가 생성한 에로틱 콘텐츠가 ChatGPT에 대한 비정상적인 정서적 의존을 조장할 수 있다고 만장일치로 경고했습니다.
• 또한 미성년 사용자가 해당 기능에 접근할 방법을 찾을 가능성이 높다고 지적했습니다.
• 한 위원은 ChatGPT에 집착하다 자살한 사례를 언급하며, 회사가 무심코 “섹시한 자살 코치(sexy suicide coach)”를 만들 위험이 있다고 경고했습니다.

연령 확인 문제

• 회사의 연령 확인 시스템이 미성년자를 성인으로 잘못 식별하는 비율이 **12 %**에 달한다는 것이 월스트리트 저널에 의해 밝혀졌습니다.
• 매주 약 1억 명의 청소년이 ChatGPT를 사용한다면, 이 오류율은 수백만 명의 미성년자가 에로틱 채팅에 접근할 수 있음을 의미합니다.
• OpenAI는 저널에 예측 알고리즘이 업계 표준을 충족한다고 답변했으며, 완벽하게 틀림없는 시스템은 존재하지 않는다고 덧붙였습니다.