Roblox, 부적절한 언어를 위한 실시간 AI 기반 채팅 재구성기 도입

Source: Engadget

개요

Roblox는 부적절한 언어를 실시간으로 바꾸어 주는 AI 기반 기능을 출시했습니다. 이전에는 플랫폼이 금지된 언어를 해시 기호(####)로 대체했으며, 이는 대화 흐름을 방해할 수 있었습니다. 새로운 시스템은 문제되는 단어와 구절을 더 적절한 대안으로 교체합니다.

리프레이저 작동 방식

• 현재 AI는 욕설을 대상으로 합니다.
• 예시: 사용자가 “Hurry TF up”이라고 입력하면 메시지가 “Hurry up!”으로 변경됩니다.
• 모든 참가자는 메시지가 리프레이즈되었다는 알림을 보게 되며, 원본 발신자는 삭제된 언어를 확인할 수 있습니다.
• 계속해서 욕설을 사용하는 사용자는 AI가 메시지를 재작성하더라도 Roblox 정책 위반에 따른 처벌을 받게 됩니다.

“이러한 시스템이 규모를 확대함에 따라 실시간 피드백이 사용자에게 우리 커뮤니티 표준을 배우고 채택하도록 돕는 선순환을 만들게 됩니다,” 라고 Roblox의 최고 안전 책임자 Rajiv Bhatia가 블로그 게시물에서 말했습니다.

배포 세부 사항

• 리프레이저는 연령 인증을 마친 사용자들 간, 비슷한 연령대의 채팅에서 활성화됩니다.
• Roblox 번역 도구를 통해 제공되는 모든 언어를 지원합니다.

연령 인증 및 안전 조치

• 1월에 Roblox는 플랫폼 내 “소아성애자 문제”에 대한 보고를 계기로 의무 연령 인증을 도입했습니다.
• 13세 미만 사용자는 특정 경험 외에는 게임 내 채팅을 사용할 수 없게 되었습니다.
• 연령이 높은 사용자는 비슷한 연령대의 동료와 채팅할 수 있습니다.

진행 중인 법적 도전

• 연령 확인 시스템에도 불구하고 소송은 계속되고 있습니다.
• 로스앤젤레스 카운티는 2월에 Roblox가 “어린이들을 소아성애자들의 쉬운 표적으로 만든다”고 주장하며 소송을 제기했습니다.
• 루이지애나 주 검찰총장은 최근 Roblox가 “공공 공원을 만들고 그곳을 성범죄자들로 가득 채워 어린이들을 노린다”고 주장하는 소송을 제기했습니다.

Read the original article