10대의 X급 Gemini Live 만남, 가족 전체 Google 계정 차단

Source: Android Authority

TL;DR

• 영국에 사는 한 가족이 10대의 에로틱한 Gemini Live 체험 이후 모든 Google 계정에서 잠금당했습니다.
• Google은 처음에 10대의 계정을 차단했고, 이후 부모와 형제·자매의 계정까지 잠갔습니다.
• Google은 CSAM(아동 성학대물)이라고 주장되는 콘텐츠에 대해 광범위한 조치를 취한 전력이 있습니다.

Google에 전적으로 의존하면 편리하지만, 잠기면 잃을 것이 많아집니다

Google의 서비스 약관은 광범위하고 포괄적으로 작성돼 있어 계정이 회사의 주목을 받을 수 있는 잠재적 상황이 많이 존재합니다. 대부분은 레이더 아래에서 지내지만, 너무나 쉬운 트리거가 하나 있습니다: 아이들.

어린이가 관련된 모든 사건은 매우 민감할 수 있습니다. 과거에 Google은 어린이 사진을 오인식해 사람들을 잠그는 실수를 저질렀습니다. 눈에 띄는 2021년 사례에서는 Google이 클라우드에 저장된 가족의 의료 사진을 아동 성학대물(CSAM)로 표시해 잠금 사태를 일으켰으며, 이는 The New York Times가 보도했습니다.

오늘 이야기는 다른 차원에서 충격적입니다. PCWorld는 r/LegalAdviceUK 서브레딧에 올라온 익명 Reddit 게시물을 인용해, 한 가족이 14세 자녀가 AI 에이전트와 성적인 상호작용을 시도한 뒤 5개의 Google 계정 모두가 차단됐다고 보고했습니다.

한 번의 실수로 가족 전체의 계정이 파탄날 수 있습니다

OpenAI가 NSFW ChatGPT 성인 모드 계획을 보류했지만, 많은 AI 애호가들은 여전히 노골적인 콘텐츠를 찾고 있습니다. 전형적인 10대의 판단력을 무기로, 그 가족의 10대는 Gemini Live와 성적인 대화를 시도했고, 태블릿 카메라까지 챗봇에 공유했습니다.

Google은 결국 해당 10대의 계정을 표시하고 차단했습니다. 이후 며칠 동안 회사는 태블릿에 연결된 모든 Google 계정—부모와 형제·자매 계정까지—을 차단한 것으로 알려졌습니다.

디지털 생활에서 완전히 차단된 이 가족은 은행 계좌 재설정 코드를 실제 우편으로 받는 등 덜 우아한 방법에 의존하게 되었습니다. Google에 대한 그들의 호소는 접근 복구로 이어지지 않았으며, Google은 아동 보호 필요성을 이유로 들었습니다. 우리는 Google에 의견을 요청했습니다.

미묘한 균형을 잡는 일은 생각보다 어렵습니다

이 이야기는 복합적인 문제를 부각시킵니다. Gemini와의 10대 성적 체험을 조롱하고 싶을 수도 있지만, 호기심 많고 호르몬에 휘말린 청소년에게는 현실적인 위험입니다. 중요한 질문은: 적절한 대응은 무엇인가?

무관용 정책은 상황과 뉘앙스를 무시하고 지나치게 거칠 수 있습니다. 동시에 누구도 아동 학대 문제에 대해 “약함”을 보이고 싶어 하지 않죠. 더 나은 부모 통제 기능이 시작점이 될 수 있지만, 이 가족은 이미 해당 기능을 켰다고 믿었으나 Gemini 설정까지는 포함되지 않았다는 사실을 뒤늦게 알게 되었습니다. 이런 사건이 점점 흔해짐에 따라, 무고한 사용자가 접근을 회복할 수 있는 명확한 경로를 제공하면서도 강력한 보호 장치를 마련하는 것이 점점 더 중요해지고 있습니다.