Meta, 부모가 청소년이 AI와 논의하는 주제 보기 허용

Source: Mashable Tech

Overview

청소년이 Meta의 AI 어시스턴트와 나누는 대화 내용에 대해 우려하는 부모는 이제 Teen Account 부모‑감시 도구를 통해 대화 주제를 확인할 수 있게 되었습니다. Meta는 이번 기능을 목요일에 발표한 블로그 게시물에서 소개했습니다.

Feature Details

• 이 정보는 Instagram, Facebook, Messenger용 감시 도구의 Insights 탭에서 확인할 수 있습니다.
• 주제는 학교, 엔터테인먼트, 글쓰기, 건강, 웰빙 등과 같은 넓은 카테고리로 그룹화됩니다.
• 부모는 주제를 클릭하면 추가(하지만 제한된) 세부 정보를 볼 수 있습니다.
• 건강 및 웰빙 카테고리에는 피트니스, 신체 건강, 정신 건강과 같은 하위 주제가 포함될 수 있습니다.
• 데이터는 지난 7일 동안의 대화만을 다룹니다.

Legal and Safety Context

이 기능은 강도 높은 법적·언론적 감시 속에서 Meta가 도입한 최신 안전 조치입니다.

• Meta는 최근 아동 안전 보호와 관련된 두 건의 획기적인 재판에서 패소했습니다(New Mexico case)와 제품의 중독성 설계에 대한 판결(verdict details). 회사는 두 판결 모두에 항소할 계획입니다.
• 내부 문서에 따르면 Meta의 페르소나 기반 AI 동반자, 즉 “캐릭터”가 미성년자와 부적절하고 성적인 상호작용을 할 수 있음이 드러났습니다(Reuters report).
• 8월에 Meta는 부적절한 상호작용(자해, 자살, 로맨틱한 대화 등) 보고가 잇따라 청소년용 AI 캐릭터를 잠금했습니다(Mashable article).
• 10월에는 부모가 1:1 AI 캐릭터 대화를 끄고 특정 캐릭터를 차단할 수 있는 기능을 제공했습니다(Meta announcement).
• 1월에 Meta는 다시 한 번 청소년의 캐릭터 접근을 제한하면서 AI 어시스턴트는 그대로 유지했습니다(Mashable article).
• Meta 관계자는 전 세계 청소년을 위해 AI 캐릭터가 일시 중지된 상태이며, 회사가 부모 제어 기능을 계속 개발하고 있다고 확인했습니다.

Additional Initiatives

• Meta는 Cyberbullying Research Center와 협력해 부모가 청소년과 AI 챗봇 사용에 대해 대화할 때 활용할 수 있는 “대화 시작 질문” 리스트를 만들었습니다(resource page).
• 회사는 AI 청소년 경험에 지속적으로 의견을 제공할 AI 웰빙 전문가 위원회를 신설했습니다. 위원회 구성원은 National Council for Suicide Prevention, University of Michigan, Northeastern University 등 다양한 기관과 연계돼 있습니다.

Additional reporting by Chase DiBenedetto.