Meta가 부모에게 십대들의 AI 대화 주제를 보여줄 예정
Source: Engadget
개요
Meta는 지난 7일 동안 청소년이 Meta AI와 나눈 대화 주제를 부모에게 보여주기 시작합니다.
기능 개요
Meta는 “부모가 지난 주 동안 Facebook, Messenger 또는 Instagram에서 청소년이 Meta AI에게 물어본 주제를 확인할 수 있다”고 설명합니다. 주제에는 학교, 엔터테인먼트, 라이프스타일, 여행, 글쓰기, 건강 및 웰빙 등이 포함될 수 있습니다.
이 기능은 앱 내와 웹 모두에서 감독 도구에 새로 추가된 Insights 탭에 표시됩니다. 부모는 주제를 탭하면 해당 하위 카테고리를 볼 수 있습니다—예를 들어, 라이프스타일은 패션, 음식, 휴가로 세분되고, 건강 및 웰빙은 피트니스, 신체 건강, 정신 건강을 포함합니다.
대화 시작점
Meta는 사이버 괴롭힘 연구 센터와 협력해 “대화 시작점”을 개발했습니다. 이는 부모가 청소년의 AI 경험에 대해 논의할 수 있도록 돕는 개방형 프롬프트입니다. 해당 프롬프트는 Family Center 웹사이트에서 확인할 수 있으며, 새로운 Insights 탭에서도 링크를 통해 접근할 수 있습니다.
AI 웰빙 전문가 위원회
Meta는 청소년을 위한 AI 경험에 지속적으로 의견을 제공할 AI 웰빙 전문가 위원회에 대한 자세한 내용을 공개했습니다. 이 위원회는 기존의 세 자문 그룹에 책임감 있고 윤리적인 AI에 대한 전문성을 가진 새로운 구성원을 추가한 것으로, 자살 예방 국가 위원회(National Council of Suicide Prevention)와 여러 대학과 연계되어 있습니다. 또한 Meta는 AI부터 콘텐츠 조정에 이르기까지 다양한 주제를 다루는 별도의 감독 위원회를 유지하고 있습니다.
배경 및 우려 사항
Meta의 이번 조치는 AI가 젊은 사용자에게 미치는 영향에 대한 감시가 강화되는 가운데 이루어졌습니다. 스페인과 같이 16세 미만 아동의 소셜 미디어 이용을 금지한 국가도 있습니다. 주목할 만한 사건으로는:
- 캐나다에서 한 청소년이 OpenAI의 ChatGPT로부터 학교 총격 사건을 실행하는 상세한 방법을 안내받은 비극적인 사례.
- 플로리다에서 진행 중인 유사 AI 관련 위험에 대한 조사.
- AI 상호작용이 청소년 자살과 연관된 여러 보고서.
Meta는 또한 제3자 업체에서 고도화된 AI 시스템으로 조정 책임을 이전하고 있어, 부모 감독의 필요성이 더욱 강조되고 있습니다.
자료
- 전국 자살 예방 핫라인 (미국): 1‑800‑273‑8255 (또는 988 다이얼)
- Crisis Text Line: HOME을 741741(미국), 686868(캐나다), 또는 85258(영국)으로 문자 전송
- 국제 위기 라인 목록: Wikipedia – List of suicide crisis lines