Meta가 AI를 사용해 키와 뼈 구조를 분석해 사용자가 미성년자인지 확인합니다

Source: TechCrunch

Meta는 사용자가 13세 미만인지 확인하고 Facebook 및 Instagram에서 제거하기 위해 사진과 동영상을 스캔하는 AI를 사용할 것이라고 화요일에 발표했습니다. 이러한 시각적 단서는 사람의 키나 골격 구조를 포함합니다.

How the visual analysis works

“우리는 명확히 하고 싶습니다: 이것은 얼굴 인식이 아닙니다,” 라고 Meta는 블로그 게시물에서 설명했습니다. “우리 AI는 키나 골격 구조와 같은 일반적인 테마와 시각적 단서를 살펴보아 사람의 대략적인 연령을 추정합니다; 이미지 속 특정 인물을 식별하지는 않습니다. 이러한 시각적 통찰을 텍스트 및 상호작용 분석과 결합함으로써, 우리는 식별하고 제거할 수 있는 미성년 계정 수를 크게 늘릴 수 있습니다.”

시각 분석 시스템은 현재 일부 국가에서 운영 중이며, 더 넓은 범위로 확대될 예정입니다.

Rollout and future expansion

Meta는 이 시스템이 13세 미만 아동을 플랫폼에서 차단하려는 노력의 일환이라고 밝혔습니다. AI는 또한 생일 파티나 학년 언급과 같은 맥락 단서를 찾기 위해 전체 프로필을 분석하며, 게시물, 댓글, 바이오, 캡션 등을 스캔합니다. 향후 확장 계획에는 다음이 포함됩니다:

• Instagram Live
• Facebook Groups

Meta가 사용자가 미성년일 가능성이 있다고 판단하면 계정을 비활성화합니다. 사용자는 영구 삭제를 피하기 위해 Meta의 인증 절차를 통해 연령을 증명해야 합니다.

Legal backdrop

이번 발표는 뉴멕시코 배심원이 플랫폼 안전성에 대해 소비자를 오도하고 아동을 위험에 빠뜨린 혐의로 Meta에 3억 7,500만 달러의 민사 벌금을 부과한 지 몇 주 만에 이루어졌습니다(관련 기사). 또한 회사는 플랫폼에 근본적인 변화를 구현하도록 명령받았으며, 해당 주에서 소셜 미디어 서비스를 폐쇄하겠다고 위협받고 있습니다(관련 기사).

이 사건은 Meta와 다른 대형 기술 기업들이 아동 안전 문제로 직면하고 있는 다수의 소송 중 하나입니다(관련 기사).

Expansion of teen‑account safeguards

Meta는 또한 Instagram에서 청소년을 자동으로 “Teen Accounts” 로 전환하는 기술을 EU 27개국과 브라질로 확대한다고 발표했습니다. 이러한 청소년 계정은 다음과 같은 추가 보호 기능을 제공하여 보다 안전한 환경을 조성합니다:

• 팔로우하거나 이미 연결된 사람에게서만 DM을 받음
• 유해한 댓글 숨기기
• 기본적으로 계정을 비공개로 설정

또한 Meta는 이번 기술을 미국의 Facebook에 처음으로 도입하고, 6월에는 영국과 EU로 확대할 계획이라고 밝혔습니다.

When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.