Meta의 AI 디스플레이 안경이 인간 중재자와 친밀한 영상을 공유한다는 보도

Source: Slashdot

Background

익명의 독자는 Engadget의 보도를 인용한다: 유럽에서 메타의 AI 스마트 안경을 사용하는 사용자는 스웨덴의 Svenska Dagbladet에서 지난 주에 발표한 보고서에 따르면, 블록 외부의 중재자와 무의식적으로 친밀한 비디오와 민감한 금융 정보를 공유하고 있을 수 있다. 케냐에서 AI “주석” 작업을 하는 직원들은 기자들에게 사람들이 나체가 되거나, 화장실을 이용하거나, 성행위를 하는 모습을 보았으며, 신용카드 번호 및 기타 민감한 정보를 보았다고 전했다.

How Data Is Processed

메타의 Ray‑Ban Display 및 기타 AI 기능이 탑재된 안경은 사용자가 다음을 할 수 있게 한다:

• 자신이 보고 있는 것을 기록하거나,
• 메타 AI 어시스턴트를 통해 질문에 대한 답을 얻는다.

그 AI를 사용하려면 착용자는 메타의 서비스 약관에 동의해야 하며, 이 약관은 캡처된 모든 데이터가 인간에 의해 검토될 수 있음을 허용한다. 이는 메타의 대형 언어 모델(LLM)이 시각 데이터를 이해하고 학습 모델을 개선하기 위해 종종 인간 주석이 필요하기 때문이다.

주석이 달린 데이터는 종종 케냐 나이로비와 같은 장소에 전달되어 저임금 노동자에 의해 검토된다.

Legal Implications

이러한 관행은 유럽의 GDPR에 해당하며, GDPR은 개인 데이터가 어떻게 처리되는지에 대한 투명성을 요구한다. 보고서에 인용된 데이터 보호 변호사는 이 요구 사항을 강조했다. 그러나 Svenska Dagbladet의 기자들은 메타의 웨어러블 제품에 대한 개인정보 보호정책에 접근하기 위해 “몇 가지 절차를 거쳐야” 했다고 언급했다. 정책에는 인간과 자동 시스템 모두가 민감한 데이터를 검토할 수 있으며, 민감한 정보를 공유하지 않도록 하는 책임이 사용자에게 있음을 명시하고 있다.