Meta Ray-Ban 스마트 안경이 ‘민감한’ 영상을 인간 데이터 주석자에게 전송
Source: 9to5Mac
보고서 개요
새로운 보고서에 따르면 Meta Ray‑Ban smart glasses의 비디오 피드가 케냐에 있는 인간 데이터 주석자에게 검토를 위해 전송되며, 해당 영상에는 제외되어야 할 민감한 콘텐츠가 포함되어 있다고 합니다.
제보자들은 Meta가 사용하는 제3자 계약업체가 보는 영상에 사람들의 성관계부터 은행 카드까지 모든 것이 포함되어 있다고 주장합니다.
안경이 비디오를 캡처하는 방법
Meta Ray‑Ban 스마트 안경은 두 가지 방법으로 비디오를 캡처할 수 있습니다:
- 수동 녹화 – 비디오 녹화를 활성화하여 시점 영상을 촬영합니다. 롤러코스터 탑승, 운전이나 사이클링 중 사고 등 손을 사용하지 않고 경험을 기록할 때 유용합니다.
- AI 기반 질의 – 안경을 통해 보는 대상에 대해 질문합니다. AI 처리는 Meta 서버에서 이루어지므로 비디오 영상은 분석을 위해 해당 서버로 전송되어야 합니다.
조사 결과
케냐의 인간 데이터 주석가
스웨덴 사이트 SVD 의 보고서에 따르면, 영상은 또한 클립에서 객체를 수동으로 식별하는 작업을 하는 인간 데이터 주석가에게도 전달된다고 합니다. 케냐에 기반을 둔 제3자 계약업체 직원은 이 영상에 때때로 매우 민감한 내용이 포함될 수 있다고 말했습니다.
민감한 콘텐츠 노출
케냐의 직원들은 서구 가정에서 직접 촬영된 듯한 매우 사적인 비디오 클립에 노출되어 업무 중 불편함을 느낀다고 설명합니다. 여러 명은 화장실 이용, 성관계 및 기타 친밀한 순간을 보여주는 영상 자료를 언급했습니다:
“누군가가 안경을 착용하고 돌아다니고 있었거나 우연히 착용했을 수도 있고, 그 사람의 파트너가 화장실에 있거나 막 옷을 벗고 나왔을 수도 있다”고 한 직원이 말했습니다.
불분명한 촬영 상황
이러한 민감한 영상이 촬영되는 상황은 명확하지 않습니다. 예를 들어, 안경을 착용한 채 성관계를 하는 경우가 언급되는데, 이는 의도적인 사용으로 보일 수 있습니다. 그러나 누군가가 AI 기능을 사용하지 않고 수동 녹화를 할 때도 영상이 검토를 위해 전송될 수 있다는 점을 시사합니다.
Transparency and Policy Issues
AI 기능을 사용할 때 어떤 영상이 Meta에 전송되는지에 대한 투명성이 부족합니다. 자동차를 보고 Meta에게 제조사와 모델을 식별해 달라고 요청하면, 언제 영상 전송이 중단되는 걸까요? 5초 후인가요, 10초 후인가요, 30초 후인가요? 질문에 답변이 이루어지는 즉시 중단되는 건가요, 아니면 추가 질문을 할 경우를 대비해 계속 녹화가 진행되는 건가요?
회사의 이용 약관은 매우 모호합니다. 약관에는 “일부 경우에 Meta는 AI와의 상호작용, 여기에는 AI와의 대화 내용이나 AI에게 보낸 메시지의 내용이 포함됩니다, 이를 자동 또는 수동(인간)으로 검토할 수 있다”고 명시되어 있습니다.
보고서가 Meta에 세부 정보를 요청했을 때, 회사는 단순히 서비스 약관 및 개인정보 보호정책을 참조하라고 답했습니다.
기술 관찰
네트워크 트래픽 분석에 따르면, 해당 전화기가 스웨덴 룰레와 덴마크에 있는 Meta 서버에 자주 연결되는 것으로 나타났습니다. 전 Meta 직원들은 민감한 데이터가 인간 검토를 위해 전송되어서는 안 된다고 말하지만, 이는 해당 민감 데이터를 알고리즘으로 식별하는 데 의존하고 있으며, 이는 항상 성공적인 것은 아닙니다.
9to5Mac’s Take
저는 직접 안경을 사용합니다. AI 기능의 새로움은 금방 사라졌지만, 손을 사용하지 않고 POV 영상을 촬영하기에 매우 편리합니다. 민감한 내용을 촬영하기 위해 절대 사용하지 않을 것이지만, 메타가 수동 비디오 녹화를 캡처하고 있다는 사실을 알게 된다면 꽤 분노할 것입니다.
보고서는 구체적인 정보가 부족해 답답하지만, 어떤 종류의 민감한 데이터든—또는 메타 제품이든—AI 서비스를 사용할 때는 주의해야 한다는 점을 상기시켜 줍니다.
Photo: 9to5Mac/Ray‑Ban