스마트 안경 사용자가 성관계를 하는 모습을 본 직원들이 해고된 후 메타가 연속적으로...

Source: BBC Technology

배경

Meta는 케냐에 기반을 둔 직원들이 Meta 스마트 안경으로 촬영된 그래픽 콘텐츠를 보아야 했다고 주장한 직후, AI 교육에 사용하던 주요 계약을 취소한 이유를 설명하라는 압박을 받고 있습니다.

두 달도 채 되지 않아 Meta는 Sama와의 계약을 종료했으며, Sama는 이로 인해 1,108명의 직원이 해고될 것이라고 밝혔습니다. Meta는 “Sama가 우리의 기준을 충족하지 못했다”는 이유로 파트너십을 종료했다고 밝혔지만, Sama는 이를 부인하고 있습니다. 케냐 노동자 단체는 이 결정이 직원들의 발언 때문이라고 주장하고 있습니다. Meta는 해당 주장을 언급하지 않았지만 BBC 뉴스에 보낸 성명에서 “그들이 우리의 기준을 충족하지 못했기 때문에 Sama와의 작업을 종료하기로 결정했다”고 밝혔습니다.

Sama는 자신의 작업을 옹호했습니다:

“Sama는 Meta를 포함한 고객과의 모든 계약에서 요구되는 운영, 보안 및 품질 기준을 지속적으로 충족해 왔습니다.”
“우리는 그 기준을 충족하지 못했다는 통보를 받은 적이 없으며, 우리의 작업 품질과 무결성을 확고히 지지합니다.”

‘Naked bodies’

2023년 2월 말, 스웨덴 신문 Svenska Dagbladet (SvD)와 Göteborgs‑Posten (GP)는 메타의 안경으로 촬영된 영상을 검토하도록 요청받은 익명의 직원들의 이야기를 포함한 조사 보고서를 발표했습니다.

“우리는 거실부터 나체까지 모든 것을 봐요,” 라고 한 직원이 말했다고 전해졌습니다.

보고서가 발표된 시점에 메타는 하청 직원들이 사람들이 메타 AI에 공유한 스마트 안경 영상을 때때로 검토할 수 있다고 인정했습니다. 이는 고객 경험을 개선하기 위한 목적이며, 다른 기업에서도 흔히 이루어지는 관행이라고 설명했습니다.

이러한 폭로는 규제 당국의 조치를 촉발했습니다. 스웨덴 조사 직후, 영국 데이터 감시 기관인 정보 위원 사무소(ICO)는 메타에 서한을 보냈습니다. 이는 “우려되는” 보고서라고 명명했습니다. 케냐 데이터 보호 위원회도 안경에 제기된 프라이버시 문제에 대한 조사를 시작한다고 발표했습니다.

해고 소식에 대한 입장을 밝히며 메타 대변인은 BBC에 다음과 같이 말했습니다:

“지난달, 우리는 이 주장들을 조사하기 위해 Sama와의 작업을 일시 중단했습니다.
우리는 이를 심각하게 받아들입니다. 사진과 영상은 사용자에게 개인적인 것입니다. 인간이 AI 콘텐츠를 검토하는 것은 제품 성능을 개선하기 위한 것이며, 이를 위해 우리는 명확한 사용자 동의를 얻고 있습니다.”

‘비밀 유지 기준’

안경의 기능에는 텍스트를 번역하거나 사용자가 보고 있는 것에 대해 질문에 답하는 것이 포함될 수 있습니다 – 이는 시각 장애인이나 부분적으로 시력이 약한 사람들에게 특히 유용합니다. 그러나 이러한 장치가 인기를 얻으면서 오용에 대한 우려도 커지고 있습니다.

스웨덴 신문들이 인터뷰한 직원들은 데이터 주석가였으며, 메타의 AI가 이미지를 해석하도록 수동으로 콘텐츠에 라벨을 붙이는 작업을 했습니다. 또한 AI와의 상호작용 전사를 검토하여 질문에 적절히 답했는지 확인했습니다.

한 사례에서, 한 직원은 신문에 남성의 안경이 침실에서 녹화된 상태로 남아 있었고, 그곳에서 나중에 여성(아마도 남성의 아내)이 옷을 벗는 장면을 촬영했다고 전했습니다. 메타 안경에는 내장 카메라가 녹화 중일 때 켜지는 프레임 모서리의 조명이 있습니다.

Sama는 미국에 본사를 둔 아웃소싱 기업으로, 기술 직업을 통한 고용 확대를 목표로 하는 비영리 조직으로 시작했으며 현재는 “윤리적” B‑corp입니다.

이는 메타와의 계약이 악화된 첫 사례가 아닙니다. 이전에 Facebook **게시물이 비판을 받았습니다**라는 계약이 있었고, 전 직원들의 법적 조치와 함께 그래픽하고 충격적인 콘텐츠에 노출된 사례가 보고되었습니다. Sama는 나중에 해당 작업을 맡은 것을 후회한다고 밝혔습니다.

아프리카 기술 노동자 운동(Africa Tech Workers Movement)의 Naftali Wambalo는 해당 사건에 대한 지속적인 법적 조치의 청구인으로, BBC에 스마트 안경 계약에 관여한 노동자들과도 이야기를 나눴다고 전했습니다. 그는 메타가 작업을 종료한 이유가 인간 검토자가 안경으로 캡처된 콘텐츠를 보는 것을 노동자들이 공개적으로 말하는 것을 원하지 않았기 때문이라고 믿고 있습니다.

“제가 생각하기에 여기서 말하는 기준은 비밀 유지 기준입니다,” 라고 그는 BBC 뉴스에 말했습니다.

BBC는 이 점에 대해 메타의 답변을 요청했습니다. 기술 대기업은 이전에 이용 약관에서 인간 검토 가능성에 대해 사용자에게 고지했다고 밝혔습니다.

청구인들을 대리하는 변호사이자 Oversight Lab 캠페인 그룹의 전무 이사인 Mercy Mutemi는 메타의 성명이 케냐 정부에 대한 경고가 되어야 한다고 말했습니다:

“우리는 이것이 AI 생태계에 진입하는 우리의 경로라고 들었습니다,” 라고 그녀는 BBC에 전했습니다. “이는 전체 산업을 구축하기에 매우 허약한 기반입니다.”