iDLG: 개선된 Deep Leakage from Gradients

Source: Dev.to

Overview

사람들이 모델을 공동으로 학습할 때 그래디언트라는 작은 신호를 공유하는데, 이는 안전하고 개인적인 것이라고 여겨집니다. 새로운 연구에 따르면 이 신호들이 실제 학습 이미지와 그 정답을 드러낼 수 있어, 개인 정보가 안전하지 않을 수 있습니다.

Method

연구자들은 그 신호들에서 실제 라벨을 더 명확히 추출하고, 이전보다 더 신뢰성 있게 원본 데이터를 복원하는 방법을 찾았습니다. 이 트릭은 간단하며 많은 일반적인 학습 환경에서 작동하고, 별도의 요령이나 많은 추측이 필요하지 않습니다. 이 새로운 방법인 iDLG는 문제를 가시화합니다: 먼저 라벨이 유출되고, 그 다음에 이미지가 유출됩니다.

Implications

그래디언트를 공유하는 것은 프라이버시에 해로울 수 있으며, 관행을 바꾸지 않으면 위험합니다. 이 아이디어는 설명하기 쉬우나, 휴대폰이나 그룹에서 공동 학습을 하는 애플리케이션에 큰 영향을 미칩니다. 공유 학습을 사용할 경우 이 위험을 인지해야 하며, 개발자는 개인 정보가 보호될 수 있도록 방어책을 추가해야 합니다. 해결책은 가능하지만 자동화되어 있지는 않으며, 지금 바로 조치가 필요합니다.

Further Reading

iDLG: Improved Deep Leakage from Gradients