뉴멕시코의 메타 판결 및 암호화

Source: Schneier on Security

Background

Mike Masnick은 최근 뉴멕시코 법원의 메타에 대한 판결이 종단 간 암호화와 보안 전반에 걸쳐 우려스러운 함의를 가지고 있다고 지적합니다. “디자인 선택이 책임을 만든다”는 프레임워크는 추상적으로는 걱정스럽게 들리며, 뉴멕시코 사건은 실제로 어디로 이어지는지 구체적인 예시를 제공합니다.

Encryption as Evidence of Negligence

뉴멕시코 법무장관이 메타에 대해 제시한 주요 증거 중 하나는 2023년에 페이스북 메신저에 종단 간 암호화를 도입한 회사의 결정이었습니다. 주장의 핵심은 다음과 같습니다:

• 포식자들이 메신저를 이용해 미성년자를 유인하고 아동 성학대 자료를 교환했다.
• 메시지를 암호화함으로써 메타는 법 집행기관이 해당 범죄의 증거에 접근하기 어렵게 만들었다.
• 따라서 암호화는 해를 가능하게 만든 설계 선택이었다.

주 정부는 현재 “악의적인 행위자를 보호하는 암호화된 통신으로부터 미성년자를 보호”하도록 법원이 명령하는 변화를 요구하고 있습니다. 최종 결과는 메타가 모든 사용자의 통신을 덜 안전하게 만들도록 강제될 수도 있다는 것으로, 이는 판결을 지지했던 사람들조차도 두려워할 만한 전망입니다.

Why Encryption Matters

종단 간 암호화는 수십억 명을 감시, 데이터 유출, 권위주의 정부, 스토커, 가정 폭력으로부터 보호합니다. 이는 일반인이 가질 수 있는 가장 중요한 프라이버시 및 보안 도구 중 하나입니다. 전 세계 모든 주요 보안 전문가와 시민 자유 단체는 더 강력한 암호화를 주장해 왔으며, 약화된 암호화를 주장하지 않습니다.

“디자인 책임” 이론 하에서는 암호화 구현 자체가 소수의 악의적인 행위자도 암호화된 통신을 사용한다는 이유로 과실의 증거가 됩니다. 이 논리는 문자 그대로 발명된 모든 통신 도구에 적용될 수 있습니다. 포식자들은 우편 서비스, 전화, 직접 대화도 이용합니다. 암호화 자체는 누구에게도 해를 끼치지 않으며, 무한 스크롤이나 자동 재생처럼 악의적인 행위자의 선택이 없으면 무력합니다—그 선택은 사람에 의해 이루어지는 것이지 플랫폼 설계에 의해 자동으로 이루어지는 것이 아닙니다.

Broader Legal Incentives

이로 인해 생기는 인센티브는 암호화에 국한되지 않으며, 해롭습니다:

• 소수의 악의적인 행위자가 악용한다는 이유만으로 대다수 사용자를 보호하는 제품 개선이 기업에 불리하게 작용한다면, 기업은 그런 개선을 중단할 것입니다.
• 미래 소송에서 전시물 A가 될 위험이 있다면 왜 암호화를 도입하겠습니까?
• 원고 변호사가 이를 “악의적인 행위자를 보호한다”고 규정한다면 왜 프라이버시 보호 기능을 구현하겠습니까?

Impact on Corporate Practices

두 재판 모두에서 가장 파괴적인 증거는 직원들이 안전 위험에 대한 우려를 제기하고 트레이드‑오프를 논의한 내부 문서에서 나왔습니다. 이 문서들은 언론과 법정에서 “결정적 증거”로 강조되었습니다. 그 결과 기업은 다시는 누구도 우려를 제기하도록 허용하지 않을 수 있으며, 이는 매우 나쁜 결과입니다.

건전한 법적 환경에서는 기업이 내부 토론을 장려해야 합니다. 엔지니어와 안전 팀은 잠재적 위험을 표시하고, 어려운 트레이드‑오프를 고민하며, 그 이유를 문서화해야 합니다. 그러나 선의의 논의가 원고 전시물로 전환되어 “그들은 알면서도 했었다”는 증거로 제시될 때, 합리적인 기업의 대응은 모든 서면 기록을 중단하고, 위험 평가를 포기하며, 내부에서 어려운 질문을 하지 않는 것이 됩니다.

Conclusion

실리콘밸리의 모든 법무 담당자가 지금 배우고 있는 교훈: 무지는 탐구보다 더 안전하다고 인식됩니다. 이는 모두를 더 안전하게 만들지, 오히려 더 위험하게 만듭니다.

이 에세이에는 섹션 230, 이 분야의 경쟁, 그리고 판결의 근시안적 성격 등에 대한 내용이 훨씬 더 많이 포함되어 있습니다. 직접 읽어보세요.