테크 기업은 감시를 강요받아서는 안 된다

Source: Hacker News

배경

국방부 장관은 인공지능 기업 Anthropic에 최후통첩을 제시했습니다. 이는 해당 기업이 사용 제한 없이 미국 군에 기술을 제공하도록 압박하는 내용입니다. 국방부는 Anthropic이 제한을 해제하지 않을 경우 회사를 “공급망 위험”으로 지정하겠다고 위협한 것으로 알려졌습니다. WIRED에 따르면, 이러한 레이블은 “연방 기관이 감시하는 국가, 예를 들어 중국과 거래하는 기업에 주로 부여되는 적색 레터”와 같으며, 이는 펜타곤이 Anthropic의 AI를 방위 작업에 사용하는 기업과 협력하는 것을 사실상 금지하게 됩니다.

2025년에 Anthropic은 기밀 작전에서 사용되고 기밀 정보를 다룰 수 있는 최초의 AI 기업으로 승인되었습니다. 현재 논란은 2026년 1월, 방위 계약업체 Palantir와의 파트너십을 통해 Anthropic의 AI가 1월 3일 베네수엘라 공격에 사용된 것으로 의심되면서 시작되었습니다. 같은 달에 Anthropic CEO인 Dario Amodei는 미국 시민에 대한 감시와 자율 무기 시스템을 “두 개의 선명한 적색선”이라고 재차 강조했으며, 이는 절대 넘어서는 안 되거나 최소한 “남용을 방지하기 위한 가드레일과 함께 극도의 주의와 검토”가 필요하다고 밝혔습니다.

Anthropic이 스스로 선언한 AI 안전에 관한 핵심 견해는 여기에서, Claude의 헌장은 여기에서 확인할 수 있습니다.

Anthropic의 입장

Anthropic은 공개적으로 다음을 지원하지 않겠다고 선언했습니다:

• 자율 무기 시스템
• 미국 시민에 대한 감시

회사는 이러한 원칙을 지속적으로 지키고, 명시적으로 배제한 두 가지 방식으로 기술이 사용되는 것을 거부해야 합니다.

정부 압박

미국 정부는 Anthropic이 설정한 적색선 경계를 “뛰어넘지” 않으면 계약을 종료하겠다고 위협하고 있습니다. 이러한 압박은 기업이 인권 및 시민 자유에 대한 약속을 준수하는 데 대한 우려를 불러일으킵니다.

특히 기술 기업들은 종종 이익 등 여러 이유로 공개 성명과 내부 정책을 이행하지 못합니다(예시). 정부 압박이 이러한 약속을 포기하는 또 다른 정당화 수단이 되어서는 안 됩니다.

기업이 저항해야 하는 이유

Anthropic의 기업 고객, 일반 대중, 그리고 제품을 만드는 엔지니어들은 회사가 확고히 서기를 기대합니다. 감시 도구가 되는 것을 거부하는 것은 기술 기업이 시민 자유를 보호하고 강압적 요구에 굴복하지 않아야 한다는 광범위한 기대와 일치합니다.