테크 기업은 감시를 강요받아서는 안 된다

Source: Hacker News

Background

국방부 장관은 인공지능 기업 Anthropic에 절대 조건을 제시했습니다. 이는 해당 기업이 기술을 미국 군대에 사용 제한 없이 제공하도록 압박하는 내용입니다. Anthropic은 공개적으로 자율 무기 시스템이나 어떠한 형태의 감시도 지원하지 않을 것이라고 밝혔으며, 이에 대한 논의는 WIRED에서 확인할 수 있습니다.

2025년에 Anthropic은 기밀 정보를 다룰 수 있는 최초의 AI 기업으로 승인받아 기밀 작전에도 활용되었습니다. 현재 논란은 2026년 1월, 방위 계약업체 Palantir와의 파트너십을 통해 Anthropic의 AI가 1월 3일 베네수엘라 공격에 사용된 것으로 의심되면서 시작되었습니다. 관련 보고서는 Scientific American에 실렸습니다.

Government Pressure

국방부는 Anthropic이 기술 사용 제한을 해제하지 않을 경우 해당 회사를 “공급망 위험”으로 지정하겠다고 위협한 것으로 알려졌습니다. WIRED에 따르면, 이러한 라벨은 “연방 기관이 감시하는 국가, 예를 들어 중국과 거래하는 기업에 주로 부여되는 적색 편지”이며, 이는 펜타곤이 Anthropic의 AI를 방위 작업에 사용하는 기업과의 거래를 사실상 금지하게 됩니다.

미 정부는 현재 Anthropic이 스스로 설정한 적색선(레드라인)을 자발적으로 넘지 않을 경우 계약을 종료하겠다고 위협하고 있습니다.

Anthropic’s Stated Principles

Anthropic의 CEO Dario Amodei는 2026년 1월에 미국 시민에 대한 감시와 자율 무기 시스템을 “두 개의 선명한 적색선”이라고 재차 강조했으며, 이를 절대 넘지 않거나 최소한 “남용을 방지하기 위한 가드레일과 함께 극도의 주의와 검토”가 필요하다고 밝혔습니다 — 그의 에세이는 여기에서 확인할 수 있습니다.

회사가 스스로 선언한 AI 안전에 관한 핵심 견해는 여기에서, Claude의 헌장은 여기에서 읽을 수 있습니다.

Corporate Responsibility

기술 기업들은 종종 인권 및 시민 자유와 관련된 공개 성명과 내부 정책을 실천하지 못합니다 — 예시는 EFF와 기타 단체에서 확인할 수 있습니다. 정부의 압력이 기업이 이러한 약속을 타협하도록 만드는 또 다른 이유가 되어서는 안 됩니다.

Anthropic의 기업 고객, 일반 대중, 그리고 제품을 만드는 엔지니어들은 회사가 확고히 입장을 고수하기를 기대하고 있습니다. 모든 기술 기업은 감시 도구가 되는 것을 거부하는 것이 최선의 방책일 것입니다.