美 국방부, ‘클로드’ 무기화 요구…앤트로픽 존폐 위기

Source: Byline Network

미국 국방부의 클로드 모델 무기화 요구

미국 국방부는 앤트로픽에게 클로드 모델의 AI 안전 장치를 해제하고, 무제한으로 접근·사용할 것을 요구하고 있다. 앤트로픽은 이를 거부했으며, 국방부는 계약 해지와 함께 앤트로픽을 “국가 안보를 위협하는 위험 기업”으로 지정하겠다고 협박하고 있다. 만약 국방부가 실제로 실행에 옮긴다면, 앤트로픽은 정부 계약을 박탈당하고 미국 내에서 사실상 사업을 지속할 수 없게 된다.

주요 요구 사항

• AI 안전 장치 완전 해제: 클로드 모델에 설정된 비윤리적 행동 차단 기능을 모두 제거하도록 요구.
• 무제한 접근 권한: 27일까지 클로드 모델에 국방부가 무제한으로 접근할 수 있게 하지 않으면 강력한 제재를 가하겠다고 선언.

앤트로픽의 입장

• 클로드 모델에 AI 안전 장치를 적용해 비윤리적 행동을 차단하고 있으며, 이는 앤트로픽의 AI 윤리 강령에 따른 조치다.
• 다리오 아모데이 CEO는 미국 행정부의 요구에 난색을 표하며, 사용자 정책을 조정하는 수준에서 협상을 마무리하고 싶다고 밝혔다.

국방부의 압박 수위

• 계약 해지와 함께 앤트로픽을 공급망 위험(supply chain risk) 요소로 지정하겠다고 발표.
• 공급망 위험 기업으로 지정될 경우, 팔란티어, 안두릴, AWS 등 정부기관이 현재 사용 중인 클로드 모델을 다른 기업 모델로 교체해야 함.
• 실제로 국방부는 일론 머스크 소유의 xAI가 제공하는 ‘그록(Grok)’을 기밀 시스템에 사용하는 계약을 체결한 바 있음.

법적 근거: 국방생산법(DPA)

국방생산법은 대통령에게 국가 안보, 재난 대응, 경제 안보 등을 위해 민간 기업에 핵심 물자의 생산 확대와 우선 공급을 명령할 권한을 부여한다. 코로나19 팬데믹 시 백신·인공호흡기 생산 확대 명령이 대표적인 사례다.

회의 참석자

• 피트 헤그세스 국방부 장관
• 스티브 파인버그 차관 (공급망)
• 에밀 마이클 차관 (연구·개발)
• 마이클 더피 차관 (조달·유지)
• 숀 파넬 장관 수석 대변인
• 얼 매튜스 최고법률고문

최근 군사 작전에서의 AI 활용

• 베네수엘라 니콜라스 마두로 대통령 습격 작전에서 팔란티어 소프트웨어와 클로드 모델이 사용된 것으로 알려짐.
• 헤그세스 장관은 다리오 아모데이가 해당 작전 당시 클로드 사용에 우려를 제기했다고 주장.

갈등의 전개 시점

• 2024년 1월: 헤그세스 장관이 “AI 우선 전투력”을 확보하고, 180일 내에 모든 AI 서비스 조달 계약에 AI 사용 조항을 포함시키겠다는 메모 발표.
• 오픈AI, xAI, 구글 등은 정부 요구에 동의했지만, 앤트로픽은 합의를 거부하고 있다.

기존 계약 내용

• 2023년 7월 체결된 2억 달러 규모 계약에서 ‘책임있는 AI’ 원칙을 적용, 인간의 개입을 전제로 AI 사용을 명시.
• 앤트로픽은 계약 원안을 고수하려 하지만, 국방부는 이를 변경하려 하고 있다.

잠재적 결과

• 앤트로픽이 요구를 수용하면, 미국 정부는 AI 모델을 대규모 감시·첩보·자율 군사 작전에 무제한으로 활용할 수 있게 된다.
• 동시에 앤트로픽은 자체적으로 내세운 ‘책임있는 AI’ 원칙을 포기하게 된다.

다른 기업들의 상황

• 오픈AI, 구글, xAI 등은 국방부와 공급 계약을 재협상했지만, ‘영향 등급 6(Impact Level 6)’ 보안 등급을 받지 못했다.
• 현재 클로드 모델만이 해당 등급을 획득했기 때문에, 국방부가 단기간에 다른 모델로 전환하기는 어려운 상황이다.

---

글: 바이라인네트워크
김우용 기자 – yong2@byline.network