Pete Hegseth, Anthropic에게 DoD 요구에 따르라, 그렇지 않으면

Source: Ars Technica

Background

국방 생산법(DPA)은 행정부에 국가 방위를 위해 “재료, 서비스 및 시설을 할당”할 수 있는 권한을 부여합니다. 트럼프와 바이든 행정부 모두 코로나19 팬데믹 동안 의료용품 부족을 해결하기 위해 DPA를 활용했으며, 트럼프 행정부는 또한 중요한 광물의 미국 생산을 늘리도록 명령하는 데 이 법을 사용했습니다.

Pentagon AI Strategy

펜타곤은 AI 기술의 개방형 사용을 옹호하며, 위협에 대응하고 군사 작전을 수행하기 위해 사용할 수 있는 도구의 범위를 확대하려 하고 있습니다. 국방부는 지난달 AI 전략을 발표했으며, 피트 헤그세스(Pete Hegseth)는 메모에서 다음과 같이 밝혔습니다:

“AI‑지원 전쟁 및 AI‑지원 역량 개발은 향후 10년 동안 군사 사안의 성격을 재정의할 것입니다.”

헤그세스는 미국 군대가 “외국 적보다 앞서 나가” 병사들을 “보다 치명적이고 효율적으로” 만들 필요가 있으며, AI 경쟁은 민간 부문에서 나오는 혁신의 가속화된 속도에 의해 “촉진되고 있다”고 덧붙였습니다.

Anthropic’s Concerns

Anthropic은 인간이 개입하지 않는 치명적인 임무에 자사의 모델이 사용되는 것에 대해 특별히 우려를 표명했으며, 최신 AI 모델이 그러한 상황에서 신뢰할 만큼 충분히 안정적이지 않다고 주장했습니다(협상에 정통한 관계자에 따르면). 또한 이 회사는 기존 규제 하에서 현재 합법적인 경우에도 대규모 국내 감시를 위해 AI 모델 사용을 규제하는 새로운 규칙을 요구하고 있습니다.

Potential Impact of Exclusion

Anthropic을 국방부 공급망에서 제외하는 결정은 국가 안보 업무와, 국방부와 2억 달러 규모의 계약을 체결하고 있는 해당 기업에 중대한 영향을 미칠 것입니다. 이 조치는 Anthropic의 모델을 활용하는 파트너, 예를 들어 Palantir와 같은 기업에도 영향을 미칩니다.

Recent Incident Involving Claude

Claude는 1월 베네수엘라 지도자 니콜라스 마두로(Nicolás Maduro)를 체포하는 미국 작전에서 사용되었습니다. 이 작전은 Anthropic에게 모델이 정확히 어떤 방식으로 사용되었는지에 대한 문의를 촉발했으며(해당 사안을 잘 아는 관계자에 따르면).

Reactions

화요일 회의에 대해 알고 있는 한 관계자는 Anthropic 공동 설립자인 다리오 아모데이(Dario Amodei)가 헤그세스에게 자사의 회사가 정당한 군사 작전에 대해 절대 이의를 제기한 적이 없다고 강조했다고 전했습니다. 국방부는 이에 대해 논평을 거부했습니다.