미국의 이란 공격에 앤트로픽 AI 쓰였다

Source: Byline Network

클로드의 군사 활용

앤트로픽이 자사 AI 모델의 무제한적 군사 활용을 반대했음에도 앤트로픽의 대형언어모델(LLM) ‘클로드’가 미군의 이란 공격에서 핵심적인 역할을 수행한 것으로 전해졌다. 트럼프 행정부는 앞서 앤트로픽과의 갈등으로 행정부 내에서 클로드 사용을 전면 금지한 바 있는데, 불과 수 시간 만에 미군이 클로드를 실전에 투입했다.

복수의 외신 보도에 따르면, 미군은 이란 공습 첫날 24시간 안에 1,000여 개의 표적을 타격하기 위해 팔란티어의 ‘메이븐 스마트 시스템’을 활용했다. 이 시스템은 위성·감시·첩보 데이터를 실시간으로 분석해 타격 목표 제안, 정밀 좌표 산출, 목표물 우선순위 결정 등을 수행한다.

문제는 여기에 앤트로픽의 클로드가 내장돼 있다는 점이다. 지난 1년간 군 당국은 메이븐과 클로드의 결합을 군 전반의 일상 운용 도구로 발전시켜 온 것으로 전해졌다. 이번 이란 작전에서 두 시스템의 결합을 통해 수주가 걸리던 작전 계획을 실시간 운용으로 전환할 수 있었다.

앞서 앤트로픽과 국방부는 클로드의 군사 활용 범위를 놓고 갈등을 빚어왔다. 앤트로픽이 자국민 감시와 자율 무기 시스템에의 활용을 거부하자, 트럼프 대통령은 연방 기관의 클로드 사용 즉각 중단을 명령했고, 미 국방부는 앤트로픽을 ‘국가 안보에 대한 공급망 위험’으로 지정했다. 미국 기업에 이 조치가 적용된 것은 전례 없는 일이었다.

그러나 미 국방부는 당장 클로드 사용을 멈추진 않았다. 이미 군 전반에 걸쳐 클로드가 광범위하게 활용되고 있기 때문에 대안 없이 클로드를 폐기할 수 없는 것이다. 미 군 당국 관계자는 대체재가 마련될 때까지 정부 권한을 동원해 기술 사용을 유지할 것이라고 전했다.

AI 전쟁 윤리 논쟁 수면 위로

흥미로운 점은 앤트로픽이 반대한 것이 ‘전쟁 자체’가 아니라는 사실이다. 앤트로픽이 끝까지 거부한 것은 자국민 대상 대규모 감시와 완전 자율 살상 무기, 두 가지뿐이다. 표적을 선정하고 우선순위를 매기는 데 AI를 활용하는 것은 앤트로픽이 스스로 그은 레드라인 밖의 일이었다. 앤트로픽의 엄격한 정책도 이란 공습에서 클로드가 활용되는 것을 막을 수는 없었다.

그럼에도 전쟁에 AI를 활용하는 것에 대한 비판은 적지 않다. 구글, 오픈AI 등 빅테크 직원들 사이에서 군사 AI 활용에 명확한 한계를 요구하는 공개 서한이 잇따랐다. “We Will Not Be Divided”라는 제목의 서한에 오픈AI 직원 100명, 구글 직원 800명 가까이 참여했다. 이 서한은 자율 살상 무기와 자국민 감시에 AI가 사용되는 것을 거부해야 한다는 내용을 담고 있다.

하지만 오픈AI는 앤트로픽의 빈자리를 차지하기 위해 국방부와 계약을 맺었고, 일론 머스크의 xAI도 군 전용 기밀 전산망과 협약을 체결한 것으로 알려졌다.

일각에서는 AI를 전쟁에 활용하지 못하면 중국에 이익이 될 수 있다는 경고도 나온다. MIT 물리학자 출신으로 미래생명연구소를 이끄는 맥스 테그마크는 “기업의 자율규제는 작동하지 않는다. 모든 회사들이 자체적인 레드라인을 갖고 있지만, 결국 다 어긴다”라고 비판했다.