보도에 따르면 국방부는 분류된 군사 데이터를 사용해 AI 모델을 훈련할 계획이다

Source: Engadget

배경

펜타곤은 AI 기업들이 기밀 정보를 사용해 군사용으로 특화된 모델 버전을 훈련시키도록 계획하고 있다고 MIT Technology Review 가 보도했습니다. 이는 국방부 장관 피트 헤그세스가 올해 초 발표한 인공지능 전략(Artificial Intelligence Strategy)에 명시된 미국의 “AI‑first” 전투력 목표와 일치합니다 (PDF).

AI의 현재 활용

국방부는 이미 운영에 AI 모델을 활용하고 있습니다. 예를 들어, 미국은 베네수엘라 대통령 니콜라스 마두로 체포 작전과 이란 공격 중에 Anthropic의 Claude를 사용했다고 보도되었습니다 (Engadget). 이는 대통령 명령으로 기술 사용이 금지된 상황에서도 이루어졌습니다.

기밀 데이터에 대한 교육 제안

MIT Technology Review는 펜타곤이 기밀 정부 프로젝트를 위한 인증된 보안 데이터 센터에서 훈련을 진행할 계획이라고 전했습니다. 주요 내용:

• 국방부는 AI 모델 복제본을 훈련시키며, 훈련 데이터에 대한 소유권을 전적으로 유지합니다.
• 드물게 AI 기업 직원에게 필요한 보안 인가를 부여해 기밀 정보에 접근할 수 있게 할 수도 있습니다.

위험 및 우려

구글 및 OpenAI 전 AI 정책 책임자 알룩 메타는 다음과 같은 위험을 강조했습니다:

• 훈련된 모델이 군사 전용이라고 하더라도, 하나의 모델을 국방부 전체에 배포하면 적절한 인가를 갖추지 않은 인원에게 기밀 정보가 노출될 가능성이 있습니다.

잠재적 공급업체

이 사업이 진행될 경우, 국방부는 다음 기업과 협력할 가능성이 높습니다:

• OpenAI – 최근 계약 상세 내용은 Engadget 에서 확인할 수 있습니다.
• xAI – 이미 기관과 협약을 체결했습니다.

오랜 기간 정부 파트너였던 Anthropic은 제외될 수 있습니다. 이 회사는 자사 기술이 대규모 감시나 자율 무기에 사용되는 것을 거부했으며, 전 대통령 트럼프는 연방 기관 전반에 걸쳐 Anthropic 서비스 사용을 금지하도록 명령했습니다 (Engadget).