미국, AI 안전장치 논쟁에서 Anthropic에 마감일을 제시
Source: BBC Technology
Anthropic에 대한 위협
미국 국방부 장관 피트 헤그세스는 Anthropic이 인공지능(AI) 기술을 군사 분야 전반에 사용하도록 허용하지 않을 경우, 해당 회사를 국방부 공급망에서 제외하겠다고 선언했습니다. 한 고위 펜타곤 관계자는 Anthropic에게 부서의 요청을 따르기 위해 금요일 저녁까지 시간을 주었다고 전했습니다. 회사가 동의하지 않을 경우, 헤그세스 장관은 방위생산법(Defense Production Act)을 발동해 국가 안보 차원에서 펜타곤이 무제한으로 사용할 수 있도록 강제하고, 해당 회사를 공급망 위험 요소로 지정할 수 있다고 밝혔습니다.
Anthropic과의 논의
이 위협은 헤그세스 장관이 Anthropic CEO 다리오 아모데이와의 회의를 요구하면서 제기되었습니다. 회의에 대해 잘 알고 있는 소식통에 따르면, 분위기는 우호적이었지만 아모데이는 Anthropic의 ‘레드 라인’을 제시했습니다:
- 인간 개입 없이 AI가 최종 표적 결정을 내리는 자율적인 동역학 작전 참여.
- Anthropic 도구를 대규모 국내 감시 용도로 사용하는 것.
펜타곤 관계자는 현재 논쟁이 자율 무기나 대규모 감시와는 무관하다고 설명했습니다.
Anthropic의 입장
Anthropic은 “우리 모델이 신뢰할 수 있고 책임 있게 수행할 수 있는 범위 내에서 정부의 국가 안보 임무를 지원할 수 있도록 사용 정책에 대한 선의의 대화를 지속하고 있다”고 성명서에 밝혔습니다. 회사 대변인은 아모데이가 “부서의 업무에 감사를 표하고 장관의 봉사에 감사했다”고 회의 중에 전했다고 전했습니다.
펜타곤 계약을 체결한 다른 AI 기업들
Claude 챗봇을 만든 Anthropic은 지난해 여름 펜타곤과 계약을 체결한 네 개 AI 기업 중 하나였습니다. 다른 수혜자는 다음과 같습니다:
- OpenAI (ChatGPT 제작)
- xAI (엘론 머스크가 설립한 Grok 챗봇 기업)
각 계약은 최대 2억 달러(1억 4,800만 파운드) 규모였습니다.
안전 기록 및 논란
Anthropic은 안전 중심 AI 개발자로 자리매김하며 제품에 대한 안전 보고서를 정기적으로 공개합니다. 전년도 보고서에서는 해커들이 그들의 기술을 ‘무기화’해 정교한 사이버 공격에 활용한 사례가 있다고 인정했습니다.
또한, 미국 군이 1월에 베네수엘라 전 대통령 니콜라스 마두로를 체포한 작전에서 Claude를 사용했다는 보도가 나오면서 회사의 평판이 논란에 휩싸이기도 했습니다.
