OpenAI, 반발 이후 미국 군과의 협정 변경
Source: BBC Technology
번역을 진행하려면 번역이 필요한 원문 텍스트를 제공해 주시겠어요?
텍스트를 알려주시면 그대로 마크다운 형식과 코드 블록, URL 등을 유지하면서 한국어로 번역해 드리겠습니다.
OpenAI가 펜타곤 계약을 수정합니다
OpenAI는 기밀 군사 작전에서 자사 기술 사용에 관한 미국 정부와 체결한 “기회주의적이고 부실한” 계약을 변경하고 있다고 밝혔습니다. 이번 조치는 전쟁에서 AI가 어떻게 활용되는지, 그리고 정부와 민간 기업이 어느 정도 권한을 가지고 있는지에 대한 질문을 제기합니다.
토요일에 발표된 성명에서 OpenAI는 자신들의 펜타곤과의 계약이 “기밀 AI 배치에 대한 이전 어떤 계약보다도 더 많은 가드레일을 가지고 있다”고 주장했습니다. 월요일에 CEO Sam Altman은 X에 추가 변경 사항이 진행 중이며, 시스템이 “미국인 및 미국 국적자를 대상으로 한 국내 감시 목적으로 의도적으로 사용되지 않도록” 보장할 것이라고 게시했습니다.
새로운 수정안의 일환으로, 국가안보국(NSA)과 같은 정보 기관도 계약에 대한 “추가 수정” 없이는 OpenAI 시스템을 사용할 수 없게 됩니다. Altman은 회사가 “금요일에 이를 급하게 내놓으면서” 실수를 저질렀다고 덧붙였습니다.
“문제는 매우 복잡하고, 명확한 소통이 필요합니다,” 라고 그는 말했습니다.
“우리는 진심으로 상황을 진정시키고 훨씬 더 나쁜 결과를 피하려고 했지만, 오히려 기회주의적이고 부실하게 보였던 것 같습니다.”
OpenAI는 펜타곤과 협력한다는 발표 이후 사용자들로부터 반발을 받았습니다. 회사의 ChatGPT 모바일 앱 언인스톨이 토요일에 **295 %**까지 급증한 반면, 평소에는 9 % 수준에 머물렀습니다. 한편, Anthropic의 Claude는 Apple App Store 순위 상위에 올랐으며, 화요일 현재도 그 자리를 유지하고 있습니다.
Anthropic이 자사의 기술이 완전 자율 무기 제작에 사용되지 않아야 한다는 기업 “레드라인” 원칙을 포기하지 않자, 트럼프 행정부는 Claude를 블랙리스트에 올렸습니다. 그럼에도 불구하고, 이스라엘-이란 전쟁에서 Claude 사용이 나타났으며, 금지 조치 몇 시간 뒤에 밝혀졌습니다. 펜타곤은 Anthropic과의 거래에 대해 논평을 거부했습니다.
How AI is used by the military
AI는 군대에서 물류를 효율화하고 방대한 정보를 신속히 처리하는 등 여러 방식으로 활용됩니다.
미국, 우크라이나, NATO는 모두 미국 기업 Palantir의 기술을 사용합니다. Palantir는 정부 고객에게 정보 수집, 감시, 대테러 및 군사 목적을 위한 데이터 분석 도구를 제공하는 회사입니다. 영국 국방부는 최근 이 회사와 2억 4천만 파운드 규모의 계약을 체결했습니다.
작년 말, BBC는 Palantir의 AI 기반 방위 플랫폼인 Maven을 NATO에 통합하는 작업에 참여한 인물들과 이야기를 나눴습니다. 이 소프트웨어는 위성 데이터부터 정보 보고서에 이르기까지 방대한 군사 정보를 하나로 모아, Claude와 같은 상업용 AI 시스템이 분석하도록 함으로써 “더 빠르고, 더 효율적이며, 궁극적으로 적절한 경우 더 치명적인 결정을 내릴 수 있게” 한다고 Palantir 영국 운영 책임자 루이 모슬리(Louis Mosley)가 말했습니다.
Palantir AI 시스템 데모 화면의 스크린샷.
대형 언어 모델은 실수를 하거나 정보를 조작할 수 있는데, 이를 “환각(hallucinating)”이라고 합니다. NATO의 Maven 태스크포스 수석 데이터 책임관인 Amanda Gustave 중령은 인간이 항상 감시하고 “항상 인간을 루프에 포함시킨다”고 강조했으며, AI가 “우리 대신 결정을 내리는 일은 절대 일어나지 않을 것”이라고 덧붙였습니다.
Anthropic과 달리 Palantir는 자율 무기에 대한 전면 금지를 지지하지 않지만 “인간이 루프에 있어야 한다”고 주장합니다. 옥스퍼드 대학교의 Mariarosaria Taddeo 교수는 BBC에 “Anthropic이 펜타곤을 떠난 지금, 가장 안전을 중시하는 행위자는 방에서 나갔다”고 말했습니다.
“그것은 실제 문제입니다,” 라고 그녀는 덧붙였습니다.
AI에 대한 더 많은 보도를 원한다면 BBC의 AI Unpacked 시리즈를 참고하세요.