OpenAI의 Sam Altman, ‘기술적 안전장치’를 포함한 Pentagon 계약 발표

Source: TechCrunch

위의 링크에 있는 전체 텍스트를 제공해 주시면, 해당 내용을 한국어로 번역해 드리겠습니다. 코드 블록이나 URL은 그대로 유지하고, 마크다운 형식과 기술 용어는 그대로 보존합니다. 텍스트를 복사해서 여기 붙여 주세요.

Background

OpenAI CEO Sam Altman은 금요일 늦은 시간에 자사의 AI 모델을 국방부의 기밀 네트워크에서 사용할 수 있도록 하는 계약에 합의했다고 발표했습니다.

펜타곤은 이전에 Anthropic을 포함한 AI 기업들에게 “모든 합법적인 목적”을 위해 모델을 사용하도록 압박했습니다.¹ Anthropic은 대규모 국내 감시와 완전 자율 무기에 대해 선을 그으려 했습니다.

목요일에 발표된 장문의 성명에서 Anthropic CEO Dario Amodei는 회사가 “특정 군사 작전에 대해 이의를 제기한 적도 없으며, 임시 방식으로 기술 사용을 제한하려 시도한 적도 없다”고 말했지만, “극히 제한된 경우에 AI가 민주적 가치를 방어하기보다 훼손할 수 있다고 믿는다”고 주장했습니다.²

이번 주에 60명 이상의 OpenAI 직원과 300명의 Google 직원이 공개 서한에 서명해 고용주에게 Anthropic의 입장을 지지해 달라고 요청했습니다.³

Anthropic과 펜타곤이 합의에 이르지 못한 뒤, 전 대통령 Donald Trump는 “Anthropic의 좌파 광신자들”을 비난하는 소셜 미디어 게시물을 올렸으며, 연방 기관들에게 6개월 단계적 폐지 기간 후에 해당 회사의 제품 사용을 중단하라고 지시했습니다.⁴

국방부 장관 Pete Hegseth는 이후 Anthropic이 “미국 군대의 운영 결정에 대한 거부권을 장악하려 한다”고 주장하며 Anthropic을 공급망 위험으로 지정하고 다음과 같이 선언했습니다:

“즉시 발효, 미국 군대와 거래하는 모든 계약자, 공급업체, 파트너는 Anthropic과 어떠한 상업 활동도 할 수 없습니다.”⁵

Anthropic은 “전쟁부나 백악관으로부터 협상 현황에 대한 직접적인 통지를 아직 받지 못했다”고 답변했으며, “공급망 위험 지정에 대해서는 법원에 도전할 것”이라고 강조했습니다.⁶

Source: …

OpenAI 펜타곤 계약

Altman은 X에 올린 글에서 OpenAI의 새로운 방위 계약이 Anthropic에서 논쟁이 되었던 동일한 문제들을 다루는 보호 조항을 포함하고 있다고 밝혔습니다. 그는 두 가지 안전 원칙을 강조했습니다:

1. 국내 대량 감시 금지
2. 자율 무기 시스템을 포함한 무력 사용에 대한 인간 책임

Altman은 국방부(DoW)가 이 원칙들에 동의하며 이를 법과 정책에 반영하고, OpenAI가 “우리 모델이 제 역할을 하도록 기술적 안전 장치를 구축할 것”이라고 말했습니다. 엔지니어들이 펜타곤에 파견되어 모델 안전성을 지원할 예정입니다.

“우리는 DoW가 모든 AI 기업에게 동일한 조건을 제시하도록 요청하고 있으며, 이는 우리 의견으로는 모두가 받아들여야 할 사항이라고 생각합니다.”

Fortune의 Sharon Goldman은 Altman이 전 직원 회의에서 정부가 회사가 자체 “안전 스택”을 구축해 오용을 방지하도록 허용할 것이며, “모델이 작업을 거부하면 정부가 OpenAI에게 그 작업을 강제로 수행하도록 요구하지 않을 것”이라고 말했다고 보도했습니다.⁷

반응

• Anthropic: 공급망 위험 지정에 대한 법원 도전을 계속 추구하고 있으며, DoW 또는 백악관으로부터 직접적인 소통을 받지 못했습니다.
• OpenAI staff: 상당수 직원이 Anthropic의 입장을 지지하는 공개 서한에 서명했으며, 이는 펜타곤 계약에 대한 내부 우려를 나타냅니다.
• Political figures: 전 대통령 트럼프는 공개적으로 Anthropic을 비난하고 연방 기관에서의 사용 중단을 요구했습니다.

참고 문헌

Footnotes

1. “펜타곤은 Anthropic을 포함한 AI 기업들에게 그들의 모델을 ‘모든 합법적인 목적’에 사용할 수 있도록 압박하고 있다.” – TechCrunch ↩

2. Anthropic 성명 – Anthropic News ↩

3. OpenAI와 Google 직원들이 서명한 공개 서한 – TechCrunch ↩

4. 트럼프의 소셜 미디어 게시물 – TechCrunch ↩

5. Hegseth의 공급망 위험에 대한 성명 – X post ↩

6. Anthropic의 대응 – Anthropic News ↩

7. Sharon Goldman의 Fortune 보고서 – X post ↩