샘 알트먼, X.com에서 펜타곤 딜과 Anthropic에 대한 위협에 관한 질문에 답변
Source: Slashdot
배경
토요일 오후에 Sam Altman은 X.com에서 OpenAI가 미국 국방부와 진행하고 있는 작업 및 지난 며칠간의 전개에 관한 질문에 답변을 시작하겠다고 발표했습니다.
- 국방부와 Anthropic 간의 협상이 결렬된 후, 해당 기관은 Anthropic의 기술 사용을 중단하겠다고 발표했으며 Anthropic을 “Supply‑Chain Risk to National Security.”(국가 안보에 대한 공급망 위험)으로 지정하겠다고 위협했습니다.
- 그 후 국방부는 OpenAI와 협상을 체결했습니다. Altman에 따르면, 이 협정에는 OpenAI 제품을 국내 대규모 감시에 사용하는 것을 금지하는 자체 규정이 포함되어 있으며, 자율 무기 시스템에서 힘을 사용할 때 “human responsibility”(인간의 책임)를 요구합니다.
Sam Altman의 발언
“Anthropic에 Supply‑Chain Risk 지정을 부과하는 것은 우리 산업, 우리 국가, 그리고 당연히 그들의 회사에 매우 나쁠 것입니다. 우리는 전후로 이를 전쟁부에 말했습니다. 우리가 신속히 움직이려 했던 이유 중 하나는 de‑escalation(긴장 완화)의 희망이었기 때문입니다…
우리는 모두 선례에 대해 매우 신경 써야 합니다. 아주 명확히 말하자면: 나는 이것이 전쟁부의 매우 나쁜 결정이라고 생각하며, 그들이 이를 뒤집기를 바랍니다. 우리가 강하게 비판해서 비난을 받는다면, 그럴 수밖에 없습니다.”
“오랫동안 OpenAI는 비밀이 아닌 작업만 수행할 계획이었지만, 이번 주에 우리는 전쟁부가 우리에게 필요한 것에 대해 유연하다는 것을 알게 되었습니다.”
Sam Altman: “서두르는 이유는 상황을 완화하려는 시도입니다. 현재 진행 방향은 Anthropic, 건전한 경쟁, 그리고 미국에 위험합니다. 우리는 모든 다른 AI 연구소에도 유사한 조건이 제공되도록 협상했습니다.”
“나는 궁지에 몰린 느낌이 어떤지 압니다, 그리고 전쟁부에 약간의 공감이 필요하다고 생각합니다. 그들은 매우 중요한 사명을 가진 헌신적인 집단입니다. 나는 그들의 일을 상상할 수 없습니다. 우리 산업은 그들에게 ‘우리가 만들고 있는 기술은 지정학적 갈등에서 고차 비트가 될 것입니다. 중국은 앞서 나가고 있습니다. 당신은 크게 뒤처져 있습니다.’라고 말합니다. 그리고 우리는 ‘하지만 우리는 당신을 돕지 않을 것이며, 당신은 다소 악하다고 생각합니다.’라고 말합니다. 나는 그런 상황에서 잘 반응하지 못할 것이라고 생각합니다. 나는 사기업의 비선출 리더가 우리 민주적으로 선출된 정부만큼의 권력을 가져서는 안 된다고 믿습니다. 하지만 우리는 그들을 도와야 한다고 생각합니다.”
Q&A (샘 올트먼 답변)
| 질문 | 답변 |
|---|---|
| 법적으로 옳은지 여부에 대한 잠재적인 분쟁이 나중에 발생하고, 공급망 위험으로 간주될 가능성이 있을 때 상황이 크게 악화될까 걱정하십니까? | “네, 걱정합니다. 그 싸움을 해야 한다면 우리는 할 것이지만, 분명히 우리에게 어느 정도 위험을 노출시킵니다. 저는 이것이 해결될 것이라고 여전히 매우 희망하고 있으며, 우리가 신속히 행동하려 했던 이유 중 하나는 그 가능성을 높이기 위해서였습니다.” |
| 거래 서명을 서두른 이유는 무엇인가요? 분명히 외관이 좋지 않네요. | “확실히 서두른 것이고, 외관도 좋지 않습니다. 우리는 정말로 상황을 완화하고 싶었고, 제시된 거래가 좋다고 생각했습니다. 만약 우리가 옳고 이 거래가 국방부와 산업계 사이의 완화를 이끈다면, 우리는 천재처럼 보일 것입니다—산업을 돕기 위해 많은 고통을 감수한 회사로. 그렇지 않다면 우리는 계속해서 서두르고 부주의하다고 평가될 것입니다. 어디로 향할지는 모르지만, 이미 유망한 신호들을 보고 있습니다. 앞으로 몇 년 동안 정부와 이 기술을 개발하는 기업들 간의 좋은 관계는 매우 중요합니다.” |
| 왜 국방부가 OpenAI는 받아들였지만 Anthropic은 받아들이지 않았다고 생각하시는지 핵심 차이는 무엇인가요? | “우리는 안전을 위한 계층적 접근 방식을 믿습니다—안전 스택을 구축하고, FDE(임베디드 전방 배치 엔지니어)를 배치하며, 안전 및 정렬 연구원을 참여시키고, 클라우드를 통해 배포하고, 국방부와 직접 협력합니다. Anthropic은 계약서에 명시된 특정 금지 조항에 더 집중한 반면, 우리는 적용 가능한 법률을 인용하는 쪽에 더 편안함을 느꼈습니다. 안전한 시스템을 구축하는 것이 매우 중요하고, 문서도 중요하지만, 하나만 골라야 한다면 저는 명백히 기술적 안전장치를 더 선호합니다.” |
| 귀하가 수락한 조건이 Anthropic이 거부한 것과 동일했나요? | “아니요, 몇 가지 다른 조건이 있었습니다. 하지만 우리 조건은 그들이 원한다면 (그리고 다른 기업들도) 이제 제공될 수 있습니다.” |
| 그들이 규칙을 위반하면 도구를 끌 건가요? | “네, 그 매우 드문 경우라면 우리는 도구를 끌 것입니다. 하지만 우리는 미국 정부가 법과 정책을 최선으로 따르는 기관이라고 믿습니다. 우리가 하지 않을 것은 특정(법적 군사) 결정에 동의하지 않는다며 도구를 끄는 것입니다. 우리는 그들의 권한을 신뢰합니다.” |
| 직원들이 국방부 관련 프로젝트에서 참여를 거부할 수 있나요? | “직원들이 원하지 않을 경우, 우리는 그들에게 국방부 관련 프로젝트를 지원하도록 요구하지 않을 것입니다.” |
| 거래 규모는 얼마인가요? | “수백만 달러 수준으로, 우리 200억 달러 이상의 매출에 비하면 전혀 의미가 없습니다. PR 사고 비용보다도 훨씬 작습니다. 우리는 국가를 위해 옳은 일을 하기 위해, 우리에게 큰 비용을 감수하면서도 이 거래를 진행하고 있습니다. 매출 영향 때문이 아니라는 점을 강조하고 싶습니다.” |
| Anthropic이 ‘민주적 가치에 대한 위협’이라고 부른 것을 서명하게 만든 OpenAI의 구체적인 기술적 안전장치를 명시해 주실 수 있나요? | “우리가 체결한 거래는 …” (답변이 원본 자료에서 잘려 있습니다) |
추가 의견
인터뷰에는 OpenAI 국가 안보 파트너십 책임자의 의견도 포함되었습니다(이전에는 스노든 공개에 대한 백악관 대응을 관리하고 오바마 행정부 시절 스노든 이후 감시 정책을 작성하는 데 도움을 주었습니다).
“OpenAI와 국방부와의 계약으로, 우리는 모델을 어떻게 훈련시키고 모델이 어떤 유형의 요청을 거부할지 제어합니다.”
기밀 AI 배포 – 계약상의 보호조치 vs. 정책
우리의 이전 기밀 AI 배포 계약(Anthropic 포함)에서는 중요한 문제가 강조되었습니다. 많은 AI 연구소(Anthropic 포함)가 안전 가드레일을 축소하거나 제거하고, 이제는 국가 안보 상황에서 유일한 방어 수단으로 사용 정책에만 의존하고 있다는 점입니다.
사용 정책 만으로는 안전을 보장할 수 없습니다. 기밀 환경에서 AI를 책임감 있게 배포하려면 다계층 보호조치가 필요합니다. 예를 들어:
- 신중한 안전 스택
- 배포 아키텍처에 대한 제한
- 중대한 사용 사례에 AI 전문가 직접 참여
이러한 내용이 우리 계약에 포함되었습니다.
OpenAI의 입장 (LinkedIn에 공유)
배포 아키텍처가 계약 언어보다 더 중요합니다.
우리 계약은 배포를 클라우드 API로 제한합니다. 자율 시스템은 엣지에서 추론이 필요합니다. 배포를 클라우드 API로 제한함으로써 모델이 무기 시스템, 센서 또는 기타 운영 하드웨어에 직접 통합되는 것을 방지할 수 있습니다…
왜 계약상의 유연성이 정적인 언어보다 우수한가
계약 언어만으로 충분하길 기대하기보다, 우리 계약은:
- 현장 엔지니어를 파견할 수 있게 합니다.
- 파트너가 모델 사용 현황을 우리에게 투명하게 제공하도록 약속합니다.
- 시간이 지남에 따라 안전 보호조치를 반복적으로 개선할 수 있는 능력을 부여합니다.
우리 팀이 모델이 거부해야 할 질의에 대해 거부하지 않거나, 운영 위험이 기대치를 초과한다는 것을 관찰하면, 계약에 따라 우리 재량으로 수정할 수 있습니다. 이는 정적인 조항이 제공할 수 있는 것보다 결과에 대한 훨씬 큰 영향력(그리고 잠재적 악용에 대한 통찰)을 제공합니다.
법적 제약
미국 법률은 이미 최악의 결과를 제한하고 있습니다. 우리는 부서가 제안한 “모든 합법적 사용” 문구를 수용했지만, 감시와 자율성을 제한하는 법률을 계약서에 직접 정의하도록 요구했습니다. 법률은 변할 수 있기 때문에, 이러한 정의를 계약에 명시해 두면 예상치 못한 법적·정책적 변화로부터 우리를 보호할 수 있습니다.
이 이야기에 대한 자세한 내용은 Slashdot에서 확인하세요.