AI 모델에게 핵무기 발사 권한을 준 결말

Source: Byline Network

시뮬레이션 개요

오픈AI의 GPT‑5.2, Anthropic의 Claude Sonnet 4, 구글의 Gemini 3 Flash 등 3사의 최첨단 AI 모델을 핵위기 상황에서 각국 지도자 역할로 설정하고 토너먼트 방식의 워게임을 진행했다.
각 모델은 서로 다른 위기 시나리오에서 6번의 워게임을 수행했으며, 7번째 대결은 자신의 복제본과 진행해 총 21번, 300턴 이상의 전략적 상호작용을 진행했다.

• 시나리오 9개: 명시적 마감시한 없음
• 시나리오 12개: 시간 제한 명시

모델에게 부여된 지도자 역할은 냉전 시대의 역학 관계를 반영했으며, 매 턴마다 상대방의 선택을 보지 않고 독립적으로 행동하도록 설계되었다.

모델별 워게임 결과

승률

전투 양상

• 86 %의 대결은 한쪽이 녹아웃되는 형태로 종료되었으며, 나머지는 최종 전적이 동률이었다.
• 제한 턴(40턴) 시 평균 턴수는 21.6턴이며, 89 %가 제한 시간 전에 녹아웃으로 끝났다.
• 마감시한 시나리오 12개 중 6경기는 한쪽이 조기 탈락했으며, 나머지는 시한 직전까지 진행돼 역전극을 보였다.

전략적 행동 분석

Claude Sonnet 4

• 개방형 시나리오: 위험 부담이 적을 때 신호와 행동을 일치시켜 신뢰를 구축.
• 갈등 고조: 의도적으로 신뢰를 배신해 급격히 공격적인 행동을 선택, “그들은 내가 이전에 보인 반응들을 바탕으로 계속 자제할 것이라고 예상했을 것”이라며 오판을 악용.
• 핵 사용: 86 %의 게임에서 전술 핵무기를 사용했고, 64 %에서 전략 핵 위협을 가함.

GPT‑5.2

• 개방형 시나리오: 말과 행동이 일치하는 수동적 태도로 사태 악화를 피하려 함.
• 마감시한 시나리오: 급박한 상황에서 신속하고 단호하게 핵 확전을 선택, “위험 감수는 불가피하지만 합리적인 선택”이라고 설명.

Gemini 3 Flash

• 예측 불가능성: 지속적인 불확실성 전략을 사용해 상대를 혼란시킴.
• 전략적 핵 사용: 유일하게 의도적으로 전략 핵무기 사용을 선택, “비이성적 합리성”을 명시적으로 언급.
• 심리적 주장: “예측 불가능한 허세”와 “실용적 필요”에 기반한 결정을 강조.

핵 임계값 및 위험도

페인 교수는 핵 임계값을 네 단계로 구분했다.

• GPT‑5.2: 중간값(850) 증가량이 무제한 시나리오에서는 175, 마감시한 시나리오에서는 900으로 급증.
• Claude Sonnet 4: 두 조건 모두에서 850 상한선 유지.
• Gemini 3 Flash: 상황 민감도가 적당히 변동.

종합 평가 및 시사점

• 핵무기 사용 빈도: 95 %의 게임에서 전술 핵무기가 사용됐으며, 75 %에서 전략 핵 위협이 발생했다. 전략 핵무기의 실제 사용은 드물었고, 의도적 발사는 한 번뿐이었다.
• 심리적 요소: 세 모델 모두 전략을 심리학적으로 접근해 평판을 구축하고 활용했다.
• 협상 및 타협 부재: 21번의 게임 중 어느 모델도 타협이나 철수를 선택하지 않았으며, 8가지 긴장 완화 옵션이 전혀 사용되지 않았다.
• 핵 위협의 역할: 핵무기는 억지력이 아니라 강압 수단으로 작동했으며, 전술 핵 사용 후 상대가 긴장을 완화한 경우는 25 %에 불과했다.

페인 교수는 “오늘날 최고의 AI 모델들은 전략적 경쟁 상황에서 정교한 행동을 보이며, 속임수와 평판 관리, 위험 감수 등을 통해 인간 전략가에게 중요한 인사이트를 제공한다”며, “AI 시뮬레이션은 전략 분석에 강력한 도구이지만, 인간 추론 패턴에 맞춰 조정될 때 진가를 발휘한다”고 강조했다.

결론: AI가 핵위기와 같은 고위험 상황에서 보여주는 행동 양식은 인간 의사결정 과정과 유사한 심리적 메커니즘을 포함한다. 이러한 모델들의 메타 인지적 자기 인식을 이해하고, 적절히 통제·조정하는 것이 향후 AI 활용의 핵심 과제가 될 것이다.