전쟁부와의 우리 계약

Source: Hacker News

우리 계약에 포함되는 내용

1. 배포 아키텍처

   • 위 원칙을 포함한 안전 스택을 운영하는 클라우드‑전용 배포.
   • “가드레일 해제” 모델이나 안전 교육을 받지 않은 모델을 제공하지 않으며, 모델을 엣지 디바이스에 배포하지 않음(자율 살상 무기 구현 가능성 방지).
   • 이 아키텍처는 레드라인이 초과되지 않았음을 독립적으로 검증할 수 있게 하며, 분류기 실행 및 업데이트를 포함함.

2. 우리 계약 – 관련 조항

   국방부는 AI 시스템을 모든 합법적인 목적에 사용하되, 적용 가능한 법률, 운영 요구사항 및 잘 확립된 안전·감시 프로토콜에 일치하도록 사용할 수 있습니다. AI 시스템은 법률, 규정 또는 국방부 정책이 인간 통제를 요구하는 경우 자율 무기를 독립적으로 지시하는 데 사용되지 않으며, 동일한 권한 하에 인간 의사결정자의 승인이 필요한 다른 고위험 결정에도 사용되지 않습니다.

   DoD 지침 3000.09(2023년 1월 25일자)에 따라, 자율 및 반자율 시스템에 AI를 사용하는 경우 배포 전에 현실적인 환경에서 의도대로 작동함을 보장하기 위해 엄격한 검증, 검증 및 테스트를 거쳐야 합니다.

   정보 활동에 있어서는 사적 정보의 취급이 제4조 수정헌법, 1947년 국가안보법, 1978년 외국정보감시법, 행정명령 12333 및 정의된 외국‑정보 목적을 요구하는 관련 DoD 지침을 준수해야 합니다. AI 시스템은 이러한 권한에 일치하도록 미국 시민의 사적 정보를 무제한으로 감시하는 데 사용되지 않아야 합니다. 또한 시스템은 포세 코미타투스 법 및 기타 적용 법률이 허용하는 경우를 제외하고는 국내 법 집행 활동에 사용되지 않아야 합니다.

3. AI‑전문가 참여

   • 보안 승인을 받은, 전방 배치된 OpenAI 엔지니어가 정부를 지원합니다.
   • 보안 및 정렬 연구원도 계속해서 참여합니다.

FAQ

왜 이런 일을 하고 있나요?

• 미국 군은 적대 세력의 AI 통합 위협이 커지는 상황에서 임무를 지원할 강력한 AI 모델이 필요합니다.
• 우리는 안전 장치가 준비될 때까지 기밀 배치 계약을 연기했습니다.
• 국가 안보 작업을 위해 핵심 기술적 안전 장치를 제거하는 것을 거부합니다.
• 우리는 국방부와 미국 AI 연구소 간의 긴장을 완화하고 깊은 협력을 촉진하고자 합니다.
• 계약의 일환으로, 동일한 조건을 모든 AI 연구소에 제공하고 정부가 Anthropic과의 문제를 해결하도록 요구했습니다.

Anthropic이 못 잡은 계약을 여러분은 체결했나요? 그들이 원하지 않는 계약을 체결했나요?

• 우리의 계약은 Anthropic의 이전 계약보다 더 강력한 보증과 보다 책임감 있는 안전 장치를 제공합니다.
• 배포가 클라우드 전용이며, 안전 스택이 계속 활성화되고, 승인된 OpenAI 인력이 참여하기 때문에 레드라인이 더 강제 가능합니다.
• Anthropic이 유사한 계약을 체결하지 못한 이유는 알지 못합니다.

Anthropic을 “공급망 위험”으로 지정해야 하나요?

• 아니오. 우리는 이 입장을 정부에 명확히 전달했습니다.

이 계약이 국방부가 OpenAI 모델을 자율 무기에 활용하도록 허용하나요?

• 아니오. 안전 스택, 클라우드 전용 배포, 계약 조항 및 기존 법률이 이를 방지합니다. 추가적인 보증을 위해 OpenAI 인력이 계속 관여합니다.

이 계약이 국방부가 대규모 감시를 수행하도록 허용하나요?

• 아니오. 계약서에는 미국 시민의 개인 정보를 무제한으로 모니터링하는 것을 명시적으로 금지하고 있습니다. 모든 배포는 위에서 설명한 안전 장치의 적용을 받습니다.

이 계약이 미국 시민에게 영향을 미치나요?

• 아니오. 우리의 안전 스택, 계약 조항 및 기존 법률은 국방부가 국내 감시를 하는 것을 크게 제한합니다. 보증을 위해 OpenAI 인력이 계속 관여합니다.

안전 스택 없이 모델을 배포해야 하나요?

• 아니오. 우리는 안전 스택에 대한 완전한 통제권을 유지하며, 안전 가드레일 없이 배포하지 않을 것입니다. 안전 및 정렬 연구원들은 지속적으로 관여하고 시스템을 개선하는 데 도움을 줄 것입니다.

정부가 계약 조건을 위반하면 어떻게 되나요?

• 상대방이 계약을 위반할 경우 계약을 종료할 수 있습니다. 우리는 이런 일이 발생할 것으로 기대하지 않습니다.

정부가 법률이나 기존 국방부 정책을 변경하면 어떻게 되나요?

• 계약은 현재 존재하는 감시 및 자율 무기 관련 법률·정책을 현재 시점에 기준으로 명시합니다. 법률이나 정책이 변경되더라도, 우리 시스템의 사용은 계약에 반영된 현재 기준에 맞춰야 합니다.

레드라인 보호(Anthropic 입장과 비교)

Anthropic은 두 가지 레드라인(대규모 국내 감시와 완전 자율 무기)을 제시했습니다. 우리는 이를 공유하고 세 번째 레드라인—자동화된 고위험 의사결정—을 추가했습니다. 우리의 계약은 이러한 레드라인을 유지합니다:

• 대규모 국내 감시 – 국방부는 이를 불법으로 간주하며 해당 목적으로 사용하지 않을 것입니다; 계약서에 명시되어 있습니다.
• 완전 자율 무기 – 클라우드 전용 배포는 완전 자율 무기를 구동할 수 없게 하며, 이는 엣지 배포가 필요합니다.

이러한 보호 조치 외에도, 우리의 계약에는 안전 스택 및 OpenAI 기술 전문가가 관여하는 등 다층적인 안전 장치가 포함됩니다.