아동 안전 청사진 소개
Source: OpenAI Blog
OpenAI는 시스템 오용을 방지하기 위한 보호 장치를 구축하고 지속적으로 강화해 왔으며, 국가 실종·착취 아동 센터(NCMEC) 및 법 집행 기관과 같은 파트너와 긴밀히 협력하여 탐지 및 보고를 개선하고 있습니다. 이 청사진은 그 협업에서 얻은 교훈을 정리하고, 업계 전반에 걸쳐 더 강력하고 공유된 표준이 필요한 영역을 제시합니다.
오늘 우리는 AI 시대에 미국 아동 보호 프레임워크를 강화하기 위한 실질적인 로드맵을 제시하는 정책 청사진을 공개합니다. 이 문서는 NCMEC, Attorney General Alliance(및 AI 태스크포스 공동 의장인 노스캐롤라이나 주 검찰총장 Jeff Jackson과 유타 주 검찰총장 Derek Brown)와 Thorn을 포함한 아동 안전 생태계의 주요 조직 및 전문가들의 피드백을 반영했습니다.
청사진 개요
청사진은 세 가지 핵심 우선순위에 초점을 맞춥니다:
- 법률 현대화: AI 생성 및 변형된 아동 성착취물(CSAM)을 다루기 위해.
- 제공자 보고 및 협조 개선: 보다 효과적인 조사 지원을 위해.
- 안전 설계 조치 구축: AI 시스템에 직접 통합하여 오용을 예방하고 탐지합니다.
단일 개입만으로는 이 문제를 해결할 수 없습니다. 이 프레임워크는 법적, 운영적, 기술적 접근을 결합하여 위험을 더 잘 식별하고, 대응을 가속화하며, 책임성을 지원합니다. 또한 기술이 발전함에 따라 집행 기관이 효과적으로 기능하도록 보장합니다.
이 단계들을 함께 수행함으로써 산업계는 아동 안전을 보다 조기에, 보다 효과적으로 다룰 수 있습니다. 착취 시도를 조기에 차단하고, 법 집행 기관에 전달되는 신호의 품질을 개선하며, 생태계 전반의 책임성을 강화함으로써, 프레임워크는 다음을 목표로 합니다:
- 발생하기 전에 피해를 예방합니다.
- 위험이 발생할 때 아동에게 더 빠른 보호를 제공합니다.
주요 우선순위 상세
1. AI 생성 CSAM에 대한 법률 현대화
- AI 생성 또는 변형된 이미지가 포함되도록 법정 정의를 업데이트합니다.
- 생성 AI 도구의 개발자 및 배포자를 위한 명확한 책임 기준을 마련합니다.
2. 보고 및 협조 강화
- AI 제공자를 위한 보고 형식 및 일정표준화.
- 법 집행기관 및 NCMEC와 실질적인 신호를 공유하기 위한 안전한 채널을 구축합니다.
3. 설계 단계에서 안전성 내재화
- 탐지, 거부 메커니즘, 인간 감독을 포함한 다층 방어 체계를 구현합니다.
- 새로운 악용 패턴에 맞춰 보호 조치를 지속적으로 조정합니다.
Stakeholder Statements
“Attorney General Alliance AI 태스크포스의 공동 의장으로서, 우리는 이 청사진을 기술 분야의 아동 안전 관행을 우리 사무실이 매일 마주하는 집행 현실과 맞추는 의미 있는 단계로 환영합니다. 특히 효과적인 GenAI 보호가 단일 기술 제어가 아니라 탐지, 거부 메커니즘, 인간 감독, 그리고 새로운 악용 패턴에 대한 지속적인 적응을 결합한 다층 방어가 필요하다는 프레임워크의 인식에 고무됩니다. 이는 실제 현장에서 우리가 보는 바와 일치합니다: 위협은 끊임없이 진화하고 정적인 솔루션은 충분하지 않습니다. 예방 아키텍처를 초기 단계에서 제대로 구축하는 것이 산업이 아동 안전을 위해 할 수 있는 가장 높은 레버리지를 가진 투자입니다. 궁극적으로 자발적 프레임워크의 강도는 그 약속의 구체성과 산업이 그에 대해 책임을 지려는 의지에 달려 있습니다. 우리는 OpenAI, NCMEC, 그리고 동료 검찰총장들과의 지속적인 파트너십을 기대하며, 이 권고안이 아동을 위한 지속 가능한 보호로 이어지길 바랍니다.”
— Jeff Jackson (North Carolina) & Derek Brown (Utah), Co‑Chairs, AI Task Force, Attorney General Alliance
“Attorney General Alliance는 검찰총장, 산업 리더, 비영리 단체, 그리고 글로벌 파트너를 모아 AI와 디지털 안전에 대한 실용적이고 미래지향적인 솔루션을 추진함으로써 온라인에서 청소년을 보호하는 데 앞장서고 있습니다. 협업과 혁신을 통해 AGA는 신기술을 책임감 있게 수용하면서 청소년을 보호하는 강력한 기준을 설정하고 있습니다. 우리는 OpenAI가 안전에 지속적으로 전념하고 AGA 및 검찰총장들과 협력해 아동 안전을 위한 매우 가치 있는 청사진을 개발한 점을 높이 평가합니다.”
— Karen White, Executive Director, Attorney General Alliance
“생성형 AI는 온라인 아동 성착취 범죄를 심각하게 가속화하고 있습니다—장벽을 낮추고 규모를 확대하며 새로운 형태의 피해를 가능하게 합니다. 그러나 동시에 National Center for Missing & Exploited Children (NCMEC)는 OpenAI와 같은 기업이 이러한 도구를 처음부터 책임감 있게 설계하고 보호 장치를 내재화하는 모습을 보게 되어 고무됩니다. 단일 조직, 기업 또는 부문만으로는 이 문제를 해결할 수 없습니다. 우리는 산업, 정부, 아동 보호 커뮤니티 전반의 파트너와 협력해 해를 줄이고 아동 안전을 더욱 잘 지원하는 솔루션을 추진하겠다는 약속을 유지합니다.”
— Michelle DeLaune, President & CEO, National Center for Missing & Exploited Children