신뢰할 수 있는 AI 생태계 구축을 위한 유럽의 노력 지원
출처: OpenAI 블로그
사람들은 AI를 사용해 새로운 방식으로 콘텐츠를 만들고 편집하고 있습니다. 이러한 도구가 점점 더 강력해지고 널리 사용됨에 따라, 사람들은 온라인에서 보는 콘텐츠에 대한 맥락을 알 권리가 있습니다.
오늘, 유럽연합 집행위원회의 AI 생성 콘텐츠 투명성에 관한 실천 강령(새 창에서 열림) 발표에 맞춰 OpenAI는 해당 강령을 지지하고 그 배경에 있는 목표를 선언합니다. 이 강령은 EU AI 법안을 구현하고 보다 투명한 디지털 생태계를 구축하는 중요한 단계입니다.
우리의 지원은 수년간의 내부 연구, 제품 개발, 그리고 광범위한 생태계와의 협력을 바탕으로 AI 생성 콘텐츠의 출처 정보를 강화하는 데 기반합니다. OpenAI는 2024년부터 DALL‑E 3 이미지 생성 도구에 C2PA 메타데이터를 추가하면서 출처 표준을 개발·채택해 왔습니다. 그 이후로 우리는 표시 및 탐지 방법을 개선하고, 새로운 연구를 진행하며, 첫 공개 검증 도구를 출시함으로써 출처 정보를 더욱 강화해 왔습니다. 다년간의 전문성을 바탕으로 수백 명의 이해관계자와 함께 이 강령 개발에 기여해 신뢰할 수 있는 AI 생태계를 만들고자 했습니다.
이는 유럽에서의 AI 거버넌스에 대한 우리의 보다 넓은 접근 방식을 토대로 합니다. 2025년, OpenAI는 EU 일반 목적 AI 실천 강령(새 창에서 열림)에 서명한 최초의 미국 기업이 되었으며, 이는 명확하고 실현 가능한 규칙이 AI의 책임 있는 발전을 돕고 기업에게 지속적인 개발에 대한 확신을 제공한다는 우리의 믿음을 반영합니다. 우리는 같은 정신으로 이번 새로운 강령을 지원합니다. AI 생성 콘텐츠 투명성 향상은 가치 사슬 전반에 걸친 모든 주체의 기여가 필요한 생태계 차원의 노력입니다. EU AI 법과 강령은 이를 인식하고 있으며, 우리는 해당 제품에 적용되는 요구사항을 준수함으로써 우리 역할을 다하겠습니다.
출처 정보가 중요한 이유
AI 도구가 사람들의 창작, 상상, 공유 방식에 점점 더 깊숙이 들어가면서, 사람들은 콘텐츠가 어디서 왔는지 이해하고 자신 있게 해석할 수 있어야 합니다. 출처 신호는 콘텐츠의 출처, 제작·편집 방식, 그리고 그것이 주장하는 바와 일치하는지 여부에 대한 맥락을 제공함으로써 도움을 줍니다. 또한 출처 정보는 허위 정보 캠페인을 탐지하고 선거 무결성을 지원하는 데 기여함으로써 디지털 생태계를 보호하는 역할을 할 수 있습니다.
효과적이고 신뢰할 수 있으며 견고한 출처 방법은 공동으로 구축되어 생태계 전반에서 작동해야 합니다. 그래서 우리는 뉴스 조직, 디바이스 제조업체, 온라인 플랫폼, AI 제공업체 등이 모여 상호 운용 가능한 표준을 추진하는 C2PA와 같은 연합과 협력합니다. C2PA 메타데이터는 출처의 중요한 기반이며, 콘텐츠가 어디서 왔는지, 어떻게 제작·편집되었는지, 누가 해당 정보를 서명했는지를 담을 수 있게 합니다. 그러나 메타데이터는 완벽하지 않습니다. 업로드·다운로드 과정에서 사라지거나, 파일 형식 변환, 리사이징, 스크린샷 등 변형에 의해 손상될 수 있습니다.
OpenAI의 다층적 출처 접근 방식
출처 정보를 보다 회복력 있게 만들기 위해 OpenAI는 다양한 신호, 제품 보호 장치, 그리고 광범위한 생태계와의 협업을 결합한 다층적 접근 방식을 취하고 있습니다. 현재 진행 중인 작업은 다음과 같습니다.
- 이미지를 위한 C2PA 콘텐츠 자격 증명(새 창에서 열림): DALL·E 3가 ChatGPT와 OpenAI API에서 생성·편집한 이미지에 C2PA 메타데이터를 추가하기 시작했으며, 이후 OpenAI가 생성한 모든 이미지에 출처 신호를 확대 적용하고 있습니다.
- OpenAI 생성 이미지에 대한 다중 신호: ChatGPT, Codex, OpenAI API를 통해 만든 이미지는 C2PA 메타데이터와 SynthID 워터마크를 모두 포함합니다. 메타데이터는 보다 풍부한 정보를 담을 수 있고, 워터마크는 다양한 상황에서도 신호를 유지하는 데 도움이 됩니다.
- 공개 검증 경험: openai.com/verify에서 사용자는 지원되는 이미지에 OpenAI 생성 이미지와 연계된 출처 신호가 포함되어 있는지 확인할 수 있습니다.
- 오픈 표준 기여: 2024년 OpenAI는 소프트웨어 기업, 카메라 제조업체, 미디어 조직, 온라인 플랫폼 등이 참여하는 산업 간 협력체인 C2PA 운영 위원회에 합류했습니다.
- 제품 보호 장치: 출처 정보는 정책, 분류기, 신고 채널, 집행 절차와 결합되어 AI 생성 콘텐츠의 사기성 사용(예: 인물 이미지 도용, 선거 관련 사기)을 감소시키는 역할을 합니다.
실무에서 콘텐츠 투명성을 구현하기
출처 정보는 유용하지만 아직 초기 단계에 있습니다. 콘텐츠가 온라인을 오가면서 신호가 사라질 수 있습니다: 메타데이터는 제거될 수 있고, 워터마크는 퇴색될 수 있으며, 라벨은 사용자가 콘텐츠를 접할 때만 도움이 됩니다. 출처 기술의 신뢰성·견고성·상호 운용성을 높이려면 여전히 많은 작업과 생태계 전반의 협력이 필요합니다.
실천 강령은 올바른 방향을 제시합니다: 출처 기술을 진전시키기 위한 높은 야망을 담고 있습니다. 구현 과정에서는 실제로 작동하는 방법에 기반하고, 현재 기술의 한계를 반영할 수 있을 만큼 유연해야 합니다.
OpenAI는 제품 전반에 걸쳐 콘텐츠 투명성을 지속적으로 강화하고, 상호 운용 가능한 표준 개발에 기여하며, 검증 도구를 개선해 나갈 것입니다. AI 사무국, 회원국, 그리고 광범위한 AI 커뮤니티와 협력해 보다 안전하고 투명한 AI 생태계를 구축해 나가기를 기대합니다.