2026년 선거 정보와 안전대책

Source: OpenAI Blog

2026년은 생성형 AI가 널리 보급된 이후 두 번째 주요 선거 연도이며, 우리는 2024년에 다진 기반 위에 계속해서 전 세계 국가와 영토의 선거를 보호하기 위한 작업을 이어가고 있습니다.

우리의 목표는 다음과 같은 방식으로 획기적인 제품을 구축하고 책임감 있게 배포하는 것입니다.

• 투표와 결과에 관한 신뢰할 수 있는 정보를 제공
• 사이버 인프라 방어자를 지원
• AI‑생성 콘텐츠에 대한 투명성 강화
• 악의적인 행위자의 오용 방지
• 모델의 편향을 모니터링하여 ChatGPT의 답변이 정치적으로 중립적이도록 유지

신뢰할 수 있는 정보 제공

사람들은 이미 선거와 같은 시민 행사에 대해 선호하는 언어로 실용적인 질문을 ChatGPT에 묻고 있습니다. 예를 들어 등록 방법, 투표소 위치, 마감일, 진행 중인 뉴스 사건, 공식 선거 결과 조회 등입니다.

2024년의 노력에 기반해, 우리는 파트너와 협력해 투표와 관련된 신뢰할 수 있는 정보 출처로 안내하고 있습니다. 올해 가을부터 미국과 브라질에서 OpenAI는 The Associated Press(AP)와 협력해 선거 당일 실시간 투표 집계 데이터를 제공할 예정입니다. 미국에서는 Democracy Works와 파트너십을 맺어 투표 및 등록 절차(투표소 위치 등)와 관련된 신뢰할 수 있는 정보를 질문 시 표시합니다. 전 세계적으로는 웹 검색 결과가 출처 링크와 함께 유용한 정보를 제공하도록 지속적으로 개선해 나갈 것입니다.

2024년 이후로, 우리는 사람들이 선거 주제와 속보에 대해 ChatGPT에 질문했을 때 제공되는 정보의 품질을 지속적으로 향상시켰습니다. 이제 ChatGPT는 웹을 검색해 출처 링크가 포함된 보다 강력한 답변을 제공하므로 사용자는 깊이 있는 정보를 얻을 수 있습니다.

사이버 인프라 방어자 지원

산업 전반에 걸친 사이버 방어자들에게 중요한 시점이며, AI가 디지털 인프라—특히 선거를 지원하는 시스템—를 강화하는 데 핵심 역할을 할 것이라 믿습니다. OpenAI는 선거 운영을 지원하는 방식을 포함해 인프라 스택 전반에 걸친 복원력을 구축하는 데 전념하고 있습니다.

최근 우리는 Daybreak라는 소프트웨어 구축 및 방어 방식을 혁신하는 프로젝트를 발표했습니다. Daybreak는 소프트웨어를 보다 안전하고 회복력 있게 만들기 위한 여러 프로그램을 포함하며, 그 중 Codex Security는 개발자의 코드에서 취약점을 자동으로 식별·검증·수정하도록 돕습니다. 보다 고급 방어를 위해 Trusted Access for Cyber (TAC) 프로그램은 검증된 개인에게 최첨단 모델에 대한 접근 권한을 부여해 사이버 방어에 활용합니다. 우리는 미국의 등록된 투표 시스템 제조업체에 Codex Security와 TAC 접근 권한을 제공했으며, 주 선거 당국이 최신 사이버 역량과 방어 도구에 대해 충분히 브리핑받을 수 있도록 National Association of Secretaries of State (NASS)와 National Association of State Election Directors (NASED)와 협의하고 있습니다.

투명성 강화

사람들이 AI 도구를 사용해 만든 콘텐츠를 소셜 미디어, 메신저, 웹 등에 공유하는 경우가 늘고 있습니다. 오해를 불러일으키는 “딥페이크”를 방지하기 위해, 우리는 콘텐츠가 AI에 의해 생성·수정되었는지 검증할 수 있도록 다층적인 출처 추적 방식을 투자하고 있습니다.

지난 주, 우리는 SynthID 디지털 워터마크를 ChatGPT, Codex, 혹은 OpenAI API를 통해 생성된 이미지에 적용하는 파트너십을 발표했습니다. 이는 C2PA(Coalition for Content Provenance and Authenticity) 표준을 지속적으로 활용하는 우리의 약속과 맞물립니다. C2PA는 메타데이터와 암호화 서명을 이용해 이미지에 대한 정보가 콘텐츠와 함께 안전하게 전달되도록 합니다. 두 접근 방식은 상호 보완적입니다.

• SynthID는 스크린샷 등 변형을 거쳐도 살아남는 보이지 않는 워터마크를 삽입합니다.
• C2PA 메타데이터는 워터마크만으로는 제공되지 않는 보다 풍부한 출처 정보를 제공합니다.

또한 우리는 공개 검증 도구를 미리 선보이고 있습니다. 이 도구를 통해 사용자는 플랫폼 외부에서 마주치는 이미지가 OpenAI 도구로 생성되었는지 확인할 수 있습니다. 사이트는 OpenAI에서 만든 SynthID 워터마크를 감지하고, 발견될 경우 C2PA 메타데이터를 표시합니다.

출처 추적 도구가 선거 관련 사기 전체를 해결하는 완전한 솔루션은 아니지만, 보다 넓은 무결성 프레임워크의 중요한 구성 요소입니다. 대부분의 사람들이 AI 콘텐츠를 소셜 미디어와 메신저에서 접하기 때문에, 우리는 소셜 미디어 기업들과 협력해 출처 표시를 선거 관련 시민 콘텐츠를 추천·배포할 때 유용한 신호로 활용하도록 지원하고 있습니다.

우리는 다음과 같은 투명성 강화 입법도 지지합니다.

• Protect Elections from Deceptive AI Act (S. 1213) – 연방 후보자를 대상으로 한 선거 활동에서 고의적으로 오해를 일으키는 AI‑생성 콘텐츠 배포를 금지하는 새로운 조항을 포함합니다.
• Preparing Election Administrators for AI Act (S. 2346) – 선거 지원 위원회(Election Assistance Commission)가 선거 관리 사무소를 위한 AI 기술 사용 및 위험에 관한 자발적 가이드라인 보고서를 발행하도록 요구합니다. 최첨단 모델의 사이버 역량이 강화된 만큼 이러한 가이드라인은 특히 중요합니다.

오용 방지

OpenAI는 선거 개입을 방지하기 위해 지속적으로 노력할 것입니다. 우리는 […]

사용 정책

OpenAI의 사용 정책은 사용자가 우리 도구를 선거 개입, 투표 의욕 저하, AI‑생성 콘텐츠 출처에 대한 허위 주장 등에 활용하는 것을 금지합니다.

2024년 이후로 우리의 탐지·집행 시스템은 계속 개선되었습니다. 우리는 프라이버시 보호와 명확한 검토 절차를 갖춘 상태에서 우리 정책을 모니터링하고 집행합니다. 누군가가 우리 도구를 사용해

• 선거 절차에 개입하려 할 때,
• 참여를 저해하려 할 때, 혹은
• AI‑생성 콘텐츠의 출처에 대해 사람들을 오도하려 할 때

우리는 서비스 접근 제한 또는 종료를 포함한 집행 조치를 취합니다.

팀 및 보고

우리의 Intelligence and Investigations, Safety, Security, and Integrity 팀은 오용 패턴을 탐지하고, 은밀한 영향력 작전 등 선거 관련 악용 시도를 조사합니다. 2024년 2월부터 우리는 정기적으로 다음과 같은 보고서를 공개해 왔습니다.

• State‑affiliated threat actors에 의한 악의적 AI 사용 차단
• 은밀한 영향력 작전에 의한 AI 오용 차단
• AI 오용 차단 현황 업데이트
• 악의적 AI 사용 차단 (2025년 6월)
• 악의적 AI 사용 차단 (2025년 10월)
• 악의적 AI 사용 차단 (목록)

우리는 앞으로도 업데이트를 지속적으로 발표할 것입니다.

정치 캠페인 사용

공공, 정책 입안자, 캠페인, 기업이 정치 분야에서 AI 사용에 대한 규범을 마련하는 동안, 우리는 후보자, 정당, 혹은 투표 안건에 대한 대규모 캠페인 메시지를 생성·배포하는 용도로 우리 제품을 사용하는 것을 금지합니다.

하지만 정치 캠페인이 다음과 같은 인간 주도적인 책임 있는 작업에 우리 도구를 사용하는 것은 허용합니다.

• 내부 브리핑 초안 작성,
• 기획,
• 일상적인 문서 작성,
• 번역,
• 규정 준수,
• 행정 업무

이러한 사용 사례는 우리의 사용 정책에 따라 허용됩니다.

시민 참여

AI 도구는 실제로 시민 참여에 큰 기회를 제공합니다. (이하 내용은 원문이 미완성되어 여기서 마칩니다.)