YouTube, AI 딥페이크 탐지를 정치인, 정부 관계자 및 언론인에게 확대
Source: TechCrunch
발표
YouTube은 AI‑생성 딥페이크를 식별하는 외모 감지 기술을 정부 관계자, 정치 후보자 및 언론인들의 파일럿 그룹에 확대한다고 회사가 발표했습니다 화요일에 밝혔습니다. 파일럿 그룹 구성원은 무단 AI‑생성 콘텐츠를 감지하고 YouTube 정책을 위반한다고 판단될 경우 해당 콘텐츠의 삭제를 요청할 수 있는 도구에 접근하게 됩니다.
배경
The technology launched last year — see the original rollout to roughly 4 million YouTube creators in the YouTube Partner Program — after earlier tests with a smaller set of creators.
- 출시 발표: TechCrunch, Oct 21 2025
- 이전 테스트 단계: TechCrunch, Apr 9 2025
Similar to YouTube’s existing Content ID system, which detects copyright‑protected material, the likeness detection feature looks for simulated faces created with AI tools. These tools can be used to spread misinformation by making notable figures—politicians, government officials, journalists—appear to say or do things they never did.
파일럿 프로그램 세부 사항
- 자격 요건: 정부 관계자, 정치 후보자, 그리고 초대받은 언론인.
- 인증: 참가자는 신원을 증명하기 위해 셀카와 정부 발급 신분증을 업로드해야 합니다.
- 기능: 인증이 완료되면 사용자는 프로필을 만들고, 감지된 매치를 확인하며, 원할 경우 해당 영상의 삭제를 요청할 수 있습니다.
- 삭제 절차: 요청은 YouTube 기존 개인정보 보호 정책 가이드라인에 따라 평가되어, 해당 콘텐츠가 패러디, 정치 비판, 혹은 다른 보호받는 표현 형태인지 여부를 판단합니다.
“이번 확장은 실제로 공공 대화의 무결성에 관한 것입니다,” 라고 YouTube 정부 업무 및 공공 정책 부사장인 Leslie Miller가 말했습니다. “우리는 시민 영역에 있는 사람들에게 AI 위장 위험이 특히 높다는 것을 알고 있습니다. 하지만 우리는 이 새로운 방패를 제공함과 동시에, 이를 어떻게 사용할지 신중히 고려하고 있습니다.”
Image Credits: YouTube
Policy and Legal Context
YouTube는 연방 NO FAKES Act (S.1367, 119th Congress)를 지원하며, 이는 AI를 사용해 개인의 음성 및 시각적 이미지에 대한 무단 재현을 규제하는 법안입니다.
라벨링 및 콘텐츠 표시
AI‑생성 동영상은 해당 사실이 라벨로 표시되지만, 라벨의 위치는 다릅니다:
- 많은 동영상에서는 라벨이 설명란에 표시됩니다.
- “민감한 주제”를 다루는 콘텐츠의 경우, 라벨이 동영상 앞부분에 배치됩니다.
“AI로 제작된 콘텐츠가 많이 있지만, 그 구분이 실제 콘텐츠 자체와는 별개입니다,” 라고 YouTube 크리에이터 제품 부사장인 암자드 하니프가 설명했습니다. “AI로 생성된 만화일 수도 있습니다. 그래서 저는 해당 카테고리가 매우 눈에 띄는 면책 조항을 필요로 하는지 여부에 대한 판단이 필요하다고 생각합니다.”
현재 영향 및 향후 계획
YouTube는 딥페이크에 대해 처리된 삭제 요청 정확한 수치를 공개하지 않았지만, 그 양이 “매우 적다”고 밝혔습니다. 대부분의 요청은 제작자 비즈니스에 해가 없거나 오히려 도움이 되는 것으로 나타났습니다.
회사는 시간이 지나면서 기술을 확대하여 궁극적으로 다음을 포함하도록 할 계획입니다:
- 인식 가능한 음성.
- 인기 캐릭터와 같은 기타 지적 재산.
- Content ID와 유사한 사전 업로드 차단 또는 수익화 옵션.
이미지 출처: YouTube