구글의 SynthID AI 워터마크 기술, 오픈AI·엔비디아 등에서 채택

Source: Ars Technica

작년, 구글은 Gemini 앱에 SynthID 감지 기능을 추가했습니다. 사용자는 의심스러운 콘텐츠를 업로드하고 챗봇에게 AI가 생성했는지 물어볼 수 있습니다. 이는 지난 3년 동안 구글이 만든 수십억 개의 AI 이미지와 오디오 클립에 대해 신뢰할 수 있게 작동합니다. 몇몇 야심찬 해커들은 숨겨진 SynthID 패턴을 제거하는 방법을 찾았다고 주장했지만, 구글은 이러한 우회 방법이 실제로는 작동하지 않는다고 반박하고 있습니다.

더 많은 곳에 퍼지는 SynthID

누구도 SynthID를 해독하지 못했더라도, 인터넷에 존재하는 대부분의 AI 이미지에는 크게 영향을 주지 않습니다—현재 SynthID는 구글의 AI 모델에만 적용되고 있기 때문입니다. 하지만 이 상황은 곧 바뀔 전망입니다.

파트너십 및 통합

• Nvidia – Cosmos 월드 파운데이션 모델에 SynthID를 적용할 예정입니다.
• OpenAI – GPT‑2가 생성한 이미지에 SynthID를 사용할 계획입니다.
• 카카오와 ElevenLabs – 또한 자사의 AI 생성 콘텐츠에 SynthID를 추가하기 시작합니다.

이러한 협업이 모든 AI 생성 작품을 SynthID만으로 식별할 수 있다는 보장은 없습니다. 여전히 많은 공개 모델이 워터마크 없이 콘텐츠를 생성하고, 오픈소스 모델은 워터마크 없이 학습될 수 있기 때문입니다. 그럼에도 불구하고 SynthID 적용 범위를 넓히는 것은 올바른 방향으로 나아가는 한 걸음입니다.

새로운 감지 경로

• SynthID는 Google Search, Lens, 그리고 AI Mode와 통합될 예정입니다.
• Chrome에서 의심되는 콘텐츠가 있는 탭을 공유하고 Gemini에게 (예: “이거 AI인가요?”) 물어보면 SynthID 스캔을 수행할 수 있습니다.
• 앞으로는 Gemini를 직접 열지 않아도 검사를 할 수 있는 도구가 제공될 예정입니다.

API 제공 현황

현재 SynthID에 대한 공개 API는 없습니다. 스캔을 너무 쉽게 제공하면 워터마크를 회피하려는 공격자에게 악용될 위험이 있기 때문입니다. 구글은 Gemini Enterprise Agent Platform의 일환으로 AI 콘텐츠 감지 API를 출시할 준비를 하고 있으며, 초기에는 신뢰할 수 있는 비즈니스 파트너에게만 제공될 예정입니다. 이번 출시를 통해 AI 콘텐츠를 보다 쉽게 표시하면서 구글은 향후 몇 달 동안 서비스를 정교화할 수 있게 됩니다.