Google의 Circle to Search 기능은 이미지가 AI 생성인지 알려줄 수 있습니다

Source: Engadget

SynthID란?

SynthID는 Google이 자체 AI 도구로 만든 또는 수정한 콘텐츠에 눈에 보이지 않는 메타데이터를 삽입하는 독점 워터마킹 시스템입니다.

• 전년 I/O 행사에서 전용 SynthID 탐지기가 발표되었습니다.
• 이후 이 탐지기는 Gemini 앱에 통합되었습니다.

Chrome 및 Search의 새로운 기능

업데이트를 통해 사용자는 여러 방법으로 이미지의 출처를 확인할 수 있습니다:

• Android의 Circle to Search가 이제 AI‑생성 콘텐츠를 표시할 수 있습니다.
• Google Lens와 Chrome의 Gemini 통합 기능이 “이것은 AI가 만든 건가요?”와 같은 질문에 답변합니다.
• 도구는 세부 정보를 제공할 수 있으며, 예를 들어 이미지가 Pixel 폰으로 촬영된 뒤 Google Photos에서 AI 도구로 편집되었음을 알려줍니다.

제한 사항

• 세부 정보는 Google 자체 도구로 촬영하거나 편집한 이미지에만 제공됩니다.
• 다른 AI 플랫폼에서 나온 이미지는 신뢰성 있게 표시되지 않을 수 있습니다.
• 콘텐츠 인증(업계 표준 워터마킹 시스템)이 Pixel 10 라인업의 기본 카메라 앱에 추가되었으며, 이제 Pixel 8 및 9 모델로 확대되고 있습니다.

산업 채택

Google은 OpenAI, Kakao, ElevenLabs가 SynthID 기술을 더 많은 AI‑생성 콘텐츠에 적용하기로 약속했다고 밝혔습니다.

• OpenAI는 ChatGPT, Codex 또는 OpenAI API를 통해 만든 이미지에 SynthID를 통합할 계획입니다.
• Gemini 앱은 오늘부터 콘텐츠 인증 지원을 받게 되며, Chrome 및 Search 통합은 향후 몇 달 안에 제공될 예정입니다.

과제와 전망

어떠한 워터마킹 시스템도 완벽하지 않습니다. 연구자들은 탐지를 회피하는 방법을 입증했습니다:

• Researchers tested AI watermarks and broke all of them
• Methods to remove watermarks and deepfakes

이러한 과제에도 불구하고, 사용자가 이미지의 출처를 확인할 수 있는 도구를 제공하는 것은 AI‑생성 콘텐츠가 점점 더 설득력 있고 일상화되는 상황에서 중요한 첫 걸음입니다.