Grok이 업로드한 사진을 편집하는 것을 (어느 정도) 차단할 수 있습니다

Source: Engadget

Background

사람들은 소셜 네트워크 X에 업로드한 이미지에 대해 xAI의 Grok 챗봇이 수정하는 것을 차단할 수 있습니다. X와 xAI—두 기업 모두 일론 머스크가 소유—는 이 기능에 대해 공개적인 발표를 하지 않았으며, 사용자는 지난 며칠간 iOS 앱의 이미지/동영상 업로드 메뉴에서 이 옵션을 발견하기 시작했습니다.

이 옵션은 Grok의 최신 스캔들에 대한 대응으로 보입니다. 2026년 초에 챗봇에 이미지 생성 도구가 추가되면서 약 3 백만 장의 성적이거나 누드화된 이미지가 생성되었습니다. 디지털 혐오 대응 센터(Center for Countering Digital Hate)에 따르면, 11일 동안 생성된 이미지 중 약 23,000장은 아동을 성적으로 묘사한 것이었습니다. Grok은 현재 EU 규제 당국의 두 건의 별도 조사 대상이 되고 있습니다.

New Feature

X와 xAI는 업로드된 파일을 Grok이 편집하지 못하도록 차단하는 간단한 토글을 추가했습니다. 이 토글은 UI에 잘 숨겨져 있지 않아 쉽게 찾고 활성화할 수 있습니다.

Implications

Positive

• 토글은 Grok의 부적절한 사용을 제한하는 한 걸음이 됩니다.
• 사용자는 챗봇이 업로드한 사진을 직접 수정하는 것을 방지할 수 있습니다.

Negative

• The Verge에 따르면, 차단은 답글에 Grok을 태그해 이미지 편집을 요청하는 경우만 제한하고, 모든 가능한 우회 방법을 막지는 못합니다.
• 의도적인 사용자는 여전히 다른 방법을 이용해 비동의 혹은 성적 이미지 생성이 가능할 수 있습니다.

Outlook

이 기능은 적용 범위가 좁습니다. 이전에 X는 Grok이 실제 인물을 노출이 심한 옷차림으로 만들지 못하도록 제한을 발표했지만, 그 조치는 부분적인 성공에 그쳤습니다. 현재 토글이 제공되는 유일한 보호 수단이라면, 비동의 누드에 대한 “무관용” 입장이 허울처럼 보일 수 있습니다.

보다 강력한 보호 도구가 필요합니다—문제가 완전히 해결될 때까지 이미지 생성 자체를 차단하는 방안도 고려될 수 있습니다.