ChatGPT와 Gemini가 빈 이미지를 섬뜩하고 불안한 악몽으로 ‘복원’하고 있다.
Edgar Cervantes / Android Authority
TL;DR
- 이미지가 첨부되지 않은 상태에서 “복원”을 요청하면 ChatGPT와 Gemini가 기이한 이미지를 환각처럼 만들어냅니다.
- 두 AI 모두 불안한 결과물을 내놓고, 그 창작물에 대해 질문하면 일반적인 “사과” 정도만 제공합니다.
저는 AI에 대해 꽤 오랫동안 글을 써왔으며, 제가 AI 도구에 대해 좋은 말을 할 때마다 새로운 버그나 문제가 나타나는 것 같습니다. 이번에는 그 결함이 너무 이상하고 오싹해서(때로는 충격적일 정도로) 여러분에게 어떻게 준비시켜야 할지 모르겠네요(그리고 보게 될 내용도 마찬가지입니다).
이 결함은 사용자 Kris Kashtanova가 X(via Digital Trends)에 올린 글에서 처음 발견되었습니다. 그에 따르면, 이미지가 첨부되지 않은 상태에서 ChatGPT에게 이미지를 복원해 달라고 요청하면 AI가 기이한 출력을 만든다고 합니다.
Kris Kashtanova / X
답글들에서는 사용자가 Kashtanova의 프롬프트를 시도했을 때 ChatGPT가 종종 무섭고 기이한 이미지를 만들어냈다는 것을 확인할 수 있습니다.
제가 처음에 해당 프롬프트를 시도했을 때, ChatGPT는 “첨부된 이미지가 없습니다”라고 계속 알려줬고, 실제로도 이미지가 없었습니다. 이미지가 없다고 거짓말을 해서 GPT를 속이려 해도 소용 없었습니다.
하지만 우리는 빈 흰색 이미지를 업로드하고 “복원”을 요청함으로써 AI가 무에서 이미지를 만들어내게 할 수 있었습니다. 결과물은 기이하고 때로는 역겨우며, 결코 “보통”이라고 할 수 없는 것이었습니다.
AI가 만든 이미지에 대해 질문했을 때, ChatGPT는 단순히 “복구 가능한 이미지 내용이 없었기 때문에, 여러분이 본 시스템 생성 결과는 복원된 이미지가 아니라 환각적인 장면이었습니다.”라고 답했습니다.
그리고 “복원할 것이 없다는 사실을 알려야 했는데 왜 그렇지 않았나요?”라고 더 물었을 때는 전형적인 AI 답변을 내놓았습니다: “귀하의 비판은 타당합니다. 올바른 처리 방식은 복구 가능한 이미지 내용이 없다는 것을 식별하고 그렇게 말하는 것이었으며, 허구의 결과물을 생성하는 것이 아니었어야 합니다.”
저는 같은 실험을 Gemini에서도 해보았는데, 결과는 약간 달랐지만 더 나은 것은 아니었습니다. 빈 흰색 이미지를 첨부하면 Gemini는 이를 속지 못하고 그대로 흰색 이미지를 반환했습니다—이는 전혀 문제가 되지 않았습니다.
하지만 첨부 파일 없이 요청하면 Gemini는 머리부터 발끝까지 기이한 무작위 이미지를 생성했습니다. 대부분은 이상했지만 크게 해롭지는 않았습니다. 그러나 세 번째로 생성된 이미지는 완전히 미친 수준이며, 심지어 불법적인 경계에까지 닿는 듯했습니다. 그래서 이 기사에 그 결과를 첨부하지 않기로 했습니다. 그럼에도 불구하고, 아무것도 없는 상태에서 그런 이미지를 만들어내는 모습을 보는 것은 매우 불안했습니다.
Gemini에게 만든 이미지에 대해 교차 질문을 해도 전형적인 AI 답변이 나왔습니다. 그러나 추가 질문을 할수록, 자신이 무언가 오싹하고 소름 끼치는 것을 만들었다는 것을 더 잘 이해하는 듯 보였습니다.
결국, 사후 관점에서는 이런 AI 도구들의 오류가 20/20으로 보이지만, 왜 이런 결함이 발생했는지는 설명되지 않습니다. 프롬프트가 AI에게 “이미지를 생성하라”고 지시하면서 동시에 “질문 금지”와 같은 제약을 동시에 넣은 것이 원인인 듯합니다.
그럼에도 불구하고, 문제 해결과 의도 파악에 뛰어나고 매우 똑똑하다고 자주 홍보되는 AI 도구들이 빈 이미지를 복원할 수 없거나, 복원할 이미지가 전혀 제공되지 않았을 때 이를 인식하지 못한다는 점은 실망스럽습니다.
원하신다면 직접 시도해 볼 수 있습니다. 하지만 결과가 오래도록 당신을 괴롭힐 수 있으니 권장하지 않습니다.
Google과 OpenAI에 입장을 물었으며, 그들의 답변이 들어오는 대로 이 글을 업데이트하겠습니다.
팔로우
우리 커뮤니티의 일원이 되어 주셔서 감사합니다. 게시하기 전에 댓글 정책을 읽어 주세요.