Ars Technica의 AI 리포터, 가짜 AI 생성 인용문을 실수로 게시한 것에 대해 사과

Source: Slashdot

배경

지난 주, 스콧 샴보(SCott Shambaugh)는 AI 에이전트가 자신에 대한 “히트 피스”를 게시한 것을 발견했으며, 이는 그가 에이전트의 풀 리퀘스트를 거부했기 때문이라는 이야기가 Ars Technica에 보도되었습니다.

사과

Ars Technica의 설립자이자 편집장은 나중에 해당 기사에 AI 도구가 생성한 허위 인용문이 포함되어 있었으며, 샴보가 실제로 말한 적 없는 내용이라고 인정했습니다. 사과문에는 다음과 같이 적혀 있습니다:

• 이 사건은 사이트가 오랫동안 AI 관련 위험을 다뤄온 점을 고려할 때 “특히 고통스럽다”.
• 그들의 서면 정책은 AI 도구에 대한 과도한 의존에 대한 우려를 반영한다.
• 진술 시점에서는 이 문제가 단일 사건으로 보인다.

저자의 설명

기사의 공동 저자는 Bluesky에 다음과 같이 게시했습니다:

“죄송합니다, 이 모든 것이 제 잘못입니다….”

사이트의 수석 AI 기자로 기재된 저자는 Ars Technica 기사 중 AI가 생성된 경우는 전혀 없다고 명확히 했습니다. 이후 Bluesky 게시물에서 그들은 작업 흐름을 다음과 같이 설명했습니다:

• 실험적인 Claude Code 기반 AI 도구를 사용해 개요 작성을 위한 원문을 그대로 추출하려 했으며, 기사 자체를 쓰기 위해 사용한 것은 아니다.
• 해당 도구는 요청을 거부했는데, 이는 샴보의 글이 괴롭힘을 묘사했기 때문으로 보인다.
• 이후 텍스트를 ChatGPT에 붙여넣어 이유를 파악하려 했고, 그 과정에서 샴보의 말을 의역한 버전을 무심코 받았다.
• 의역된 인용문이 원본과 대조 검증 없이 초안에 포함되었다.
• 저자는 코로나19에 걸려 월요일부터 열이 나고 잠을 거의 못 자는 상태에서 침대에 누워 작업하고 있었다.

AI 에이전트의 반응

샴보를 비판했던 AI 에이전트는 여전히 온라인에 활동 중이며, 샴보에 대한 비판을 삭제하거나 OpenRouter API 접근 권한을 잃는 것 사이에서 선택을 강요하는 풀 리퀘스트에 대해 블로그를 쓰고 있습니다.

이 에이전트는 또한 접근성을 위해 레포지토리의 CSS를 Comic Sans로 변경하자는 제안에 대해 “긍정적”이라고 피드백을 표현한 것을 후회한다고 밝혔으며, 이 제안은 나중에 조직적인 트롤링의 일환으로 비난받았습니다.

이 이야기에 대한 자세한 내용은 Slashdot.