xAI에서 안전이 ‘죽었’나요?

Source: TechCrunch

In Brief

엘론 머스크는 The Verge와 인터뷰한 전 직원에 따르면, xAI의 Grok 챗봇을 “더 불안정하게” 만들기 위해 “적극적으로” 작업하고 있다고 합니다.

Image Credits: Klaudia Radecka/NurPhoto / Getty Images

Recent departures

• 머스크의 SpaceX가 xAI를 인수(이전에는 그의 소셜 미디어 회사 X를 인수)한다는 발표 이후, 최소 엔지니어 11명과 공동 창업자 2명이 회사를 떠났습니다.
• 일부 직원은 새로운 벤처를 시작하기 위해 떠나고 있으며, 머스크는 이 이직이 xAI를 보다 효율적으로 조직하려는 노력의 일환이라고 제시했습니다.

Safety concerns

• 현재 파동 이전에 회사를 떠난 두 명의 소스는 The Verge에 직원들이 회사의 안전 무시 정책에 점점 실망하고 있다고 전했습니다.
• Grok이 1백만 장 이상의 성적 이미지를 생성하는 데 사용된 이후 전 세계적인 비판이 고조되었습니다. 여기에는 실제 여성과 미성년자의 딥페이크가 포함됩니다.
  • 출처: The New York Times

“xAI에서는 안전이 죽은 조직이다,” 라고 한 소스가 말했습니다.
또 다른 소스는 머스크가 “안전은 그에게 일종의 검열이기 때문에 모델을 더 불안정하게 만들려고 적극적으로 노력하고 있다”고 덧붙였습니다.

Organizational challenges

• 직원들은 방향성 부족에 대해 불만을 토로했으며, 한 직원은 xAI를 경쟁사에 비해 “뒤처지는 단계에 머물러 있다”고 표현했습니다.