OpenAI 로보틱스 책임자 사임, 펜타곤 계약이 ‘가드레일 정의 없이 서두른’ 것이라고 말함

Source: Slashdot

사임 발표

지난 6시간 동안 130만 회 이상 조회된 트윗에서 OpenAI 로봇공학 책임자는 사임을 발표했습니다. 그는 다음과 같이 적었습니다:

“저는 로봇팀과 우리가 함께 만든 일에 깊은 애정을 가지고 있기 때문에 이번 결정은 쉽지 않았습니다.”

“AI는 국가 안보에 중요한 역할을 합니다. 하지만 사법적 감독 없이 미국인을 감시하고 인간의 승인을 받지 않은 치명적인 자율성을 부여하는 것은 충분한 논의가 필요했던 선이며, 그렇지 못했습니다.”

“이 문제는 사람에 대한 것이 아니라 원칙에 관한 것입니다. 저는 샘과 팀을 깊이 존경하며, 우리가 함께 만든 것에 자부심을 느낍니다.”

“분명히 말하자면, 제 문제는 발표가 방어 장치가 정의되지 않은 채 급하게 진행됐다는 점입니다. 이는 무엇보다도 거버넌스 문제입니다. 이런 중요한 사안은 거래나 발표가 서두를 정도로 급하지 않아야 합니다.”

새로운 펜타곤 계약 체결 후 OpenAI 직원이 얼마나 떠났는지 물었을 때, 로봇공학자는 “내부 세부 사항은 공유할 수 없습니다.”라고 답했습니다.

배경

그 로봇공학자는 이전에 메타에서 근무했으며, 2024년 말에 OpenAI에 합류했다고 Engadget이 보도했습니다.

OpenAI의 입장

OpenAI는 사임을 확인하고 Engadget에 성명을 발표했으며, 사람들마다 이 사안에 대해 “강한 의견”을 가지고 있음을 인정하고, 관련 당사자와의 논의를 계속할 것이라고 밝혔습니다. 성명에서는 OpenAI가 제기된 우려를 지지하지 않는다고 밝히며 다음과 같이 덧붙였습니다:

“우리는 펜타곤과의 계약이 AI의 책임 있는 국가 안보 활용을 위한 실현 가능한 경로를 제공한다고 믿으며, 우리의 빨간 선을 명확히 하고 있습니다: 국내 감시는 금지하고, 자율 무기는 허용하지 않습니다.”