OpenAI의 로보틱스 책임자, 국방부와의 계약 후 사임

Source: Engadget

OpenAI는 새로운 로봇공학 책임자를 찾아야 할 상황에 처했습니다. OpenAI의 전 로봇공학 책임자였던 Caitlin Kalinowski는 X에 자신의 역할을 사임한다는 글을 올리며, 국방부와의 파트너십을 적절한 방어 장치를 검토하지 않은 채 서두른 점을 비판했습니다.

사임

2024년 말 OpenAI에 합류하기 전 Meta에서 근무했던 Kalinowski는 X에 “사법적 감독 없이 미국인을 감시하고 인간의 승인이 없는 치명적인 자율성을 부여하는 것은 더 많은 논의가 필요했던 선이었다”고 적었습니다. 이어지는 글에서 그녀는 “발표가 방어 장치가 정의되지 않은 채 서두러졌으며, 이는 ‘우선적으로 거버넌스 문제’였다”고 설명했습니다.

OpenAI의 대응

OpenAI는 Kalinowski의 사임을 확인하고 Engadget에 보낸 성명에서 사람들이 이 사안에 대해 “강한 의견”을 가지고 있음을 이해한다며, 관련 당사자들과의 논의를 지속할 것이라고 밝혔습니다. 성명은 또한 OpenAI가 제기된 우려를 지지하지 않는다는 점을 명확히 했습니다:

“우리는 국방부와의 계약이 AI의 책임 있는 국가 안보 활용을 위한 실현 가능한 경로를 만든다고 믿으며, 우리의 레드 라인—즉, 국내 감시 금지와 자율 무기 금지—를 명확히 하고 있습니다.”

맥락 및 함의

Kalinowski의 사임은 OpenAI가 국방부와 계약을 체결한 결정으로 인한 가장 눈에 띄는 파장일 수 있습니다. 이 결정은 Anthropic이 대규모 감시와 완전 자율 무기 개발에 대한 특정 AI 방어 장치를 해제하는 것을 거부한 직후에 이루어졌습니다. 심지어 OpenAI의 CEO인 Sam Altman도 미국인에 대한 스파이 활동을 금지하도록 국방부와의 계약을 수정하겠다고 말했습니다.