OpenAI, 펜타곤 거래를 수정… 샘 알트먼은 '조잡하다'고 인정
Source: Slashdot
배경
OpenAI는 CEO Sam Altman이 원래 계약이 “기회주의적이고 부실해 보였다”고 인정한 뒤 펜타곤 계약을 수정하고 있습니다. 이제 회사는 자사의 기술이 정보기관이나 대규모 국내 감시 목적으로 사용되는 것을 명시적으로 제한할 것입니다.
이 계약은 펜타곤의 기존 AI 계약업체였던 Anthropic이 계약 해지된 직후 발표되었습니다. 9억 명이 넘는 ChatGPT 사용자를 보유한 OpenAI는 Anthropic이 제외된 직후 거의 즉시 계약에 서명했습니다.
발표 직후 온라인에서 반발이 일었으며, X와 Reddit 사용자들은 “ChatGPT 삭제” 캠페인을 독려했습니다. Reddit 게시물 중 하나는 다음과 같이 적었습니다:
“당신은 이제 전쟁 기계를 훈련시키고 있습니다. 취소 증거를 보여 주세요.”
Altman의 성명
X에 재게시된 직원 대상 메시지에서 Altman은 Anthropic이 제외된 뒤 금요일에 발표된 원래 계약이 너무 급하게 체결됐다고 밝혔습니다. 그는 다음과 같이 썼습니다:
“우리는 금요일에 이 계약을 서두르게 된 것을 후회합니다. 문제는 매우 복잡하고 명확한 소통이 필요합니다. 우리는 진심으로 상황을 진정시키고 더 나쁜 결과를 피하려고 했지만, 결국 기회주의적이고 부실해 보였던 것 같습니다.”
OpenAI는 처음에 이 계약이 “분류된 AI 배포에 대한 이전 어떤 계약보다 더 많은 가드레일을 포함하고 있다”고 주장했으며, 여기에는 Anthropic의 경우도 포함되었습니다.
반응
Miles Brundage의 우려
OpenAI 전 정책 연구 책임자인 Miles Brundage는 Anthropic이 극복할 수 없다고 판단한 윤리적 문제들을 해결한 듯 보이는 계약을 OpenAI가 어떻게 따냈는지 의문을 제기했습니다. 그는 X에 다음과 같이 적었습니다:
“OpenAI 직원들의 기본 가정은 안타깝게도 OpenAI가 굽히고도 굽히지 않은 척하며 Anthropic을 괴롭히고, 이를 돕는 것처럼 포장했다는 것이어야 합니다.”
그는 덧붙였습니다:
“분명히 말하자면, OAI는 복잡한 조직이며, 여기 관여한 많은 사람들은 공정한 결과라 생각하며 열심히 일했습니다. 하지만 정부와 정치와 관련된 거래에 관해서는 전혀 신뢰하지 못하는 사람들도 있습니다.”
민주적 절차에 대한 약속
Brundage는 또한 “헌법에 위배되는 정부 명령을 따르느니 차라리 감옥에 가겠다”고 밝히며 다음을 강조했습니다:
“우리는 민주적 절차를 통해 문제를 해결하고 싶습니다. 사회에 대한 핵심 결정은 정부가 해야 합니다. 우리는 우리의 전문성을 공유하고 자유 원칙을 위해 싸울 수 있는 자리와 목소리를 원합니다.”