미국, 구글·마이크로소프트·xAI의 새로운 AI 모델 안전 테스트
Source: BBC Technology
개요
Google, Microsoft, 그리고 xAI의 새로운 인공지능(AI) 도구와 기능이 미국 상무부의 AI 표준 및 혁신 센터(CAISI) 를 통해 공개되기 전에 테스트될 예정입니다. 해당 기술 기업들은 자발적으로 모델을 상무부에 제출해 테스트를 받기로 합의했습니다.
이 새로운 협약은 바이든 행정부 시절 OpenAI와 Anthropic 같은 AI 기업들과 체결한 이전 합의들을 확대한 것입니다. 참여 기업들의 모든 AI 모델은 그 능력과 보안성을 평가받게 됩니다.
“이러한 확대된 산업 협력은 중요한 시점에 공공의 이익을 위한 우리의 작업을 확대하는 데 도움이 됩니다.”라고 CAISI 이사 Chris Fall이 말했습니다.
테스트 절차
평가는 다음을 포함합니다:
- 모델 테스트
- 공동 연구
- 상업용 AI 시스템을 위한 모범 사례 가이드라인 개발
CAISI는 이미 40건의 이전 평가를 수행했으며, 여기에는 아직 공개되지 않은 “최첨단 모델”에 대한 평가도 포함된다고 보고했습니다. 센터는 어느 모델이 공개가 중단되었는지는 구체적으로 밝히지 않았습니다.
Google, Microsoft 및 SpaceX(현재 xAI를 통제하고 있는 일론 머스크 회사)의 대표들은 의견 요청에 응답하지 않았습니다.
정치적 배경
더 많은 기업을 연구 및 안전 테스트에 참여시키는 것은 전통적으로 AI와 기술 기업에 대해 대체로 손을 떼는 접근을 취해온 트럼프 행정부와는 다른 방향을 보여줍니다.
작년 트럼프 대통령은 그의 행정부 “AI 행동 계획” 의 기반이 되는 일련의 행정명령에 서명했습니다. 이 계획은 AI 개발에 대한 “관료주의와 과도한 규제”를 없애고, 미국이 기술 발전과 통제를 통해 “승리”하도록 약속했습니다.
하지만 미국 군이 AI 활용을 확대하고, Anthropic이 Mythos라는 모델을 **“공개하기엔 너무 강력하다”**고 주장하면서, 백악관은 입장을 바꾸는 듯 보입니다.
트럼프 직원 고위 관계자들은 지난달 Anthropic CEO Dario Amodei와 만나었으며, 이 회사는 정부용 모델에 대한 안전 가드레일을 포기하지 않겠다는 이유로 미국 국방부와 소송 중이기도 합니다.