백악관 메모, 중국 기업들의 대규모 AI 절도 주장
Source: BBC Technology
백악관 AI 절도 메모
백악관은 외국 행위자들이 기술 발전을 탈취하려는 “산업 규모 캠페인”에 대응하기 위해 미국 인공지능(AI) 기업들과 보다 긴밀히 협력할 것이라고 발표했습니다.
과학기술정책 담당 국장인 마이클 크라티오스는 내부 메모에서 “주로 중국에 기반을 둔 외국 단체”가 미국 기업들을 악용하고 있다는 새로운 정보를 입수했다고 밝혔습니다. 디스틸링(distilling) 이라는 과정을 통해 이들 기업은 미국 기업이 개발한 AI 기술을 복제하고 있습니다.
백악관이 계획한 조치
크라티오스는 “악의적인 악용을 방지하고 차단”하기 위한 네 가지 단계를 제시했습니다:
- 디스틸링 캠페인에 사용되는 전술과 관련 행위자를 미국 AI 기업들과 더 많이 공유한다.
- 공격에 대응하기 위해 기업들과의 협조를 강화한다.
- 디스틸링을 식별, 완화 및 복구하기 위한 모범 사례를 개발한다.
- 외국 행위자에 대한 책임 메커니즘을 탐색한다.
이 메모는 미국 AI 기술을 디스틸링하는 것으로 확인된 단체에 대한 구체적인 행동 계획을 상세히 밝히지 않았습니다. 백악관 대변인은 메모 외에 추가 의견을 거부했습니다.
중국의 반응
워싱턴 D.C.에 있는 중국 주재 미국 대사관 대표는 “미국이 중국 기업들을 부당하게 억압하고 있다”는 주장에 이의를 제기했습니다. 대변인은 다음과 같이 말했습니다:
“중국은 세계의 공장이자 동시에 세계 혁신 실험실이 되고 있습니다.
중국의 발전은 자체적인 헌신과 노력, 그리고 상호 이익을 제공하는 국제 협력의 결과입니다.”
디스틸링 캠페인 작동 방식
디스틸링 캠페인은 특정 AI 챗봇이나 도구에 대해 수천 개의 개별 계정을 운영하는 기업에 의해 수행됩니다. 이 계정들은 일반 사용자처럼 보이면서 동시에 조정된 시도로 AI 모델에 대한 공개되지 않아야 할 정보를 “탈옥(jailbreak)”하거나 노출합니다. 수집된 데이터는 저장된 뒤 해당 기업의 자체 AI 모델 구축 및 교육에 활용됩니다.
“산업 규모 디스틸링을 탐지하고 완화하는 방법이 점점 정교해짐에 따라, 그러한 취약한 기반 위에 AI 역량을 구축하는 외국 단체는 자신들이 생산하는 모델의 무결성과 신뢰성에 대해 거의 신뢰할 수 없게 될 것입니다.” — 크라티오스.