패널 금지는 절대 해킹과 무관했다
출처: 해커 뉴스
미국 정부의 Anthropic에 대한 집행 통보서가 회사를 최신 AI 모델을 온라인에서 내리게 한 주말 직전에 강제로 만들었습니다. 이는 미국 기술 기업 — AI 연구소든 아니든 — 에 경고가 되어야 합니다.
뉴스 블리츠를 빠르게 정리하자면: 금요일 오후, 미국 상무부가 희소한 수출 통제 지침을 인용해 Anthropic에 대한 편지를 보냈고, 이 편지는 비미국인(Anthropic 직원 포함)을 대상으로 Fable 5와 Mythos 5에 접근을 금지했으며, 명시되지 않은 국가 안보 우려를 이유로 제시했습니다. Anthropic은 이 편가가 모델의 보안 장치 우회와 관련이 있다고 생각하지만, 편지에 구체적인 내용이 없기 때문에 확신하지 못하고 있습니다. 이 편지는 공개되지 않았습니다.
이에 Anthropic은 해당 모델을 고객에게 모두 차단하여 지침을 준수하도록 했습니다. 결과적으로 미국 정부는 기술 기업이 법원 승인 없이 신속히 단일적으로 모델을 온라인에서 내리게 만들었습니다.
트럼프 행정부의 금요일 조치는 AI 산업이 정부 간섭에 면역이 아님을 보여줍니다. 또한 이는 더 넓은 기술 업계에 대한 경고이기도 합니다: 준수하십시오, 아니면 우리는 귀사와 제품들을 폐쇄할 수 있습니다.
출처를 인용한 Axios는 주말 동안 두 주요 기업 간에 긴장된 상황이 있었다며, Anthropic과 트럼프 행정부 사이의 ‘성격 차이’가 AI 제품의 기술적 문제보다는 수출 지침을 초래했다고 설명했습니다.
주말 동안 새로운 세부 사항이 공개되면서 정부의 이미 약한 추론에 더욱 의문을 제기하게 되었습니다.
사이버 보안 전문가이자 Luta Security를 설립한 Katie Moussouris는 블로그 포스트에서 Anthropic이 최근 그녀에게 개인적으로 공유한 논문에 대해 언급했습니다. 이 논문은 Fable 5의 보안 장치 우회를 설명하는 보안 연구자들의 논문이라고 합니다. (월스트리트 저널은 해당 논문의 저자들이 아마존 보안 연구자이라고 보도했습니다.) Moussouris는 Anthropic이 논문에 대한 의견을 요청했다고 말했습니다.
Moussouris의 블로그 포스트에서는 연구자들이 보안 장치 우회를 어떻게 일으켰는지 설명했지만, 해당 우회 자체가 ‘수출 controle가 발동되어서는 안 된다’고 말했습니다. 차이점은 AI 모델에게 ‘보안 문제를 검토하라’ versus ‘이 코드를 수정하라’를 요청하는 것에 largely在于 있습니다. 질문 방식이 약간 다르더라도 결과는 거의 동일합니다.
“논문에 기술된 행동은 의미 있게 수정할 수 없으며, 이를 시도하면 방어력을 약화시킬 뿐입니다.” Moussouris는 이 수출 통제 지침을 서둘러진, 무게감 있는, 그리고 어리석은 조치로 비판했습니다.
Moussor 및 다른 주요 보안 연구원들과 전문가들은 트럼프 정부에 수출 통제 명령을 취소해달라를 요청했으며, 미국 네트워크 방어자들에게 고급 사이버 보안 능력을 제거하는 조치를 “위험하다”고 말했습니다.
과거 정부는 지식 격차를 메우기 위해 광범위한 결정을 내렸습니다. 예를 들어, 2010년대 미국 정부가 사이버 공격에도 사용될 수 있는 사이버 보안 도구를 다루는 수출법을 개정하기 위해 사용한 언어는 지나치게広범하여, 결과적으로 합법적인 보안 및 취약점 연구를 사실상 금지하게 되었습니다.
하지만 트럼프 행정부의 지침은 보복적처럼 보입니다.
Tech Policy Press의 편집자인 Justin Nixdorf는 트럼프 행정부의 조치가 미국 내 AI 기업들이 정부 간섭 없이 신뢰할 수 없다는 외국 자본에 경고를 보낼 것이라고 말했습니다. 이는 미국 정부의 간섭 없이 AI 회사들이 운영될 수 없다는 메시지를 전달합니다.
트럼프 행정부는 왜 그 수출 통제 지침을 발동했는지 확인하지 않았습니다. 관료들이 보고서를 잘못 이해하고 과장했을까요? 아마존 CEO 앤디 재시는 고위 정부 관계자들에게 어떤 말을 했는지, 주의 차원에서든 억지로든 반응을 촉발했을까요? 번역이 잘못되었을까요, 아니면 Anthropic에 대한 압박 수단으로 사용한 것일까요? 이미 행정부가 Anthropic와 긴장된 관계를 가지고 있다는 점을 고려하면 말이죠.
백악관이 이 편지의 광범위한 결과를 인지하지 못했을 가능성이 있으며, 관료들은 자신들의 잘못으로 인한 피해를 뒤집으려 애쓰고 있습니다.
Hendrix의 말을 인용하면, “상급 관료들은 개인적·정치적 요인에 따라 선호도를 picking하는 suspicion의 구름 같은 분위기다.” 그 결과 정부는 미국에서 제작된 소프트웨어 배포에 대한 자신이 행사하려는 통제 범위에 대해 위험한 전례를 마련했습니다.
이번엔 정부가 Anthropic와 문제를 삼았지만, 내일은 다른 누구와도 할 수 있습니다.
우리 기사의 링크를 통해 구매를 하시면 소액 수수료를 받을 수 있습니다. 이는 편집적 독립성에 영향을 주지 않습니다.
Zack Whittaker는 TechCrunch의 보안 편집자이며, 주간 사이버 보안 뉴스레터인 이번 주 보안을 집필합니다.
신호(zackwhittaker.1337)로 암호화된 메시지를 통해 연락할 수 있습니다. 이메일로도 연락 가능하며, 확인을 위해 zack.whittaker@techcrunch.com을 사용하시면 됩니다.