Anthropic이 인터넷을 보호하기 위해 Mythos의 출시를 제한하고 있는가 — 아니면 Anthropic?

Source: TechCrunch

Anthropic 제한 Mythos 릴리스

Anthropic은 최신 모델 Mythos의 출시를 제한한다고 발표했습니다. 이는 해당 모델이 전 세계적으로 사용되는 소프트웨어의 보안 취약점을 발견하는 데 매우 뛰어나기 때문입니다. 공개 출시 대신, 프론티어 랩은 공유합니다 선택된 대기업 및 중요한 온라인 인프라를 운영하는 조직들—예를 들어 Amazon Web Services부터 JPMorgan Chase까지—에게만 제공할 예정입니다. OpenAI는 보도에 따르면 향후 사이버 보안 도구에 대해 유사한 접근 방식을 고려하고 있습니다. 이 아이디어는 이러한 기업들이 고급 LLM을 악용해 보안 소프트웨어를 침해하려는 악의적인 행위자보다 앞서 나갈 수 있게 하는 것입니다.

Source: https://example.com/article

전문가 의견

AI 사이버보안 랩 Irregular의 CEO인 Dan Lahav는 Mythos가 출시되기 전인 3월에 TechCrunch와의 인터뷰에서 AI 기반 취약점 발견이 중요하지만, 공격자에게 실제 가치를 제공하는 약점은 다른 익스플로잇과 결합될 수 있는지 등 여러 요인에 달려 있다고 말했습니다.

“내가 항상 마음속에 두는 질문은,” Lahav는 말했습니다, “그들이 개별적으로든, 혹은 체인의 일부로든 매우 의미 있는 방식으로 악용할 수 있는 무언가를 발견했는가?”

Anthropic은 Mythos가 이전 모델인 Opus보다 훨씬 효과적으로 취약점을 악용할 수 있다고 주장합니다. 그러나 Mythos가 사이버보안 분야의 최종 모델이라고 단정하기는 어렵습니다. AI 사이버보안 스타트업인 Aisle은 그들의 블로그에서 작은 오픈‑웨이트 모델을 사용해 Anthropic이 주장하는 Mythos의 많은 성과를 재현할 수 있었다고 밝혔습니다. Aisle 팀은 이러한 결과가 사이버보안에 단일 딥러닝 모델이 존재하지 않으며, 효과성은 특정 작업에 따라 달라진다는 것을 보여준다고 주장합니다.

비즈니스 함의

Opus가 이미 사이버 보안 분야의 게임 체인저로 평가받고 있는 상황에서, 프런티어 랩들이 대규모 조직에만 출시를 제한하는 또 다른 동기가 있습니다. 이는 기업 계약을 위한 선순환을 만들면서, distillation이라는 기술을 통해 경쟁자들이 프런티어 모델을 사용해 새로운 LLM을 저렴하게 학습시키는 것을 어렵게 만들기 때문입니다.

“이는 최첨단 모델이 이제 기업 계약에 의해 제한되고 소규모 랩이 디스틸레이션을 할 수 없게 된 사실에 대한 마케팅 커버입니다,” 라고 스타트업 exe.dev의 소프트웨어 엔지니어이자 CEO인 David Crawshaw가 소셜 미디어 게시물에서 말했습니다. “당신과 내가 Mythos를 사용할 수 있게 될 때쯤이면, 새로운 최첨단 버전은 기업 전용이 될 것입니다. 그 러닝머신은 기업 자금을 지속적으로 흐르게 하는 데 도움이 됩니다(대부분의 자금이 여기서 나오죠). 디스틸레이션 회사를 2순위로 격하시키면서 말이죠.”

이 분석은 AI 생태계 전반의 더 큰 흐름과 일치합니다. 프런티어 랩들이 가장 크고 강력한 모델을 개발하는 경쟁과, Aisle와 같이 여러 모델에 의존하고 오픈소스 LLM—주로 중국에서 나오며 디스틸레이션을 통해 만들어졌다고 주장되는—을 경제적 이점의 경로로 보는 기업들 사이의 경쟁이 그것입니다.

산업 배경

프론티어 랩스는 올해 증류(distillation)에 대해 더 강경한 입장을 취하고 있습니다. Anthropic은 중국 기업들이 자사의 모델을 복제하려는 시도를 공개했으며, Anthropic, Google, OpenAI 등 세 주요 랩이 협력해 증류자를 식별하고 차단하고 있다고 Bloomberg report에서 보도했습니다.

증류는 막대한 자본 투자를 통해 얻은 이점을 약화시켜 프론티어 랩스의 비즈니스 모델을 위협합니다. 따라서 증류를 차단하는 것은 가치 있는 과제이며, 선택적 공개(selective‑release) 접근 방식은 이 분야가 수익성 있는 배포의 핵심이 됨에 따라 기업용 제품을 차별화할 수 있는 방법을 랩에 제공합니다.

결론

Mythos—또는 어떤 새로운 모델—가 실제로 인터넷 보안을 위협하는지는 아직 확인되지 않았지만, 기술을 신중하게 출시하는 것이 책임 있는 방안이다. Anthropic은 언론 시점에 이 결정이 증류(distillation) 우려와도 관련이 있는지에 대한 질문에 답변하지 않았지만, 회사는 인터넷과 자체 수익을 동시에 보호할 수 있는 영리한 접근 방식을 찾은 것일 수도 있다.