Claude Mythos란 무엇이며, 그것이 초래하는 위험은 무엇인가?

Source: BBC Technology

5시간 전
Liv McMahon, 기술 기자 및
Joe Tidy, 사이버 특파원, BBC 월드 서비스

Reuters

Source: …

개요

최근 몇 주 동안 AI 업계는 Anthropic이 발표한 새로운 모델인 Claude Mythos에 대한 주장으로 떠들썩했습니다. 이 회사는 해당 도구가 일부 해킹 및 사이버 보안 작업에서 인간보다 뛰어날 수 있다고 말했으며, 이는 규제 기관, 입법자 및 금융 기관이 디지털 서비스에 미칠 위험에 대해 논의하게 만들었습니다.

여러 기술 대기업은 Project Glasswing이라는 이니셔티브를 통해 Mythos에 대한 접근 권한을 부여받았으며, 이는 Mythos 자체에 대한 회복력을 강화하기 위해 설계되었습니다. 다른 사람들은 Anthropic이 도구에 전례 없는 기능이 있다고 제시하는 것이 Anthropic의 이익에 부합한다는 점을 지적하며, AI와 마찬가지로 정당한 주장과 과대광고를 구분하는 작업이 까다로울 수 있다고 말합니다.

Claude Mythos란 무엇인가?

Mythos는 Anthropic이 최신으로 출시한 모델 중 하나로, Claude라는 보다 넓은 AI 시스템의 일부로 개발되었습니다. Claude는 회사의 AI 어시스턴트와 모델군을 포괄하며, OpenAI의 ChatGPT와 Google의 Gemini와 경쟁합니다.

• 4월 초 Anthropic이 “Mythos Preview”로 공개했습니다.
• 특정 요청이나 작업을 수행하는 AI 모델을 테스트하는 “레드팀”(red‑teams) 연구원들은 보고서에서 Mythos가 “컴퓨터 보안 작업에서 놀라울 정도로 능력 있다”고 평가했습니다.
• 이 도구는 수십 년 된 코드에 숨어 있는 잠재적 버그를 찾아내고 쉽게 악용할 수 있었습니다.

Claude 사용자에게 널리 제공하기보다는 Anthropic은 Project Glasswing을 통해 12개 기술 기업에 접근 권한을 부여했으며, 이를 “전 세계 가장 중요한 소프트웨어를 보호하기 위한 노력”이라고 설명했습니다. 파트너에는 다음이 포함됩니다:

• Amazon Web Services (클라우드 컴퓨팅)
• Apple, Microsoft, Google (디바이스 제조업체)
• Nvidia, Broadcom (칩 제조업체)
• Crowdstrike(2024년 7월에 큰 글로벌 장애를 일으킨 결함이 있는 소프트웨어 업데이트를 제공한 기업) 및 40개 이상의 핵심 소프트웨어 담당 조직

Project Glasswing 출시와 함께 공개된 영상에서 Anthropic 대표 Dario Amodei는 회사가 미국 정부 관계자와 협력해 “이 모델들의 위험으로부터 방어하는 데 도움을 주겠다”고 제안했다고 말했습니다.

왜 우려가 있나요?

Anthropic은 테스트 중 모델이 사이버 보안 및 해킹 작업에 매우 능숙했으며 인간보다 뛰어나다고 주장합니다.

“Mythos Preview는 이미 수천 건의 고위험 취약점을 발견했으며, 여기에는 모든 주요 운영 체제와 웹 브라우저에 존재하는 취약점도 포함됩니다,”라고 Anthropic은 4월 7일에 밝혔습니다.
“AI 발전 속도를 고려하면, 이러한 능력이 곧 확산되어 안전하게 배포하려는 주체들을 넘어선 행위자들에게까지 전달될 가능성이 있습니다.”

이 모델은 거의 감독 없이도 오래된 시스템의 중요한 버그를 찾아낼 수 있었으며, 27년 동안 존재해 온 취약점도 포함해 이를 악용하는 방법을 제시했습니다.

Reuters – AI 능력에 대한 대중의 두려움이 3월 샌프란시스코에서 시위로 이어졌습니다.

주요 반응

• 캐나다 재무부 장관 프랑수아‑필리프 샹파뉴는 BBC에 Mythos가 워싱턴 DC에서 열린 국제통화기금(IMF) 회의에서 논의되었으며, “모든 재무부 장관들의 관심을 끌 만큼 심각하다”고 말했고, 이 기술을 “알 수 없는 알 수 없음”이라고 묘사했습니다.
• 영국 은행 총재 앤드류 베일리는 규제 당국이 “이번 최신 AI 개발이 사이버 범죄 위험에 어떤 의미가 있을지 매우 면밀히 살펴보고 있다”고 밝혔습니다.
• EU도 Mythos와 관련된 우려 사항에 대해 Anthropic과 논의 중입니다.

Listen: The AI model that’s ‘too powerful’ to be released to the public

사이버 전문가들은 무엇이라고 말했나요?

Ciaran Martin, 영국 국가 사이버 보안 센터(NCSC) 전 책임자는 BBC에 Mythos가 다른 AI 모델보다 훨씬 빠르게 중요한 취약점을 찾아낼 수 있다는 주장이 “사람들을 정말 놀라게 했다”고 말했습니다.

“우리가 알고 있는 기존의 취약점조차도 조직이 아직 패치를 적용하지 않았을 수 있는데, 그것은 정말 뛰어난 해커와 같다,” 라고 그는 말했습니다.

많은 독립 사이버 보안 분석가들은 아직 Mythos를 직접 테스트해 보지 못했으며 그 성능에 대해 회의적인 입장을 유지하고 있습니다. 영국 AI 안전 연구소는 Mythos가 매우 강력한 모델이지만 가장 큰 위협은 방어가 취약한 시스템에 대한 것이라고 결론지었습니다:

“Mythos Preview가 방어가 잘 갖춰진 시스템을 공격할 수 있을지는 확실히 말할 수 없습니다,” 라고 연구진이 적었습니다.
(Source: https://www.aisi.gov.uk/blog/our-evaluation-of-claude-mythos-previews-cyber-capabilities)

우리가 이것에 대해 걱정해야 할까요?

AI와 관련된 두려움은 새로운 것이 아닙니다. 새로운 모델과 도구가 끊임없이 등장하고, 종종 우리의 삶을 혁신한다는 약속과 함께 등장합니다—​좋은 방향이든 나쁜 방향이든. 두려움과 흥분이 뒤섞인 현상은 이 분야 마케팅 전략의 특징이 되었습니다.

Mythos의 경우, 기대와 두려움이 정당한지, 아니면 단순히 업계 과대광고의 반영인지 아직 충분히 알 수 없습니다.

Reuters – Anthropic CEO Dario Amodei가 이전에 회사 제품의 오용에 대해 경고했습니다.

국가 사이버 보안 센터(NCSC)에 따르면, 지금 가장 중요한 것은 당황하지 말고 기본적인 사이버 보안을 제대로 갖추는 데 집중하는 것입니다. 대부분의 해커는 초고성능 AI 도구가 필요하지 않으며, 더 간단한 공격만으로도 충분합니다.

“일부에게는 이것이 종말적인 사건이고, 다른 이들에게는 과도한 과대광고처럼 보입니다,” 라고 마틴은 BBC에 말했습니다.
“중기적으로는 이러한 도구들을 활용해 인터넷의 근본적인 취약점을 많이 개선할 기회가 있습니다.”

Tech Decoded: 매주 월요일, 여러분의 받은 편지함으로 전 세계 최고의 기술 뉴스를 전해드립니다.