Anthropic의 Mythos, 5일 만에 작동하는 macOS 익스플로잇 제작 지원

Source: Slashdot

“취약점은 실제로 단순합니다,” Tom’s Hardware가 씁니다: “표준 사용자로 명령을 실행하면 머신에 대한 루트(관리자) 접근 권한을 얻을 수 있습니다.”

그리고 Palo Alto에 기반을 둔 Calif의 보안 연구원들이 5년간 이어진 Apple 보안 방어를 단 5일 만에 우회할 수 있게 해준 것은 Mythos Preview였습니다. 블로그 9to5Mac이 보도합니다:

작년, Apple은 메모리 무결성 강제(Memory Integrity Enforcement, MIE)를 도입했습니다. 이는 메모리 손상 공격을 훨씬 실행하기 어렵게 만들기 위해 하드웨어 지원 메모리 안전 시스템입니다… [연구원들은 이 기능이 iPhone 17 및 iPhone Air의 모든 모델과 일부 MacBook에 내장되어 있다고 밝혔습니다] 그들은 이번 해킹에 대한 55페이지 분량의 기술 보고서를 가지고 있지만, Apple이 해당 취약점에 대한 패치를 배포할 때까지 공개하지 않겠다고 설명했습니다. 다만, Anthropic의 Mythos Preview 모델이 버그를 식별하는 데 도움을 주었으며, 전체 협업 익스플로잇 개발 과정 전반에 걸쳐 지원했음을 넓게 언급했습니다.

“Mythos Preview는 강력합니다: 일단 특정 문제군을 공격하는 방법을 학습하면, 그 군에 속하는 거의 모든 문제에 일반화할 수 있습니다. Mythos가 버그를 빠르게 발견한 이유는 그것들이 알려진 버그 클래스에 속했기 때문입니다. 그러나 MIE는 최신 최고 수준의 방어책이므로, 이를 자동으로 우회하는 것은 까다로울 수 있습니다. 여기서 인간 전문가의 역량이 필요합니다. 우리의 동기 중 하나는 최고의 모델과 전문가가 결합될 때 무엇이 가능한지를 시험해 보는 것이었습니다. 일주일 만에 최고의 방어 체계에 맞서는 커널 메모리 손상 익스플로잇을 성공시킨 것은 주목할 만한 일이며, 이 조합에 대해 강력한 메시지를 전달합니다…”

AI의 도움으로 작은 팀이라도 이번과 같은 발견을 할 수 있는 시대에, 우리는 이제 지구상 최고의 방어 기술이 첫 AI 버그 대재앙에서 어떻게 버틸지 배우게 될