AI 파워가 커질수록 제로 트러스트 책임이 필요하다
Source: HashiCorp Blog
기업 보안 환경은 새로운 이중용도 AI 돌파구에 의해 급격히 변화하고 있습니다. Project Glasswing의 제한된 방어 프레임워크 아래 Anthropic의 Claude Mythos Preview가 출시되면서 사이버보안 커뮤니티는 능력의 대폭적인 도약을 목격했습니다. Mythos는 방어 엔지니어링에 있어 뛰어난 자산으로 입증되었으며, 전 세계에서 가장 시스템적으로 중요한 인프라 전반에 걸쳐 10 000개 이상의 핵심 소프트웨어 취약점을 몇 주 만에 자동으로 식별했습니다. Cloudflare와 Mozilla와 같은 론치 파트너는 이전 사이클에 비해 버그 탐지 효율성이 10배 이상 확대되었다고 보고했습니다.
하지만 Claude Mythos를 방어적인 성공으로 만든 특성—자율적 추론, 다단계 익스플로잇 구성, 깊은 컨텍스트 분석—은 이러한 최첨단 능력이 무단 혹은 악의적인 행위자에게 사용될 경우 차세대 위험을 의미합니다.
자율 익스플로잇은 기계 속도로 작동한다
- T+0 분: AI 에이전트가 공개 저장소에서 AWS 액세스 키를 발견
- T+5 분: 자격 증명을 검증하고 S3 버킷을 열거, 과도하게 허용된 IAM 정책 식별
- T+12 분: EC2 메타데이터 서비스로 전환, 더 넓은 자격 증명 추출
- T+18 분: 데이터베이스 자격 증명을 찾아 영구화하고, 데이터 유출 시작
보안 팀의 대응 시간은? 아직 인간 트라이애지가 이루어지지 않은 상태.
이는 이론적인 시나리오가 아니라 새로운 기본 위협 모델입니다. 공격자가 코드베이스를 분석하고 제로데이 취약점을 기계 속도로 연결할 수 있다면, 반응형 보안 모델은 무너집니다.
AI 초능력에 비추어 본 현실적인 방어 질문
새로운 AI 초능력에 직면하면서, 조직이 기존 도구와 역량으로 스스로를 보호할 수 있는 방법에 대한 질문을 많이 받습니다. 힌트: 이 질문에 대한 답은 완전히 새로운 암호화 패러다임을 고안하거나 현재 “보통 인간 수준” 보안 스택을 버리는 것이 아닙니다. 부족한 것은 현재 보안 최선 사례를 엄격하고 자동화된 방식으로 시행하는 것입니다. 제로 트러스트, 신원 기반 접근, 지속적인 비밀 위생이라는 기본 원칙은 자동화만 된다면 자율 위협을 무력화할 수 있습니다.
Mythos의 초능력: 규모, 속도, 컨텍스트
자율 보안 분석 도구에 맞서 기업을 보호하려면 그들의 전술적 행동을 매핑해야 합니다. 공격적이거나 무단으로 사용될 경우, 이러한 모델은 새로운 초능력에 의존하지 않습니다. 대신 기존 인간이 설계한 보안 실수를 전례 없는 규모로 악용합니다.
- 자율 체인 구성: 일반 퍼저는 고립된 버그만 찾습니다. Mythos와 같은 고급 모델은 더 넓은 코드 아키텍처를 가로질러 추론하여, 작은 메모리 손상 결함이 로컬 샌드박스 탈출과 결합돼 실제 원격 코드 실행(RCE) 경로를 만들 수 있음을 발견합니다.
- 컨텍스트 기반 횡적 이동: 초기 접근을 얻은 뒤, 자율 에이전트는 자동화된 포스트 익스플로잇 플레이북을 실행합니다. 환경 변수, 로컬 파일 시스템, 설정 파일, 시스템 메모리를 파싱해 자격 증명을 수집합니다.
- 압축된 익스플로잇 윈도우: 초기 침해 → 자산 탐색 → 횡적 이동 사이의 간격이 며칠에서 몇 분으로 단축됩니다. 현재 텔레메트리는 자동화된 익스플로잇 스캔이 온라인에 취약점이나 자격 증명이 공개된 후 15분 이내에 시작된다고 보여줍니다. 인간‑인‑루프 트라이애지 네트워크는 코드를 패치하거나 자격 증명을 회전시켜 기계 기반 루프를 앞서기엔 역부족입니다.
방어자가 깨달아야 할 핵심은 자율 에이전트는 결국 발견할 수 있는 컨텍스트에 의해 제한된다는 점입니다. 엄격한 보안 위생을 적용하고 정적 목표를 없애면, 에이전트는 활용 가능한 데이터를 빼앗깁니다.
전통적인 방어가 실패하는 이유
전통 보안이 AI 익스플로잇에 맞서 실패하는 이유는 세 가지입니다.
- 인간‑인‑루프 병목: 사고 대응 프로세스는 각 단계마다 인간의 판단을 전제로 합니다—트라이애지, 상관관계 분석, 대응, 검증. 세계 최고 수준의 SOC조차도 몇 시간을 소요합니다. AI 익스플로잇은 몇 분 안에 임무를 완수합니다.
- 정적 자격 증명 구조: 환경 변수, 설정 파일, 컨테이너 비밀에 장기 저장된 자격 증명은 지속적인 표적이 됩니다. AI 에이전트는 암호를 깨는 것이 아니라, 합법적인 접근 권한을 이용해 시스템을 장악합니다.
- 경계 기반 신뢰: 네트워크 내부에 침투하면 AI 익스플로잇은 정당한 서비스‑간 통신과 암묵적인 신뢰 관계를 활용합니다. 방화벽은 정식 애플리케이션과 도난된 자격 증명을 가진 자율 에이전트를 구별하지 못합니다.
방어 프레임워크: 기계 속도의 현재 최선 실천
새로운 AI 능력에 직면해 조직은 기존 도구로 어떻게 방어할 수 있는지 자주 묻습니다. 답은 완전히 새로운 암호화 패러다임을 고안하거나 현재 보안 스택을 교체하는 것이 아니라, 보안 최선 실천을 자동화하고 기계 속도로 적용하는 것입니다. 많은 조직이 최소 권한 접근과 안전한 비밀 저장에 관한 정책을 문서화했지만, 이를 자동화·확장 가능한 방식으로 구현하지 못하고 있습니다.
제로 트러스트, 신원 기반 접근, 지속적인 비밀 위생이라는 기본 원칙은 자동화만 된다면 자율 위협을 중화시킬 수 있습니다.
IBM Vault Radar와 IBM Vault를 결합하면, 보안 팀이 수년간 강조해 온 건전한 아키텍처 원칙을 그대로 활용해 AI 익스플로잇에 대비할 수 있습니다. 차이점은 이러한 원칙을 자율 위협의 속도에 맞춰 실제로 구현하고 자동화한다는 점입니다.
방어 프레임워크의 세 가지 원칙
- 원칙 1: 지속적인 비밀 탐지와 정화를 통해 정적 목표를 제거한다.
- 원칙 2: 침해를 가정하고, 신원 기반 접근 및 동적 자격 증명을 통해 피해 범위를 제한한다.
- 원칙 3: 기계 속도로 자동화하여 자율 익스플로잇의 속도에 맞춘다.
사전 위생: Vault Radar로 컨텍스트 창을 말린다
자율 모델의 지능은 소비하는 정보에 직접 연결됩니다. 에이전트가 과거 자격 증명, 하드코딩된 메타데이터, 평문 아키텍처 맵이 포함된 내부 버전 관리 히스토리에 접근하면, 최적화된 횡적 이동 경로를 설계할 수 있습니다. 가장 효과적인 방어는 깨끗하고 노출되지 않은 코드베이스를 유지하는 것입니다. Vault Radar는 기업 규모에서 이 최선 실천을 자동화하여, 환경 전반에 걸친 변경 사항을 지속적으로 모니터링하고, 실수로 공유된 숨겨진 비밀이나 민감 정보를 찾아냅니다.
“좀비” 비밀 제거
자율 시스템은 전체 버전 관리 시스템(VCS) 히스토리를 파고들어 레거시 커밋에 묻힌 잊혀진 자격 증명을 찾는 데 매우 효율적입니다. Vault Radar는 깊은 히스토리 스캔을 실행해 코드 위생을 자동화합니다. 중요한 점은 거짓 양성 알림 피로를 방지하기 위해, 비활성 자리표시자 문자열을 실제 프로덕션 키와 구분하는 “활성도” 검사를 수행하고, 알려진 안전 토큰에 대한 커스텀 허용 목록을 지원한다는 것입니다. 또한 Vault Radar는 엔트로피 분석을 통해 전통적인 패턴 스캔으로 놓칠 수 있는 복잡한 키를 탐지합니다.
데이터