[미토스 이후, 전문가에게 듣는다⑨] 보안 전문가들이 본 AI 시대의 사이버보안, 무엇이 달라졌나
Source: Byline Network
앤트로픽의 새 인공지능(AI) 모델 ‘클로드 미토스(Claude Mythos)’ 등장을 계기로 AI가 사이버보안 분야에 미칠 영향에 대한 논의가 커지고 있다. AI가 취약점을 찾고 공격 경로를 설계하는 능력을 어디까지 갖췄는지, 그리고 이를 방어 체계가 따라갈 수 있는지 등을 두고 우려가 커지고 있다. 바이라인네트워크는 ‘미토스 이후, 전문가에게 듣는다’ 시리즈로 미토스 프리뷰를 접한 전문가들의 견해와 에이전틱 AI 시대의 사이버보안 대응 방향을 살펴본다. 9편과 10편에서는 앞선 인터뷰에서 나온 내용을 ‘진단’과 ‘대응’으로 나눠 정리한다. 9편은 전문가들이 미토스 이후 AI 보안 위협을 어떻게 진단했는지에 초점을 맞췄다. [편집자주]
[미토스 이후, 전문가에게 듣는다①] 윤인수 카이스트 교수 “AI가 숨은 취약점 다 찾아낼 것”
[미토스 이후, 전문가에게 듣는다②] 이상근 고려대 교수 “사이버보안 전략 무기가 되는 시대”
[미토스 이후, 전문가에게 듣는다③] 박관순 티오리 CISO “AI 해킹, 모델보다 시스템 싸움”
[미토스 이후, 전문가에게 듣는다④] 최영철 SGA솔루션즈 대표 “미토스는 핵폭탄, 제로 트러스트 전환 앞당겨야”
[미토스 이후, 전문가에게 듣는다⑤] 윤두식 이로운앤컴퍼니 대표 “AI 보안의 출발점은 거버넌스”
[미토스 이후, 전문가에게 듣는다⑥] 최경진 가천대 교수 “AI 시대의 법제도, ‘책임 있는 이용’ 논의 시작해야”
[미토스 이후, 전문가에게 듣는다⑦] 곽진 아주대 교수 “AI 기업이 글로벌 안보 지형 바꾸는 시대 왔다”
[미토스 이후, 전문가에게 듣는다⑧] 김창훈 대구대 교수 “AI 위협은 사이버 팬데믹, 취약한 곳부터 긴급 방어 체계 필요”
[미토스 이후, 전문가에게 듣는다⑨] 보안 전문가들이 본 AI 보안 위협, 무엇이 달라졌나 (이번호)
(출처=AI 생성 이미지)
앤트로픽의 AI 모델 미토스 이후의 변화에 대한 국내 보안 전문가들의 진단을 종합하면 이렇다. “미토스는 단순히 취약점을 잘 찾는 AI 모델이 아니라 사이버 공격의 비용과 속도, 방어자의 대응 구조, 국가안보와 기업 거버넌스의 전제를 함께 흔드는 강력한 신호”라는 것이다.
이 변화는 몇 가지 흐름으로 이어진다. 먼저 AI는 공격자가 취약점을 찾고 검증하는 비용을 낮춘다. 사람이 직접 하던 코드 분석과 공격 가능성 검토를 AI가 대신하거나 보조하면, 더 짧은 시간에 더 많은 취약점을 찾아낼 수 있다. 그렇게 발견된 수많은 취약점은 단순한 기술 결함에 그치지 않는다. 누가 먼저 찾고, 고치고, 정보를 통제하느냐에 따라 국가안보와 산업 경쟁력에 영향을 주는 자산이 된다. 그리고 방어자는 더 많은 취약점과 더 짧은 대응 시간에 쫓긴다. 여기에 AI 에이전트가 업무 시스템과 연결되면 권한 위임, 행위 기록, 사고 책임 문제까지 함께 커진다.
공격 비용 낮춘 AI, 자동화 넘어 자율화로
윤인수 카이스트 교수는 미토스 등장 이후의 핵심을 ‘사이버 공격 비용의 하락’으로 짚었다. 사이버 공격은 원래 시간과 비용이 많이 드는 작업이다. 공격자는 대상 시스템을 분석하고, 취약점을 찾고, 이를 실제 공격으로 연결할 방법을 검토해야 한다.
AI가 이 과정을 줄이면 공격의 경제성이 달라진다. 공격자가 직접 오랜 시간 들여다보지 않았기 때문에 안전해 보였던 시스템도 위험해질 수 있다. 윤 교수는 AI가 숨은 취약점을 대량으로 찾아낼 경우, 그동안 공격자의 관심 밖에 있던 시스템까지 공격 대상이 될 수 있다고 봤다.
곽진 아주대학교 사이버보안학과 교수의 진단은 여기서 한 걸음 더 나아간다. 공격 비용을 낮추는 수준을 넘어, AI 기반 공격 도구가 ‘자동화’에서 ‘자율화’로 이동하고 있다는 것이다. 기존 AI 기반 공격 도구는 사람이 프롬프트를 바꾸고, 결과를 해석하고, 다음 명령을 내려야 했다. 도구의 속도는 빨랐지만 사람의 개입이 컸다.
실제로 최근 공개된 미토스는 단순 자동화를 넘어서는 성능을 보였다. 앤트로픽은 지난달 시작한 글래스윙 프로젝트에서 미토스 프리뷰가 협력 기관과 기업의 소프트웨어 취약점 점검에 활용됐고, 전체적으로 1만건이 넘는 취약점 발견에 기여했다고 밝혔다. 미토스가 코드 분석 결과를 바탕으로 취약점 가능성을 찾고, 이를 실제 익스플로잇 구성으로 이어가는 수준을 보였다는 것이다. 윤 교수가 말한 공격 비용 하락이 곽 교수가 말한 자율화와 맞닿는 지점이다.
클라우드플레어는 글래스윙 프로젝트 참여 과정에서 미토스 프리뷰를 자사 코드 저장소에 적용했다. 클라우드플레어는 미토스가 단순히 의심되는 버그를 나열하는 데 그치지 않고, 여러 약한 신호를 조합해 익스플로잇 가능성을 검증하는 데 강점을 보였다고 평가했다. 다만 일반 코딩 에이전트를 저장소에 붙이는 방식만으로는 충분하지 않다고 봤다. 범위를 좁힌 작업, 병렬 에이전트, 독립 검증, 중복 제거, 구조화된 보고 체계가 함께 있어야 의미 있는 결과가 나온다는 설명이다.
전문가들은 미토스가 사이버보안 특화 모델이 아니라 범용 모델이라는 점에도 주목했다. 곽진 교수는 ”클로드는 코드 리뷰와 바이브 코딩에서 강점을 보여온 범용 AI 모델이다. 그런데 이 코드 이해 능력이 보안 취약점 탐지와 공격 구성으로 연결됐다”며 ”이는 앞으로 다른 범용 AI 모델도 특정 보안 작업을 수행할 수 있을 가능성을 보여준다”고 설명했다.
박관순 티오리 최고정보보호책임자(CISO)도 비슷한 문제의식을 제기했다. 그는 AI 취약점 탐지의 핵심을 모델 하나로 좁혀서는 안 된다고 봤다. 티오리는 ‘유 돈트 니드 미토스. 유 니드 어 시스템(You Don’t Need Mythos. You Need a System)’ 백서에서 모델 성능뿐 아니라 하네스와 오케스트레이션 같은 시스템 구성이 중요하다고 설명했다. 하네스는 AI가 코드를 실행하고 시험할 수 있게 만든 테스트 환경이다. 오케스트레이션은 여러 AI 에이전트가 역할을 나눠 움직이도록 조율하는 구조다. 단순히 대규모언어모델(LLM)에 코드를 넣고 “취약점을 찾아달라”고 묻는 방식과 달리, AI가 코드를 시험하고 여러 후보 경로를 검증할 수 있는 시스템이 결합될 때 결과가 달라진다는 설명이다.
이처럼 AI는 공격자가 들여야 했던 탐색 비용을 낮추고, 사람이 하던 분석과 검증 일부를 자동화하며, 여러 단계의 작업을 자율적으로 이어가는 방향으로 움직이고 있다. 여기에 코드 실행 환경과 에이전트 구조가 붙으면 공격과 방어의 방식 자체가 달라질 수 있다.
취약점 정보, 국가안보에 영향 미치는 ‘전략 자산’ 됐다
AI가 취약점을 더 빨리 찾고 공격 가능성을 검증할 수 있게 되면, 취약점의 의미도 달라진다. 이상근 고려대학교 정보보호대학원 스마트보안학부 교수는 미토스를 ‘AI 패권 경쟁’과 ‘국가안보’의 관점에서 봤다.
이 교수는 ”코딩을 잘하는 AI가 보안을 잘하게 되고, 그 능력이 취약점 탐지와 공격 도구 생성, 심각도 분류, 패치 자동화로 이어지면 사이버보안 자체가 전략 자산이 된다”고 설명했다. 취약점은 단순한 기술 결함이 아니라 누가 먼저 찾고, 누가 먼저 고치며, 누가 그 정보를 통제하느냐의 문제가 된다.
특정 국가나 기업이 고도화된 AI 모델로 취약점을 먼저 찾고 위험도를 분류할 수 있다면, 다른 국가는 그 분석 결과에 의존할 수밖에 없다. 이 경우 취약점 정보와 대응 능력은 안보 자산이자 협상 카드가 될 수 있다.
곽진 교수도 같은 맥락을 짚었다. 그는 고성능 AI 모델을 가진 빅테크 기업이 취약점 탐지와 보안 대응 정보를 쥐게 되면, 국가의 사이버안보 대응도 민간 AI 기업의 기술과 정책에 영향을 받을 수 있다고 봤다. 이제는 한 국가의 안보 프레임 자체를 빅테크 기업이 바꿀 수 있다는 진단이다.
이런 흐름은 접근권 경쟁으로 이어지고 있다. 글래스윙 프로젝트는 앤트로픽이 미토스 프리뷰 접근권을 제한된 기관과 기업에 제공해 주요 소프트웨어의 취약점을 사전에 찾고 조치하도록 하는 협력 프로그램이다. 미토스 같은 고성능 AI 모델을 누가 먼저 쓰고, 어떤 범위에서 활용할 수 있는지가 각국의 방어 역량과 연결되는 구조다.
앤트로픽은 최근 글래스윙 프로젝트 참여 대상을 기존 50여곳에서 150~200곳 수준으로 확대하는 방안을 추진하고 있다. 한국도 이 논의에 참여했다. 과학기술정보통신부는 한국인터넷진흥원(KISA)이 글래스윙 프로젝트에 참여해 미토스 접근권을 확보했다고 밝혔다. 국내 기업 중에서는 삼성전자, SK하이닉스, SK텔레콤 등이 참여한 것으로 알려졌다.
미국 정부도 고위험 AI 모델의 사이버 역량을 사전에 점검하는 방향으로 움직이고 있다. 로이터 등 주요 외신은 도널드 트럼프 미국 대통령이 주요 AI 기업에 첨단 모델을 공개 전 정부 사이버보안 테스트에 자발적으로 제출하도록 하는 행정명령에 서명했다고 보도했다. 미토스 같은 모델이 취약점 탐지와 익스플로잇 설계에 활용될 수 있다는 우려가 커지면서, 모델 출시 전 검증과 접근 통제가 정책 쟁점으로 올라오고 있다.
공격과 방어의 비대칭성 증가, 패치 수요 폭증
취약점이 전략 자산이 되는 이유는 시간 때문이다. 공격자는 AI를 활용해 많은 공격 경로를 빠르게 시험하고 하나만 성공해도 된다. 반면 방어자는 모든 가능성을 고려해야 한다. 취약점을 확인하고, 패치를 만들고, 테스트하고, 승인 절차를 거쳐 배포한 뒤 서비스에 문제가 없는지도 봐야 한다.
곽진 교수는 이 구조를 공격자와 방어자 사이의 ‘시간의 비대칭성’으로 설명했다. 공격자는 도구를 돌려 공격 포인트를 찾으면 바로 시도할 수 있다. 하지만 방어자는 패치와 검증, 배포, 배포 후 확인까지 거쳐야 한다. AI가 공격 속도를 높일수록 방어자가 느끼는 압박은 더 커질 수밖에 없다.
최영철 SGA솔루션즈 대표도 비슷한 문제를 지적했다. 그는 미토스를 “사이버 세계의 핵폭탄”에 비유하며, AI가 오픈소스와 응용 소프트웨어의 취약점을 대량으로 찾아낼 경우 패치 수요가 폭증할 수 있다고 우려했다.
더 큰 문제는 취약점이 많이 발견된다고 해서 모두 바로 고칠 수 있는 게 아니라는 점이다. 방어자는 어떤 패치를 먼저 적용할지, 패치를 적용했을 때 서비스가 멈추는지, 패치 전까지 어떤 통제로 버틸 지를 판단해야 한다. 취약점 탐지 능력이 올라갈수록 패치 우선순위와 영향성 평가는 더 중요해진다.
김창훈 대구대학교 교수는 이 지점에서 국내 대응이 취약점 탐지와 패치에 과도하게 매몰돼 있다고 지적했다. 취약점을 찾고 패치를 빨리 하는 일은 필요하지만, 본질은 실제 공격을 막는 것이다. 패치가 나오기 전에도 뚫리지 않는 구조, 패치를 바로 적용하기 어려운 기관을 보호하는 구조가 필요하다는 진단이다.
AI 위협, 보안이 약한 조직에서 먼저 가시화될 것
방어자가 시간에 쫓기는 구조는 모든 조직에 같은 영향을 주지 않는다. 보안 인력과 예산, 장비와 관제 체계를 갖춘 조직은 상대적으로 대응할 여지가 있다. 반면 보안 여력이 약한 조직은 취약점이 발견돼도 바로 고치기 어렵다.
김창훈 교수는 미토스 이후 위협을 “사이버 팬데믹처럼 봐야 한다”고 강조했다. AI 기반 공격 도구가 확산되면 특정 대형 기관 한 곳만의 문제가 아니라, 보안 여력이 부족한 조직 여러 곳으로 빠르게 번질 수 있다는 것이다.
그가 주목한 공격 대상은 대형 금융기관보다 보안 투자가 상대적으로 약한 중소 금융권과 국가 기반 산업에 필요한 기술을 보유한 민간 기업이다. 대형 금융기관은 포렌식과 관제, 대응 체계를 비교적 잘 갖추고 있다. 반면 중소 금융기관이나 방산·에너지·핵심 기술 관련 중소기업은 중요 정보가 있어도 보안 장비와 운영 인력이 부족할 수 있다.
이는 미토스 대응이 사이버보안 특화 AI 모델을 통한 취약점 탐색과 패치에 대한 논의에만 국한되서는 안 된다는 뜻이다. AI 공격 도구가 확산될 때 실제 피해가 먼저 가시화될 수 있는 곳은 보안 투자가 부족한 조직이다. 따라서 위협 진단은 “AI가 얼마나 강한가”를 넘어서서 그럼 “누가 먼저 공격받을 것인가”를 함께 봐야 한다.
AI 에이전트의 보안 위협은 ‘권한과 신원의 문제’
미토스 논의는 AI 에이전트 보안과도 연결된다. AI가 취약점을 찾고 공격 경로를 설계하는 수준을 넘어, 실제 시스템에 접근하고 도구를 호출하며 업무를 수행하는 단계로 가면 보안 문제는 더 복잡해진다.
이상근 교수는 AI 에이전트를 위한 보안 과제로 권한 위임, 비인간 신원(NHI), 행동 관측을 꼽았다. AI 에이전트가 사람의 권한을 위임받아 파일에 접근하고, 코드를 실행하고, 메일을 보내고, 시스템을 호출하는 순간 보안 문제는 달라진다.
사용자는 특정 권한만 줬다고 생각할 수 있다. 그러나 에이전트가 다른 도구를 호출하거나 다른 에이전트와 연결되면 원래 허용하지 않은 행동으로 이어질 수 있다. 비인간 신원은 사람 계정이 아니라 애플리케이션, 서비스 계정, 토큰, 자동화 도구, AI 에이전트처럼 기계나 소프트웨어가 사용하는 신원을 뜻한다. 에이전트가 누구에게 권한을 위임받았는지, 어떤 시스템에 접근했는지, 어떤 도구를 호출했는지 알 수 있어야 한다.
윤두식 이로운앤컴퍼니 대표는 이 문제를 AI 거버넌스와 가시성의 문제로 봤다. 기업은 누가 어떤 AI 모델을 쓰고, 어떤 데이터를 입력했으며, 어떤 결과를 받았는지 볼 수 있어야 한다. 보안 담당자가 AI 사용 흐름을 보지 못하면 민감정보 유출, 프롬프트 공격, 에이전트 권한 남용을 통제하기 어렵다.
최영철 대표도 AI 에이전트는 사용자와 자산처럼 관리해야 한다고 봤다. 에이전트가 업무 시스템과 연결되면 기존 보안 제품 하나로 통제하기 어렵다. 접근 권한, 행위 로그, 시스템 호출, 데이터 이동을 함께 봐야 한다. 전문가들이 제로 트러스트와 국가망보안체계(N2SF)를 빠르게 도입해야 한다고 하는 이유도 여기에 있다.
AI 에이전트 상용화, 법적 책임 문제로 번진다
AI 에이전트가 실제로 업무를 수행하면 책임 문제도 따라온다. 최경진 가천대학교 법과대학 교수는 미토스 이후 논의를 법제의 관점에서 봤다. 그는 AI 에이전트가 업무를 실행하고, 공격이나 보안 관련 업무를 수행하는 환경에서는 ‘책임 있는 이용’에 대한 법제 논의가 시급하다고 강조했다.
지금까지 AI 규제 논의가 개발자와 공급자 중심이었다면, 앞으로는 AI를 실제 업무와 거래, 보안 점검에 쓰는 이용자의 책임도 함께 봐야 한다는 설명이다. AI 에이전트가 메일을 보내고, 문서를 수정하고, 시스템을 호출하더라도 법적 효과와 책임은 기본적으로 이를 지시하고 활용한 사람이나 사업자에게 귀속된다는 것이다.
다만 시스템의 결정적 오류나 설계상 하자가 있으면 개발사나 서비스 제공자의 책임도 별도로 문제 될 수 있다. 이 때문에 기업은 AI 에이전트가 어떤 권한으로 어떤 행위를 했는지 기록하고, 사용 범위와 승인 절차를 내부 규정으로 정해야 한다.
취약점 점검 체계도 법제의 쟁점이다. AI가 취약점 탐지 속도를 높일수록 합법적으로 취약점을 찾고 공유할 수 있는 절차가 필요하다. 그러나 현행 법제에서는 선의의 점검도 법적 위험을 안을 수 있다. 최 교수는 단순히 버그바운티를 도입하는 데 그치지 말고, 취약점 점검 절차, 보상, 정보 공유, 책임 분담을 함께 설계해야 한다고 봤다.
정부는 지난달 29일부터 국내 첫 ‘보안취약점 상시 신고조치제’ 시범사업을 추진한다고 밝혔다. 보안 연구자가 정해진 절차와 범위 안에서 취약점을 신고하고, 관계 기관과 기업이 이를 조치하는 구조를 만들겠다는 취지다. 이는 최 교수가 말한 합법적 취약점 점검 체계와 직접 맞닿는 흐름이다.
(출처=AI 생성 이미지)
전문가들의 진단은 한 방향으로 모인다. 미토스 이후의 위협은 특정 AI 모델의 성능 문제가 아니라, 보안 운영 패러다임의 변화로 봐야 한다는 것이다. 누가 어떤 자산을 갖고 있는지, 어디가 먼저 공격받을지, 방어자는 어느 시간 안에 대응할 수 있는지, AI 에이전트는 어떤 권한을 가져야 하는지, 사고가 났을 때 책임은 누구에게 있는지가 모두 중요한 쟁점으로 떠올랐다.
글. 바이라인네트워크