[미토스 이후, 전문가에게 듣는다⑧] 김창훈 대구대 교수 “AI 위협, 사이버 팬데믹처럼 대응해야”
Source: Byline Network
앤트로픽의 새 인공지능(AI) 모델 ‘클로드 미토스(Claude Mythos)’ 등장을 계기로 AI가 사이버보안 분야에 미칠 영향에 대한 논의가 커지고 있다. AI가 취약점을 찾고 공격 경로를 설계하는 능력을 어디까지 갖췄는지, 그리고 이를 방어 체계가 따라갈 수 있는지 등을 두고 우려가 커지고 있다. 바이라인네트워크는 ‘미토스 이후, 전문가에게 듣는다’ 시리즈로 미토스 프리뷰를 접한 전문가들의 견해와 에이전틱 AI 시대의 사이버보안 대응 방향을 살펴본다. 그 여덟 번째로 김창훈 대구대학교 교수를 인터뷰했다. 김 교수는 사이버안보학회 N2SF연구회 회장이자, 국가AI전략위원회 보안특별위원회 위원으로 활동하고 있다. [편집자주]
[미토스 이후, 전문가에게 듣는다①] 윤인수 카이스트 교수 “AI가 숨은 취약점 다 찾아낼 것”
[미토스 이후, 전문가에게 듣는다②] 이상근 고려대 교수 “사이버보안 전략 무기가 되는 시대”
[미토스 이후, 전문가에게 듣는다③] 박관순 티오리 CISO “AI 해킹, 모델보다 시스템 싸움”
[미토스 이후, 전문가에게 듣는다④] 최영철 SGA솔루션즈 대표 “미토스는 핵폭탄, 제로 트러스트 전환 앞당겨야”
[미토스 이후, 전문가에게 듣는다⑤] 윤두식 이로운앤컴퍼니 대표 “AI 보안의 출발점은 거버넌스”
[미토스 이후, 전문가에게 듣는다⑥] 최경진 가천대 교수 “AI 시대의 법제도, ‘책임 있는 이용’ 논의 시작해야”
[미토스 이후, 전문가에게 듣는다⑦] 곽진 아주대 교수 “AI 기업이 글로벌 안보 지형 바꾸는 시대 왔다”
[미토스 이후, 전문가에게 듣는다⑧] 김창훈 대구대 교수 “AI 위협은 사이버 팬데믹, 취약한 곳부터 긴급 방어 체계 필요” (이번호)
김창훈 대구대학교 교수는 미토스 이후 국내 AI 보안 대책이 보안 특화 모델 개발, 취약점 탐지, 빠른 패치 등 일부분에 매몰돼 있다고 봤다. 모두 필요한 과제지만, 당장 공격자가 어디를 노릴지와 실제로 어떻게 막을지를 먼저 봐야 한다는 지적이다.
김 교수는 미토스 이후 사이버위협을 “사이버 팬데믹처럼 봐야 한다”고 강조했다. AI 기반 공격 도구가 확산되면 특정 대형기관 한 곳만의 문제가 아니라, 보안 여력이 부족한 조직 여러 곳으로 빠르게 번질 수 있기 때문이다. 팬데믹 상황에서 취약 계층을 먼저 보호하듯, 사이버 영역에서도 취약한 기관을 먼저 파악하고 긴급 방어 체계를 마련해야 한다는 설명이다.
김 교수는 “본질은 막는 것”이라며 “취약점을 찾고 패치를 빠르게 하자는 논의와 대책이 나오고 있지만, 정작 어디가 공격받을 가능성이 큰지, 그 기관을 실제로 어떻게 보호할지에 대한 현실적인 논의는 부족한 상황”이라고 짚었다.
“어디가 공격받을지부터 봐야 한다”
김 교수는 미토스 대응을 논의할 때 공격자의 관점에서 현실적으로 봐야 한다고 했다. AI 기반 공격 도구가 보급되면 공격자는 가장 어렵고 방어가 강한 대상을 먼저 노리지 않는다. 돈이나 가치 있는 데이터를 보유했지만 보안 수준은 상대적으로 낮은 곳을 찾는다는 것이다.
그가 주목한 공격 대상은 대형 금융기관보다 보안 투자가 상대적으로 약한 중소 금융권과 국가 기반 산업에 필요한 기술을 보유한 민간 기업이다. 대형 금융기관은 포렌식과 관제, 대응 체계를 비교적 잘 갖추고 있다. 반면 중소 금융기관이나 방산·에너지·핵심 기술 관련 중소기업은 중요 정보가 있어도 보안 장비와 운영 인력이 부족할 수 있다.
그는 “대형 금융기관은 공격을 받더라도 탐지와 포렌식 구조가 잘 돼 있어 공격자가 빠져나가기 어렵다”며 “오히려 돈은 있지만 보안이 막강하지 않은 중소 금융권이나 중요 민간 기업이 타깃이 될 수 있다”고 말했다.
김 교수는 과학기술정보통신부와 금융위원회 등 정부가 내놓은 대책에 대해서도 “방향 자체가 틀렸다고 보지는 않는다”면서도 “현장에서 당장 필요한 긴급 방어 대책이 충분히 보이지 않는다”고 평가했다. 취약점을 찾아냈는데 해당 기관의 장비가 오래돼 바로 교체할 수 없거나, 고가의 탐지 장비를 도입할 예산이 없다면 어떻게 지원할 것인지에 대한 대책이 빠졌다는 지적이다.
김 교수는 이런 조직을 위한 클라우드 기반 임시 방어 체계, 즉 ‘사이버 대피소’ 같은 긴급 대응이 필요하다고 봤다. 미토스 같은 AI 기반 공격 능력이 확산되면 보안 여력이 부족한 조직 전반의 위험으로 번질 수 있는 만큼, 코로나19 팬데믹 당시 임시 대응 체계를 마련했듯 사이버 영역에서도 긴급 방어 체계를 검토해야 한다는 설명이다.
**긴급 대응에는 ****‘사이버 대피소’**가 필요하다
김 교수가 제시한 단기 긴급 대책은 ‘클라우드 기반의 임시 방어 체계’다. 그는 이를 ‘사이버 대피소’ 또는 ‘사이버 실드 돔’ 개념으로 설명했다. 보안 장비와 인력이 부족한 중소 금융기관이나 중요 민간 기업이 외부 공격을 직접 받지 않도록, 강한 보안 기능을 갖춘 클라우드 방어 구간을 거치게 하자는 구상이다. 이는 외부 이용자가 접속하는 웹 서비스나 대외 연계 구간 앞단에 클라우드 기반 웹 방화벽, 디도스 방어, 이상 행위 탐지, 접근통제 기능을 두는 방식에 가깝다. 공격 트래픽을 기관 내부 시스템에 닿기 전에 걸러내는 완충지대를 만들자는 것이다.
예를 들어 온프레미스 환경에서 오래된 웹 방화벽이나 보안 장비를 쓰는 기관은 최신 공격을 충분히 걸러내기 어렵다. 이런 기관이 외부 접속을 직접 받는 대신, 보안 기능을 갖춘 클라우드 구간을 거쳐 접속을 받으면 웹 공격이나 이상 행위를 일부 걸러낼 수 있다.
김 교수는 “모든 중소 금융기관에 고가 보안 장비를 당장 지원하기는 어렵다”며 “보안 기능을 갖춘 클라우드 대피소를 만들고, 보안이 취약한 기관이 그 구간을 거쳐 서비스를 운영하게 하는 것이 현실적인 긴급 대책이 될 수 있다”고 말했다.
이어 그는 “이미 클라우드를 쓰는 기관이라면 일정 기간 보안 기능이 강화된 임시 클라우드 환경으로 옮기는 방식도 검토할 수 있다”고 덧붙였다. 과거 분산서비스거부(DDoS) 공격 대응에서 임시 대피소 개념이 쓰였던 것처럼, 미토스 이후에는 자산과 서비스를 보호하는 한시적 대피소가 필요하다는 설명이다.
**보안 특화 모델보다 ****‘****사이버보안 특화 ****LLM 서비스’**가 먼저
김 교수는 정부와 여러 전문가들이 언급하는 ‘보안 특화 독자 파운데이션 모델’ 논의도 현실적으로 봐야 한다고 했다. 보안 특화 모델 개발 자체가 불필요하다는 뜻은 아니다. 다만 지금 당장 필요한 일은 새로운 거대 모델을 만드는 것보다, 기존 모델을 활용해 실제 방어 대책을 설계하는 보안 서비스라는 지적이다.
그는 “보안 특화 모델은 아직은 너무 먼 이야기일 수 있다”며 “차라리 새로운 취약점이나 공격이 나왔을 때 주변 환경에서 어떻게 빨리 막을지 알려주는 대규모언어모델(LLM) 기반 보안 서비스를 만드는 게 더 현실적이다”고 말했다.
김 교수가 말한 서비스는 특정 기관의 시스템 구성, 보안 장비, 네트워크 구조, 데이터 중요도, 접근 경로를 고려해 어떤 통제를 어느 지점에 넣어야 하는지 제안하는 AI다. 예를 들어 특정 취약점이 발견됐을 때 패치가 아직 어렵다면 방화벽 정책, 접속 경로 제한, 인증 강화, 데이터 이동 차단, 네트워크 분리 등 대체 방어책을 제시해야 한다는 것이다.
그는 “패치를 하지 않았어도 뚫리지 않는 구조를 구축하는 게 중요하다”며 “결국 필요한 건 심층 방어 체계”라고 말했다.
**N2SF****는 ****‘망분리 폐지’**가 아니라 차등화된 방어 체계
김 교수는 미토스 이후 공공 보안 체계에서도 N2SF의 철학을 제대로 볼 필요가 있다고 짚었다. N2SF는 단순히 기존 망분리를 없애는 논의가 아니라, 데이터와 업무 중요도에 따라 보안 수준을 달리 적용하고 여러 보안 통제를 겹쳐 외부와 연계하는 심층 방어 체계라는 설명이다.
그는 “최근에 금융권에서 나오는 ‘망분리 폐지’라는 표현은 적절하지 않다”며 “N2SF 기반의 차등화된 개방과 연계 체계라고 해야 한다”고 말했다. 그는 망분리 폐지라는 단어가 공공망을 무조건 열어버리는 것처럼 오해될 수 있고, 사고가 발생했을 때 사이버 심리전에 악용될 수도 있다고 우려했다.
김 교수는 특히 미토스 이후에는 보안 패치 체계도 N2SF 관점에서 다시 볼 필요가 있다고 했다. 기존 망분리 환경에서는 외부에서 내려받은 패치 파일을 보안 USB에 담아 내부망 패치 서버로 옮기는 방식이 쓰였다. 이는 보안성은 높아 보이지만, 사람이 개입하는 과정이 많고 실시간 패치가 어렵다는 단점이 있었다.
그는 N2SF 기반의 심층 방어 체계를 적용하면 외부 패치 시스템과 내부망을 바로 연결하더라도 더 안전하고 빠른 패치가 가능하다고 봤다. 다중 인증, 승인 절차, 정책 기반 경로 통제, 파일 무결성 검증, 메타데이터 필터링, 권한 분리 등을 AI 에이전트 기반으로 여러 단계에 배치하면 사람 중심의 수동 패치보다 더 안정적인 구조를 만들 수 있다는 것이다.
아래는 김 교수와의 일문일답이다.
Q. 미토스 이후 국내 보안 대책을 어떻게 평가하나**.**
지금 여러 부처와 기관에서 미토스와 관련해 AI 보안 대응을 논의하고 있다. 방향 자체가 틀렸다고 보지는 않는다. 다만 아쉬운 점은 대책이 몇 가지 키워드에 너무 매몰돼 있다는 것이다.
크게 보면 ▲보안 전용 독자 파운데이션 모델 개발 ▲취약점 점검 ▲빠른 패치다. 이 세 가지가 계속 나온다. 물론 모두 필요한 이야기다. 하지만 본질은 “어떻게 막을 것인가”다. 미토스 같은 AI 기반 공격이 실제로 터졌을 때 어디가 가장 많이 공격받을지, 그 대상을 어떻게 보호할지부터 봐야 한다.
공격자 관점에서 생각해봐야 한다. 돈도 있고 정보도 있는데 보안 체계가 제대로 갖춰지지 않은 곳이 어딘지를 말이다. 대형 금융기관은 보안관제와 포렌식 구조가 잘 돼 있다. 공격자가 들어가도 로그와 흔적을 모두 지우고 나오기 어렵다. 반면 중소 금융기관이나 중요 기술을 가진 민간 기업은 보안 투자가 충분하지 않을 수 있다. 이런 곳이 먼저 타깃이 될 수 있다. 이런 취약한 곳들을 어떻게 현실적으로 보호할지를 현실적으로 고민해야 한다.
Q. 실제 공격 대상은 어디가 될 가능성이 크다고 보나**.**
대형 금융기관보다 보안 체계가 상대적으로 약한 중소 금융권을 먼저 봐야 한다. 상호금융, 저축은행, 대부업 등에는 돈과 개인정보, 신용정보가 있다. 그런데 대형 은행만큼 보안 장비와 인력, 포렌식 구조를 갖추기는 어렵다.
민간 분야도 마찬가지다. 방산, 에너지 등 국가의 핵심 기술을 개발하는 중소기업이나 스타트업은 아주 중요한 기술을 갖고 있을 수 있다. 하지만 보안 체계는 취약할 수 있다. 공격자가 가치 있는 자료를 탈취하려 한다면 이런 곳을 노릴 가능성이 있다.
그래서 대책은 “취약점을 많이 찾았다”에서 끝나면 안 된다. 취약점을 찾았는데 장비가 오래돼 교체할 수 없거나, 탐지 장비를 새로 살 예산이 없으면 어떻게 할 것인가. 모든 기관에 고가 보안 장비를 바로 지원할 수 없다면 다른 방식의 긴급 방어 체계가 필요하다.
Q. 어떤 긴급 방어 체계가 필요하다고 보나**.**
클라우드 기반의 사이버 대피소 개념을 생각할 수 있다. 보안 기능이 강한 클라우드 방어 구간을 만들고, 보안이 취약하지만 중요한 기술과 인프라를 가진 기업이나 기관이 그 구간을 거쳐 외부 접속을 받게 하는 방식이다. 일종의 ‘사이버 실드 돔’이다.
예를 들어 어떤 중소 금융기관이 온프레미스 환경에서 오래된 웹 방화벽을 쓰고 있다고 해보자. 외부 사용자가 그 기관의 웹 서버에 직접 접속하지 않고, 보안 기능이 강한 클라우드 구간을 먼저 거치게 할 수 있다. 그 구간에서 웹 공격, 비정상 접근, 이상 행위, 데이터 유출 가능성을 먼저 걸러내는 것이다.
이미 클라우드를 쓰는 기관이라면 보안 기능이 강화된 임시 클라우드 환경으로 옮기는 방식도 가능하다. 코로나19 때 긴급 대응 체계를 만든 것처럼, 미토스 같은 모델의 등장은 ‘사이버 팬데믹’이나 ‘사이버 재난’으로 봐야 한다. 그러면 공격으로부터 방어가 가능한 한시적 대피소와 긴급 지원 체계가 필요하다.
(출처=AI 생성 이미지)
Q. 보안 특화 독자 파운데이션 모델 개발 논의는 어떻게 보나**.**
보안 특화 독자 파운데이션 모델 얘기가 미토스 이후에 계속 나오고 있다. 그런 모델을 만드는 것이 불필요하다는 말은 아니다. 다만 지금 당장 필요한 것인지, 현실적인 우선순위가 맞는지는 따져봐야 한다. 독자 파운데이션 모델도 아직 충분히 자리 잡지 못한 상황에서 보안 전용 거대 모델을 새로 만드는 것은 상당한 투자액과 시간이 필요하다.
현실적으로 지금 필요한 것은 보안 특화 LLM 서비스다. 기존 모델을 잘 학습시키고, 보안 전문가가 개입해 추론 결과를 다듬고, 실제 방어 정책을 제안할 수 있는 서비스를 먼저 만들어야 한다.
중요한 것은 취약점을 찾는 AI만 만들 것이냐는 점이다. 새로운 취약점이나 공격 기법이 나왔을 때 “이 환경에서는 어떻게 빨리 막을 것인가”를 알려주는 AI가 필요하다. 방화벽 정책을 어떻게 바꿀지, 어느 구간을 차단할지, 어떤 인증을 강화할지, 어떤 데이터 흐름을 막을지 제안할 수 있어야 한다. 바로 현장에 적용할 수 있는 보안 설계를 도와주는 AI 서비스가 먼저다.
Q. 취약점 점검과 패치 논의가 지나치게 많다고 봤는데**.**
취약점 점검은 중요하다. 패치도 필요하다. 하지만 패치하면 보안이 모두 해결되는 것은 아니다. 제로데이처럼 아직 패치가 없는 취약점도 있고, 패치를 적용하기 어려운 환경도 많다.
패치에 대한 논의에 너무 많은 에너지를 쏟고 있다. 패치를 빨리해야 한다는 건 맞지만, 그것만으로는 부족하다. 패치를 하지 않았어도 뚫리지 않는 구조가 중요하다. 특정 취약점이 발견됐을 때 패치 전까지 어떻게 버틸 것인지, 어떤 통제를 임시로 넣을 것인지가 더 중요할 수 있다.
결국 ‘심층 방어 체계’를 구축해야 한다. 한 가지 장비나 한 번의 패치에 의존하지 말고 여러 단계의 방어를 겹쳐야 한다. 접속 경로, 인증, 권한, 네트워크, 데이터 이동, 로그와 탐지를 모두 같이 봐야 한다. 제로 트러스트, N2SF 개념이 중요한 이유도 여기에 있다.
Q. N2SF는 이런 문제를 어떻게 풀 수 있나.
국가망보안체계(N2SF)의 핵심은 단순히 망을 열거나 닫는 것이 아니다. 기존에는 망분리 중심 보안이었다면, N2SF는 망을 연결하되 여러 단계에서 보안 통제를 적용하는 방식이다. 데이터와 업무 중요도에 따라 보안 수준을 달리하고, 심층 방어 체계를 넣어 연계하자는 개념이다.
그래서 “망분리 폐지”라는 표현은 적절하지 않다. 마치 모든 망을 열어버리는 것처럼 들릴 수 있다. 향후 사고가 발생했을 때 “망분리를 폐지해서 뚫렸다”는 식의 사이버 심리전에 말릴 수도 있다. 정확히는 N2SF 기반의 차등화된 개방과 연계 체계라고 봐야 한다.
데이터 등급만 볼 것이 아니라 업무 행위도 봐야 한다. 예를 들어 패치 담당자가 다루는 데이터 자체는 낮은 등급일 수 있다. 그러나 패치 업무는 한 번 잘못되면 전체 시스템에 영향을 줄 수 있다. 이 경우 그 행위는 높은 보안 수준으로 다뤄야 한다. 데이터의 중요도와 업무 행위의 영향도를 함께 봐야 한다.
기존의 망분리 환경에서는 외부에서 패치 파일을 내려받아 보안 USB에 담고, 이를 내부망 패치 서버에 옮기는 방식이 많았다. 보안 관점에서는 안전해 보일 수 있지만, 실시간 패치가 어렵고 사람이 개입하는 과정이 많다. 내부자가 악의적으로 조작하거나 실수할 가능성도 있다.
N2SF 개념으로 보면 다른 접근이 가능하다. 외부 패치 시스템과 내부 패치 서버를 바로 연결하되, 여러 단계의 보안 통제를 넣는 것이다. 다중 인증, 관리자 승인, 정책 기반 경로 통제, 파일 무결성 검증, 메타데이터 필터링, 역할 분리 등을 적용하면 더 빠르면서도 안전한 패치가 가능하다.
예를 들어 패치 파일이 들어올 때 어느 경로로만 이동해야 하는지 정하고, 담당자와 승인권자의 인증을 거치게 한다. 패치 파일의 서명과 무결성을 검증하고, 특정 서버와 특정 업무에만 적용되도록 제한한다. 이런 심층 방어 체계를 만들면 기존의 수동 패치 방식보다 더 안전할 수 있다고 본다.
Q. AI 에이전트도 N2SF와 연결될 수 있나.
****패치 전용 AI 에이전트 같은 개념도 생각할 수 있다. AI 에이전트가 새 취약점과 패치 정보를 분석하고, 어떤 시스템에 어떤 패치가 필요한지 제안할 수 있다. 다만 에이전트가 직접 내부 시스템에 영향을 주는 만큼 강한 통제가 필요하다.
N2SF 관점에서는 에이전트의 행위를 데이터 등급만이 아니라 업무 영향도로 봐야 한다. 에이전트가 낮은 등급의 데이터를 다루더라도, 패치나 설정 변경처럼 시스템 전체에 영향을 줄 수 있는 업무를 한다면 높은 보안 수준으로 통제해야 한다.
결국 에이전트도 인증, 권한, 경로, 승인, 로그, 무결성 검증 체계 안에 들어와야 한다. 에이전트가 어느 경로로 움직이고, 어떤 서버에 접근하며, 어떤 변경을 수행했는지 확인할 수 있어야 한다. 이 구조가 없으면 AI 에이전트를 공공망에 안전하게 연결하기 어렵다.
Q. 정부의 대책에서 가장 먼저 보완해야 할 부분은 무엇인가**.**
거듭 강조하지만 좀 더 현실적인 긴급 대응 체계가 필요하다. 지금 논의는 보안 특화 모델, 취약점 탐지, 패치에 집중돼 있다. 그런데 실제 공격이 발생했을 때 보안 여력이 부족한 기관을 어떻게 보호할 것인지가 빠져 있다.
중소 금융기관이나 중요 기술 기업처럼 공격받을 가능성이 큰 곳을 먼저 선정하고, 이들을 보호할 수 있는 임시 방어 체계를 먼저 만들어야 한다. 클라우드 기반 대피소, 보안 기능 강화 구간, 긴급 관제와 이상 행위 탐지, 패치 우선순위 지원 같은 방안이 필요하다.
예산도 중요하다. 미토스 같은 위협은 일반적인 연구개발 과제처럼 느리게 접근할 일이 아니다. 사이버 재난에 가까운 상황이라면 긴급 지원 예산과 별도 트랙이 필요하다. 중장기 연구도 해야 하지만, 당장 막아야 하는 영역에는 더 빠른 집행 구조가 필요하다. 전쟁 중에 장기 훈련만 하고 있을 수는 없다.
Q. 국내 보안 체계는 장기적으로 어떤 방향으로 가야 하나**.**
N2SF와 제로 트러스트 보안 철학을 기반으로 심층 방어 체계를 만들어야 한다. 단순히 망을 나누는 방식에서 벗어나 데이터와 업무 영향도, 사용자 행위, 시스템 연결 구조를 함께 봐야 한다. 공공기관이 N2SF 체계를 제대로 적용하고 있는지 자동으로 점검하고 보고하는 체계도 필요하다.
보안 기술도 가시화해야 한다. 어떤 구간에 어떤 보안 통제가 들어갔는지, 어떤 데이터가 어떤 경로로 이동하는지, 어떤 업무가 높은 위험을 갖는지 보여야 한다. 그래야 정책 담당자와 보안 담당자가 실제로 판단할 수 있다.
장기적으로는 보안 설계를 도와주는 AI 서비스와 N2SF 자동 점검 체계가 결합돼야 한다. 취약점이 발견됐을 때 패치만 기다리는 것이 아니라, 해당 기관 환경에서 어떤 방어 정책을 먼저 적용할지 제안하고, 적용 여부를 점검하며, 필요한 경우 대체 통제를 제시하는 구조가 필요하다.
김창훈 교수는 대구대학교에서 공공망 보안과 보안 아키텍처를 가르치고 있다. 국가망보안체계(N2SF), 망분리 환경의 보안 구조, 차등화된 보안 통제 체계를 연구해온 전문가다. 공공기관과 주요 기반 시설이 민간 클라우드나 외부 시스템과 연계될 때 데이터 등급, 업무 중요도, 사용자 행위를 함께 고려해야 한다고 강조해왔다. 최근에는 N2SF를 단순한 망분리 완화가 아니라 고도화된 심층 방어 체계로 봐야 한다는 점을 설명하고 있다.
글. 바이라인네트워크