[미토스 이후, 전문가에게 듣는다⑥] 최경진 가천대 교수 “AI 시대, ‘책임 있는 이용’ 논의 시작해야”
Source: Byline Network
앤트로픽의 새 인공지능(AI) 모델 ‘클로드 미토스(Claude Mythos)’ 등장을 계기로 AI가 사이버보안 분야에 미칠 영향에 대한 논의가 커지고 있다. AI가 취약점을 찾고 공격 경로를 설계하는 능력을 어디까지 갖췄는지, 그리고 이를 방어 체계가 따라갈 수 있는지 등을 두고 우려가 커지고 있다. 바이라인네트워크는 ‘미토스 이후, 전문가에게 듣는다’ 시리즈로 미토스 프리뷰를 접한 전문가들의 견해와 에이전틱 AI 시대의 사이버보안 대응 방향을 살펴본다. 그 여섯 번째로 최경진 가천대학교 법과대학 교수를 인터뷰했다. 최 교수는 한국인공지능법학회 회장으로 활동하고 있다. [편집자주]
[미토스 이후, 전문가에게 듣는다①] 윤인수 카이스트 교수 “AI가 숨은 취약점 다 찾아낼 것”
[미토스 이후, 전문가에게 듣는다②] 이상근 고려대 교수 “사이버보안 전략 무기가 되는 시대”
[미토스 이후, 전문가에게 듣는다③] 박관순 티오리 CISO “AI 해킹, 모델보다 시스템 싸움”
[미토스 이후, 전문가에게 듣는다④] 최영철 SGA솔루션즈 대표 “미토스는 핵폭탄, 제로 트러스트 전환 앞당겨야”
[미토스 이후, 전문가에게 듣는다⑤] 윤두식 이로운앤컴퍼니 대표 “AI 보안의 출발점은 거버넌스”
[미토스 이후, 전문가에게 듣는다⑥] 최경진 가천대 교수 “AI 시대의 법제도, ‘책임 있는 이용’ 논의 시작해야” (이 번호)
(출처=바이라인네트워크)
미토스, AI 보안·안보 논의 앞당겨
최경진 가천대학교 법과대학 교수는 미토스 이슈를 새로운 문제의 등장이라기보다 ’이미 예견됐던 AI 보안·안보 논의를 앞당긴 사건‘으로 봤다. 대규모언어모델(LLM) 확산 이후 AI가 보안 위협과 국가안보에 영향을 줄 것이라는 문제 제기는 계속 있었다는 설명이다.
최 교수는 미토스 이후의 초점을 취약점과 관련된 논의로만 좁혀서는 안 된다고 했다. AI가 코드와 취약점 경로를 빠르게 분석하는 것에서 더 나아가, 공격 코드를 만들고 여러 공격 루트를 결합해 실제 해킹을 달성할 수 있기 때문이다. 특히 멀티모달 AI가 발전하면 영상과 음성, 텍스트를 결합한 종합 공격도 가능해질 수 있다고 봤다. 멀티모달 AI는 텍스트뿐 아니라 이미지, 음성, 영상 등 여러 형태의 데이터를 함께 처리하는 AI를 뜻한다.
최 교수는 “취약점과 공격 도구를 만들어내는 AI의 능력은 일부일 뿐”이라며 “AI가 더 발전하면 취약점 탐지, 공격 코드 작성, 다각적 공격 경로 설계가 동시에 이뤄질 수 있다”고 말했다. 그는 AI의 위협성을 병렬 처리 능력에서 찾았다. 사람이 한두 가지 작업에 집중하는 동안 AI는 여러 공격 경로를 동시에 시험할 수 있다. 이 때문에 기존 보안 위협보다 속도와 규모가 달라질 수 있다는 진단이다.
다만 그는 기술적 대응의 방향이 완전히 바뀌는 것은 아니라고 봤다. 아이디와 비밀번호 관리, 취약점 탐지, 보안 장비 운용, 정보 공유 같은 기본 보안 체계는 여전히 중요하다. 달라지는 것은 속도다. 최 교수는 “새로운 AI가 나왔을 때 이것이 얼마나 위협적인지 평가할 수 있는 체계가 필요하다”며 “국가와 민간이 협력해 정보 비대칭을 어떻게 줄일 지가 관건”이라고 말했다.
취약점 점검**, **버그바운티 제도 논의만으로는 부족하다
최 교수는 미토스 이후 현행 법제에서 가장 먼저 봐야 할 지점으로 ‘취약점 점검 체계’를 꼽았다. AI가 취약점 탐지 속도를 높일수록 국내에서도 취약점을 합법적으로 찾고 공유할 수 있는 절차가 필요하지만, 현행 법제에서는 선의의 점검도 법적 위험을 안을 수 있다는 지적이다. 국내에서는 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률(정보통신망법)’상 타인의 정보통신망에 무단으로 침입하면 처벌 대상이 될 수 있다. 그렇다고 규제를 단순히 없애기도 어렵다. 화이트해커와 블랙해커를 행위만으로 쉽게 구분하기 어렵기 때문이다.
이에 최 교수는 일정한 제도적 샌드박스가 필요하다고 봤다. 화이트해커인지 알 수 있게 사전에 등록하는 제도를 만들거나, 정해진 범위 안에서 취약점을 점검할 수 있는 절차를 마련하는 방식이 대응책이 될 수 있다는 설명이다.
또한 최 교수는 단순히 버그바운티를 제도화하자는 접근은 너무 좁은 시각이라고 짚었다. 취약점 점검 프로세스, 적절한 보상 체계, 취약점 정보 공유, 공동 부담 구조가 함께 설계돼야 한다는 것이 핵심이다. 그는 “한 기관에서 발견된 취약점은 다른 기관이나 기업에도 영향을 줄 수 있기 때문에, 이를 가공해 관련 보안 담당자에게 빠르게 전달하는 체계가 필요하다”고 설명했다. 이어 “취약점 점검 체계를 양성화하고, 적정한 리워드 체계를 만들고, 정보를 보안 담당자에게 공유해 취약점을 해결하는 프로세스가 함께 만들어져야 한다”고 말했다.
단, 취약점 점검 체계는 정교하게 설계되어야 한다. 선의를 가지고 한 점검도 시스템에 부하를 줄 수 있기 때문이다. 여러 AI 에이전트를 동원해 시스템을 계속 두드리면, 점검 대상 시스템은 이를 분산서비스거부(DDoS) 공격으로 받아들일 수도 있다. 그는 “선량한 목적이라도 행위 자체가 시스템 부하를 높일 수 있다”며 “어떤 방식으로 허용할지 정밀한 설계가 필요하다”고 말했다.
취약점 점검 체계, ‘컨트롤 타워**’ 중심으로 설계해야**
정교한 취약점 점검 체계를 만들려면 여러 법률 간 관계도 함께 봐야 한다. 개인정보보호법, 정보통신망법, 전기통신사업법 등 관련 법이 나뉘어 있기 때문이다. 하나의 법만 고쳐도 다른 법에 걸리면 제도가 제대로 작동하기 어렵다.
최 교수는 “법끼리의 관계까지 고려한 제도 설계가 필요하다”며 “한 부처만 논의할 것이 아니라 부처 간 협의가 필요하다”고 말했다. 이어 “국가안보실, 국무조정실, 과학기술정보통신부 등 어느 곳이든 컨트롤 타워가 전체 논의를 조율해야 한다”고 짚었다.
이 대목에서 최 교수는 ‘거버넌스’를 강조했다. 여기서 거버넌스는 특정 규제 하나를 만드는 것이 아니라 취약점 점검, 보상, 정보 공유, 책임 분담, 법제 정비를 함께 묶어 작동하게 하는 체계를 뜻한다. 미토스 같은 AI가 취약점 탐지와 공격의 규모와 속도를 높일수록, 법제도 역시 개별 제도보다 전체 운영 구조를 먼저 설계해야 한다는 의미다.
책임 있는 이용**, AI **에이전트 법제의 출발점
최 교수는 AI 에이전트 시대 법제의 핵심으로 ‘책임 있는 이용’이라는 개념을 제시했다. 지금까지 AI 법제 논의는 개발자와 공급자 중심으로 진행됐다. AI 기본법도 주로 개발 단계에서 고위험, 중위험 등 AI 자체를 어떻게 규제하고 어떤 가드레일을 둘 것인지에 초점을 맞췄다. 그러나 AI 에이전트가 실제 업무 시스템에서 행동하는 단계로 넘어가면 이용자의 책임도 함께 논의해야 한다는 것이 최 교수의 주장이다.
그가 말한 ‘책임 있는 이용’은 AI 이용자를 강하게 규제하자는 뜻은 아니다. AI를 실제 업무와 거래, 보안 점검에 쓰는 이용자가 어떤 책임을 져야 하는지 정하고, 그 책임 인식이 공급자의 안전한 AI 개발로 이어지는 선순환 구조를 만들자는 의미다.
최 교수는 “AI 에이전트를 쓰는 것 자체를 모두 통제하기는 어렵다”며 “중요한 것은 에이전트를 쓰는 데 따른 책임을 누가 질 것인지 명확히 하는 것”이라고 말했다. 그는 “AI 에이전트를 독립된 법적 주체로 보기보다 아직은 사람이 사용하는 도구로 봐야 한다”고 설명했다. 에이전트가 메일을 보내고 문서를 수정하며 시스템을 호출하더라도 법적 효과와 책임은 기본적으로 이를 지시하고 활용한 사람이나 사업자에게 귀속된다는 것이다.
다만, 시스템의 결정적 오류나 설계상 하자가 있으면 개발사나 서비스 제공자의 책임도 별도로 문제가 될 수 있다고 봤다. 그는 “AI 시대가 됐다고 기존 법제와 완전히 다른 세계를 만들 필요는 없다”며 “도구가 바뀐 만큼 변화된 환경의 특성을 고려해 필요한 부분만 규제하면 된다”고 말했다.
완벽 예방보다 회복력 중심 법제 필요
또한 최 교수는 AI 시대의 보안·개인정보보호 법제가 ‘무결점 방어’를 전제로 해서는 안 된다고도 했다. AI가 취약점 탐지와 공격 자동화의 속도를 높이면 모든 사고를 사전에 막겠다는 접근은 한계를 드러낼 수밖에 없다. 사고를 얼마나 빨리 발견하고, 피해를 얼마나 작게 가두며, 얼마나 빨리 복구할 수 있는지를 법제의 핵심 지표로 봐야 한다는 설명이다.
그는 처벌과 회복력을 대체 관계로 보지 않았다. 처벌 책임의 최소선을 세우는 장치이고, 회복력은 시스템을 살리는 기반이라는 것이다. 회복력은 사고가 난 뒤에야 복구하자는 뜻도 아니다. 최 교수는 “탐지까지 걸린 시간, 차단까지 걸린 시간, 복구 시간 목표, 복구 시점 목표, 키와 권한 관리 자동화 수준 같은 지표를 사전에 관리해야 사고가 발생했을 때 대응할 수 있다”고 설명했다.
이어 “회복탄력성은 사후에만 작동하는 개념이 아니다”며 “사전 예방과 회복탄력성을 분리해 볼 것이 아니라 하나의 프레임 안에서 설계해야 한다”고 강조했다.
아래는 최 교수와의 일문일답이다.
Q. 미토스 등장 이후 AI 보안 논의가 기술 문제를 넘어 법·제도 문제로 확장되고 있다. 어떻게 보나.
미토스가 시간을 조금 당긴 것은 있다. 하지만 AI로 인한 보안 위협과 국가안보 이슈는 이미 LLM 시대가 촉발된 이후 꾸준히 제기돼 왔다. 지금에 와서 완전히 새로운 이슈처럼 보는 것은 아쉬운 면도 있다. 진작 논의했어야 했고, 지금이라도 해야 한다.
문제는 여기서 끝나지 않는다는 점이다. 앞으로 뛰어난 멀티모달 AI가 나오면 종합적인 공격이 가능해질 수 있다. 지금은 코드 분석이나 취약점 경로 분석을 통해 빠르게 찾아낸다는 점이 주목받고 있다. 그러나 더 나아가면 취약점 확인을 기반으로 공격 코드를 짜고, 여러 공격 경로를 결합해 실제 해킹을 달성할 수 있다. 취약점 확인은 전체 공격 과정의 일부일 뿐이다.
최 교수는 AI의 위협성을 병렬 처리 능력에서 찾았다. 사람은 한두 가지 공격 경로를 순차적으로 검토하지만, AI는 여러 취약점과 공격 루트를 동시에 시험할 수 있다. 취약점 탐지, 공격 코드 작성, 피싱 문구 생성, 음성·영상 기반 사칭 같은 작업을 병렬로 수행하면 공격 준비 속도와 규모가 달라진다는 설명이다.
기술적 대응은 기본적으로 기존과 크게 다르지 않다. AI를 활용한다는 것 외에는 아이디와 비밀번호 관리, 취약점 탐지, 방화벽 같은 기본 보안 장치를 갖추는 것이 중요하다. 다만 AI 시대에는 정보를 더 빨리 공유하고 대응해야 한다. 새로운 AI가 얼마나 위협적인지 평가할 수 있는 체계를 만들고, 정보 비대칭을 국가와 민간이 어떻게 해결할 지가 관건이다.
**Q. 미토스 같은 AI가 취약점 탐지와 공격 경로 설계에 쓰이면 현행 법제 체계에서 어떤 문제가 **생길 수 있나.
우리나라가 취약한 부분 중 하나는 취약점을 점검하는 공식 제도와 지원 체계가 부족하다는 점이다. 정보통신망법상 취약점을 확인하기 위해 다른 네트워크에 들어가는 순간 정보통신망 침입 문제가 생길 수 있다. 화이트해커와 블랙해커를 구분하기는 어렵다. 공격하다가 걸린 사람이 “취약점을 알려주려던 것”이라고 주장하면 그만이다. 정보통신망 침입을 제한하는 규제를 없애버리면 블랙해커를 양산할 수 있다.
다만 제도적으로 일정한 샌드박스를 만드는 것은 필요하다. 취약점을 점검할 수 있는 기본 틀을 만들고
, 그 안에서 찾아보도록 하는 방식이 있을 수 있다. 화이트해커 등록이나 사전 신고 방식도 아이디어가 될 수 있다. 중요한 것은 취약점 점검 프로세스, 보상 체계, 정보 확산 체계를 함께 만드는 것이다. 발견된 취약점은 한 곳만의 문제가 아닐 수 있다. 이를 빠르게 가공해 관련 분야에 확산시키는 제도적 지원이 필요하다.
버그바운티 확산을 많이 얘기하는데, 단순히 버그바운티만 이야기하는 것은 좁은 시각이다. 취약점 점검 체계를 양성화하고, 적정한 리워드 체계를 만들고, 공동의 사회적 책임을 설계해야 한다. 동시에 보안 담당자에게 정보를 공유해 취약점을 해결하는 프로세스를 만들어야 한다.
Q. 취약점 점검 체계를 만들 때 고려해야 할 부분은 무엇인가**.**
취약점 점검은 조심해야 할 부분이 있다. 선의로 하더라도 시스템에 부하가 걸릴 수 있다. 너무 적극적으로 점검하면 서비스거부 공격처럼 받아들일 수 있고, 실제로 시스템이 멈출 수도 있다. AI 에이전트 여러 개를 만들어 포트를 계속 두드리면 점검 대상 시스템 입장에서는 공격으로 인식할 수도 있다. 선량한 목적이라도 행위 자체가 시스템 부하를 높여 마비를 초래할 수 있다. 그래서 정교한 설계가 필요하다.
어떤 범위까지 허용할 것인지, 어떤 절차로 신고할 것인지, 점검 대상 시스템에 어떤 부담을 줄 수 있는지까지 봐야 한다. 취약점 점검 체계는 보안을 강화하기 위한 것이지만, 잘못 설계하면 그 자체가 또 다른 위험이 될 수 있다.
Q. 이런 제도를 만들려면 기존 법을 고치면 되나**, 새로운 법이 필요한가.**
관건은 서로 다른 법 간의 관계다. 개인정보보호법, 정보통신망법, 전기통신사업법 등 여러 법이 있다. 취약점 점검 체계를 만들 때 어느 범위까지 도입할지 먼저 논의해야 한다. 그 범위가 정해지면 관련 법제에 장애가 없게 만들어야 한다.
법 하나만 고쳤는데 다른 법에 걸리면 아무 소용이 없다. 그래서 법 간 관계까지 고려한 제도 설계가 필요하다. 이 논의는 한 부처만 할 일이 아니다. 부처 간 연계와 협의가 필요하다. 국가안보실이든 국무조정실이든, 과기부총리든 컨트롤 타워가 잡고 정교하게 논의해야 한다. 핵심은 누가 하느냐 보다 정교한 제도 설계다. 취약점 점검, 보상, 정보 공유, 법적 책임, 관련 법률 간 충돌을 함께 봐야 한다.
Q. AI 에이전트 확산에 따른 법적 책임 문제는 어떻게 봐야 하나.
이제 AI 에이전트를 쓰는 것 자체를 통제하기는 어렵다고 본다. 시대가 그렇게 바뀌고 있기 때문이다. 중요한 것은 책임이다. 에이전트를 쓰는 데 따른 책임을 누가 질 것인지 명확히 해야 한다.
예를 들어 에이전트를 사용하다가 사고가 났을 때 “에이전트가 잘못했다”고 책임을 전가할 수 있다. 하지만 에이전트를 사용한 주체는 결국 이용자다. 결정적 오류가 있다면 개발한 회사 책임일 수 있다. 그러나 사람이 통제할 수 있는 범위 안의 오류라면 기본적으로 에이전트를 사용한 사람이 책임을 져야 한다.
AI 에이전트를 활용하는 책임 소재를 명확히 하면 기존의 법체계를 가져와서 적용할 수 있다. 지시를 한 개인 이용자나 사업자가 일정 범위에서 책임을 지는 구조다. 에이전트를 어떻게 통제할 것인가도 중요하지만, 에이전트를 쓰는 사람의 책임 관계를 명확히 하는 것이 더 중요하다.
**Q. ****책임을 **AI 자체에게 물을 수는 없나.
현재 국제적 논의의 흐름은 AI를 독립된 법적 주체로 보지 않는다. 유엔 국제상거래법위원회(UNCITRAL)가 채택한 자동화 계약 모델법(MLAC)도 이 관점을 바탕에 둔다. 이 모델법은 자연인의 개입 없이 이뤄진 자동화 계약의 법적 효력을 인정하면서도, 자동화된 시스템 자체를 독립된 법적 인격으로 보지는 않는다. 시스템을 이용해 편익을 얻는 사람이 법적 효과와 책임을 부담한다는 ‘이용자 책임’ 원칙에 가깝다.
이 논리는 AI 에이전트에도 적용될 수 있다. 에이전트가 메일을 보내고, 문서를 수정하고, 시스템을 호출하더라도 그 행위의 법적 효과는 기본적으로 이를 지시하고 활용한 사람이나 사업자에게 귀속된다. 다만 시스템의 결정적 결함이나 설계상 하자가 있다면 개발사나 서비스 제공자의 책임도 별도로 문제가 될 수 있다.
AI 시대가 됐다고 기존 법제와 완전히 다른 세계를 만들 필요는 없다. 도구가 바뀐 것이다. 컴퓨터에서 AI로 바뀌었지만, 법적 효과는 결국 사람에게 온다. 변화된 환경의 특성을 잘 추출해 필요한 부분만 규율하면 된다.
**Q. ****‘책임 있는 이용’ 개념에 대해 조금 더 설명해준다면. **
그동안 AI 규제 논의는 주로 개발 단계에 초점이 맞춰져 있었다. AI기본법도 책임 있는 이용보다는 개발 단계에서 AI를 어떻게 규제할 것인가에 대한 논의가 중심이었다. 그러나 법은 모든 것을 디테일하게 규정할 수 없다. 디테일한 부분은 결국 책임 있는 이용으로 가야 한다.
책임 있는 이용은 AI를 쓰는 개인, 사업자, 국가가 자신이 AI를 사용하는 방식에 책임을 지는 체계다. 이것이 곧 이용자만 강하게 규제하자는 취지는 아니다. 규제를 심하게 하자는 것이 아니라 지금 논의가 너무 개발자와 공급자 규율에 기울어져 있다는 의미다. 이용자도 AI를 책임 있게 써야 한다는 환경이 만들어져야 한다.
이용자가 책임을 인식하면 공급자에게도 안전한 AI를 요구하게 된다. “내가 책임져야 하니, 공급자도 더 안전하게 만들어야 한다”는 인식이 생긴다. 정부가 공급자에게 사전적으로 모든 것을 강제하는 데는 한계가 있다. 이용자의 수요에 기반해 공급자가 안전한 AI를 만드는 선순환 체계가 필요하다.
지금은 주로 사업자 규율 중심이다. 그러나 이용자 측면의 규율도 있어야 정밀하게 맞아 떨어진다. AI를 쓰는 방식은 사용자마다 매우 다르다. 공격자의 특성도 다양하고, 선량한 이용자의 사용 방식도 다양하다. 사전에 모든 경우의 수를 정해놓는 데는 한계가 있다.
보안 측면에서 모의해킹이나 사전 평가는 일정한 기준선을 정하기 위해 이 ‘책임 있는 이용’ 원칙이 필요하다. 그러나 실제 이용 단계에서 나타나는 다양한 수요와 위험은 계속 반영돼야 한다. 이용자 기반의 선순환 체계가 만들어지면 사업자도 이를 반영하지 않을 수 없다. 책임 있는 이용과 자율규제 체계, 정부 지원이 함께 가야 한다. 민간과 정부의 거버넌스가 맞물리면 벌집처럼 촘촘한 안전망을 만들 수 있다.
Q. 최근 정부가 보안과 개인정보 보호 정책에서 사전 예방 체계를 강조하고 있다. 어떻게 보나.
사전 예방 체계는 분명히 필요하다. 다만 사전 예방이 행여나 사전 규제의 방향으로 가게 되는 것은 경계해야 한다. 정부가 점검을 하고, 거기에 또 의무를 추가하는 방식만으로는 기업의 부담이 커질 수 있다. 사후 책임도 강한데 사전 의무까지 계속 쌓이면 사업자는 어느 정도까지 해야 책임을 면할 수 있는지 알기 어렵다.
사고가 나면 위험이 큰 시스템과 기업에는 더 큰 책임을 지게 하는 것이 맞다. 다만 합리적 기준을 넘어서는 방식은 곤란하다. 제도 하나만 놓고 보면 필요해 보이지만, 여러 제도가 겹치면 전체 부담은 크게 늘 수 있다. 그래서 여러가지 법을 종합적으로 봐야 한다.
디지털 안전망을 위한 재원 마련도 중요하다. 개인정보 유출이나 정보통신망 침해에 따른 과징금이 디지털 안전망 강화에 다시 쓰이는 구조도 제대로 설계할 필요가 있다. 단순히 제재를 강화하는 데서 끝나면 선순환 구조가 만들어지기 어렵다.
Q. 법제도 관점에서 레질리언스(회복탄력성)이 중요하다고 했는데.
보안 사고를 100% 막을 수는 없다. 물론 사고가 나지 않게 노력하는 것도 중요하다. 그러나 사고는 언제든 발생할 수 있다. 그렇다면 사고가 났을 때 얼마나 빨리 대응하고 복구하며 원상으로 되돌릴 것인지가 중요하다. 그게 회복탄력성 개념이다.
회복탄력성은 사후에만 작동하는 개념이 아니다. 사전에 설계돼 있어야 한다. 사고가 터진 뒤 복원 체계를 만들겠다는 것은 말이 안 된다. 복구 절차, 책임자, 피해 회복 방식, 서비스 정상화 절차가 미리 준비돼 있어야 사건이 발생했을 때 바로 작동할 수 있다. 탐지까지 걸린 시간, 차단까지 걸린 시간, 복구 시간 목표, 복구 시점 목표, 키와 권한 관리 자동화 수준 같은 지표도 미리 관리해야 한다. 사전 예방과 회복탄력성을 분리해 보면 안 된다. 회복탄력성을 사전 예방 프레임 안에 녹여서 법제를 설계해야 한다.
**Q. 현행 AI **기본법은 AI 에이전트 같은 시스템을 충분히 포괄한다고 보나.
AI 기본법은 큰 틀의 법이다. 개발 단계에서 AI를 어떻게 규제하고, 어떤 가드레일을 둘 것인지에 대한 논의를 담을 수 있다. 하지만 AI 에이전트의 구체적 이용 행위와 책임 있는 이용까지 상세히 다루기에는 한계가 있다.
AI 에이전트는 실제 업무 시스템과 연결되고, 사용자의 지시에 따라 행위를 수행한다. 이런 환경에서는 개발 단계의 규제만으로는 부족하다. 누가 어떤 목적으로 에이전트를 사용했고, 어떤 권한을 줬고, 어떤 행위를 했는지에 대한 이용 단계의 규율이 필요하다. 따라서 AI기본법만으로 모든 문제를 풀기보다, 개인정보보호법, 정보통신망법, 전기통신사업법, 내부통제 기준을 함께 봐야 한다. 실행형 AI 시대에는 법제 간 연결과 조율이 중요하다.
**Q. 기업이 **AI 에이전트를 도입할 때 어떤 내부 통제 체계를 마련해야 하나.
기업은 AI 에이전트를 도입할 때 ‘책임 있는 이용’ 원칙을 명확히 해야 한다. 누가 에이전트를 만들고, 누가 승인하며, 어떤 업무에 쓸 수 있는지 내부에서 명확히 정해야 한다. 에이전트가 접근할 수 있는 데이터와 시스템 범위도 제한해야 한다. 로그도 중요하다. 어떤 사용자가 어떤 지시를 했고, 에이전트가 어떤 도구를 호출했으며, 어떤 결과를 냈는지 기록해야 한다. 그래야 사고가 발생했을 때 책임을 추적할 수 있다.
또한 에이전트 사용 정책을 사내 규정이나 계약에도 반영해야 한다. 기밀 데이터, 승인 절차, 권한 범위, 외부 AI 서비스 이용 조건, 데이터 학습 사용 금지 조항 등을 명확히 해야 한다. 기업이 책임을 다했다는 점을 입증하려면 기록과 절차가 필요하다.
**Q. 정부는 **AI 에이전트 시대에 어떤 법·제도 정비를 먼저 해야 하나.
앞서 말했듯 가장 먼저 필요한 것은 ‘취약점 점검 체계’다. 화이트해커가 합법적인 범위에서 취약점을 점검하고, 그 결과를 적절히 보상 받으며, 필요한 보안 담당자에게 취약점 정보가 전달되는 구조가 필요하다. 단순히 버그바운티를 도입하는 수준으로는 부족하다. 점검 범위와 절차, 보상, 정보 공유, 법적 책임까지 함께 설계해야 한다.
다음은 AI 에이전트의 책임 있는 이용 체계도 함께 논의해야 한다. AI 에이전트를 쓰는 개인과 사업자, 공공기관이 어떤 책임을 져야 하는지 정해야 한다. 강한 규제를 만들자는 것이 아니다. 이용자가 AI를 책임 있게 쓰고, 그 수요가 공급자의 안전한 AI 개발로 이어지는 선순환 구조의 틀을 정부가 설계해줄 필요가 있다는 말이다.
이를 조율할 ‘컨트롤 타워’도 필요하다. AI 보안과 개인정보, 정보통신망, 통신 서비스, 국가안보는 서로 연결돼 있다. 한 부처가 각자 제도를 만들면 법 간 충돌이 생길 수 있다. 법 간 관계를 고려해 정책을 조율할 정부 내 컨트롤 타워가 있어야 하고, 그를 중심으로 법제도 거버넌스가 유기적으로 돌아가야 한다.
마지막으로 회복탄력성을 법제 설계에 반영해야 한다. 사고를 막기 위한 예방은 필요하지만, 사고가 발생했을 때 복구할 수 있는 체계도 사전에 마련해야 한다. 사전 예방과 사후 복구를 따로 볼 것이 아니라, 사고를 전제로 탐지·차단·복구가 작동하는 하나의 체계로 설계해야 한다.
최경진 교수는 가천대학교 법과대학 교수이자 한국인공지능법학회 회장이다. 가천대 AI·빅데이터정책연구센터장을 맡고 있으며, 데이터·정보통신기술(ICT)·개인정보보호 법제와 AI 법정책을 연구해왔다. 한국정보법학회장과 개인정보보호법학회장을 지냈고, 유엔 국제상거래법위원회(UNCITRAL) 정부대표로도 활동했다.
글. 바이라인네트워크