앤트로픽 CEO “투명성만으로는 부족”… 최첨단 AI에 ‘FAA식 규제’ 제안

Source: Platum

다리오 아모데이 앤트로픽 CEO가 최첨단 AI 모델에 대해 항공기 수준의 의무 안전 검증을 도입해야 한다고 제안했다.

아모데이 CEO는 6월 10일 에세이 ‘AI 발전에 대응하기 위한 정책 제언(Policy on the AI Exponential)’을 공개하고, AI 기술 발전 속도가 정책과 제도의 변화 속도를 크게 앞지르고 있다고 진단했다. 그는 입법의 더딘 속도를 소설 ‘반지의 제왕’에서 하루 종일 걸려 다른 나무에게 인사를 건네는 나무 종족(엔트)의 우두머리 ‘나무수염’에 비유하며, 의회가 입법하는 데 걸리는 수년 사이 AI는 ‘장난감에서 천재들의 국가’로 도약할 수 있다고 지적했다.

아모데이 CEO는 그동안 앤트로픽이 지지해온 투명성 중심 접근만으로는 더 이상 충분하지 않으며, 구속력 있는 규제로 나아가야 할 때라고 주장했다. 앤트로픽은 2025년 캘리포니아 SB 53, 뉴욕 RAISE 등 AI 기업에 안전 절차 공개를 요구하는 투명성 입법을 지지해왔다. 그는 AI를 자동차나 항공기, 의약품처럼 현대 경제에 필수적이지만 잘못 설계·운영되면 다수의 인명을 위협할 수 있는 기술에 빗대며, 미국 연방항공청(FAA)을 모델로 한 규제 체계를 제안했다.

그는 규제가 시급해진 근거로 자사 모델 ‘클로드 미토스 프리뷰(Claude Mythos Preview)’의 사이버보안 능력을 들었다. 앤트로픽이 지난 4월 공개한 이 모델은 영국 정부 산하 AI안전연구소(AISI) 평가에서 2025년 4월 이전까지 어떤 AI도 풀지 못한 전문가 수준의 사이버보안 과제를 73% 성공했고, 32단계로 이뤄진 기업 네트워크 공격 시뮬레이션을 처음부터 끝까지 해결한 첫 모델로 기록됐다. 다만 AISI는 방어가 견고한 네트워크에 대한 자율 공격은 안정적으로 수행하지 못한다는 한계도 함께 지적했다. 아모데이 CEO는 이 사례가 프런티어 모델이 금융과 핵심 인프라, 국가 안보를 위협할 수 있는 수준에 이르렀음을 보여준다고 봤으며, 생물학적 위험과 AI 자율성 위험이 뒤이어 올 수 있다고 경고했다.

구체적으로는 일정 연산량 이상의 AI 모델에 대해 사이버보안, 생물무기, AI 통제력 상실, 위험을 가속할 수 있는 자동화 연구개발 등 네 가지 영역의 위험을 자격 있는 제3자가 의무적으로 시험·감사하도록 하고, 평가 결과 수용 불가능한 위험이 확인되면 정부가 모델 배포를 차단하거나 되돌릴 수 있어야 한다고 밝혔다. 다만 이 권한은 네 가지 위험에 한정돼야 하며 정치적 편향이나 자의적 결정을 막는 보호장치가 필요하다고 덧붙였다.

111111

아모데이 CEO는 이 밖에 거시경제·조세 정책, AI의 긍정적 영향 확대, 국가와 시민의 자유, 민주주의 국가의 리더십 확보 등 다섯 가지 정책 영역을 제시했다. 특히 노동 시장 변화와 관련해, 그는 일자리 대체가 바람직하지 않으며 막아야 할 일이라는 점을 강조했다. 자신이 그동안 일자리 문제를 경고해온 것은 ‘파멸의 예언자’가 되려는 것이 아니라 정책 입안자와 기업이 대비할 시간을 갖도록 하기 위함이라는 것이다. 그러면서 임금 보험이나 고용 유지 인센티브, 장기적으로는 보편적 기본소득 같은 대응으로 AI의 혜택이 폭넓게 공유돼야 한다고 봤다. 또 바이오의학 등 AI가 발전을 가속할 분야에서는 기존 규제가 혁신을 저해하지 않도록 재검토가 필요하다고 설명했고, AI가 권위주의적 통제 수단으로 쓰일 수 있다고 경고하며 민주주의 국가들의 협력 체계 구축을 제안했다.

앤트로픽은 에세이와 함께 두 가지 정책 제안을 공개했다. 최첨단 모델의 위험을 다루는 ‘어드밴스드 AI 프레임워크(Advanced AI Framework)’와 일자리 대체 등 경제적 영향에 대응하는 ‘이코노믹 폴리시 프레임워크(Economic Policy Framework)’다. 회사는 여기에 상당한 재정적 지원을 제공하겠다고 밝혔다.

아모데이 CEO는 이번 에세이가 미국 정책 환경을 중심으로 작성됐지만, 주요 제언은 다른 나라의 정책 논의에도 참고가 될 수 있다고 밝혔다. 한국은 EU에 이어 세계 두 번째로 포괄적 AI 법인 ‘AI 기본법’(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)을 제정해 지난 1월 시행했다. 다만 두 접근의 결은 다르다. 한국 AI 기본법이 진흥에 무게를 두고 최소한의 규제를 지향하며 주로 고영향·생성형 AI 사업자에게 의무를 부과하는 반면, 아모데이 CEO의 제안은 일정 규모 이상의 최첨단 모델 개발사를 겨냥해 배포 차단까지 가능한 강한 규제를 담고 있다.

다만 이번 제안을 두고 외신과 업계 일각에서는 ‘규제 포획’이라는 비판도 제기됐다. 의무 시험 요건이 이미 이를 감당할 역량을 갖춘 대형 기업에 유리하게 작용해 신생 기업의 진입을 어렵게 할 수 있고, 제안에 구체적인 연산량 기준이나 적용 대상 모델이 명시되지 않아 규제가 어디에 적용될지 모호하다는 지적이다. 특히 이 에세이가 앤트로픽이 신규 모델 ‘클로드 페이블 5’를 출시한 하루 뒤, 그리고 회사가 기업공개(IPO)를 준비하는 가운데 나왔다는 점에서, AI의 위험을 경고하며 규제를 요청하는 입장이 모순적이라는 시각도 나온다.