앤트로픽, AI 발전 속도 늦추려는 이유는?
Source: Byline Network
(출처=AI 생성 이미지)
앤트로픽이 가능하다면 AI 발전 속도를 늦추고 싶다고 고백했다. AI가 AI를 개발하는 시대가 열리고 있기 때문이다.
앤트로픽 인스티튜트는 5일 ‘AI가 스스로를 만들 때(When AI builds itself)’라는 제목의 글에서 AI가 AI 개발을 이미 주도하고 있으며, 완전한 재귀적 자기개선을 향해 나아가고 있다고 밝혔다. 앤트로픽에 따르면, 2026년 5월 기준, 앤트로픽 개발 코드의 80% 이상을 클로드가 작성한다. 2025년 초 클로드 코드 출시 전 이 비율은 한 자릿수에 불과했다. 1년여 만에 코드 생산의 주체가 인간에서 AI로 역전된 것이다.
생산성 변화도 뚜렷하다. 앤트로픽 엔지니어 1인당 하루 머지(코드를 제품에 올리는 것) 코드량은 2021년부터 2024년까지 4년간 거의 변화가 없었다. 그러다 2025년 클로드가 코드를 직접 실행하기 시작하면서 상승하기 시작했고, 2026년 모델이 더 긴 시간 자율적으로 작동하면서 기울기가 다시 가팔라졌다. 2026년 2분기 기준 엔지니어 1인당 하루 코드 머지량은 2024년 대비 8배에 달한다.
이는 엔지니어들이 더 열심히 일해서가 아니다. 클로드가 코드를 쓰고 엔지니어는 방향을 잡고 검토하는 방식으로 역할이 바뀐 결과다. 앤트로픽의 한 직원은 “약 5개월 전부터 코드를 직접 한 줄도 짜지 않았다”고 말했다.
품질도 향상되고 있다. 앤트로픽은 클로드가 작성한 코드를 다른 클로드가 자동으로 검토하는 시스템을 도입했는데, 소급 분석 결과 이 도구가 과거 장애 원인이 됐던 버그의 약 3분의 1을 사전에 잡아낼 수 있었던 것으로 나타났다.
안전한 AI 개발을 위한 활동도 AI가 이끌었다. 앤트로픽은 2026년 4월 클로드 기반 에이전트가 AI 안전 연구 과제를 처음부터 끝까지 독립적으로 수행한 결과를 공개했다. AI 에이전트는 ‘약한 모델이 강한 모델을 신뢰할 수 있게 감독할 수 있는가’라는 문제를 주제로 스스로 가설을 세우고 실험했다. 동시에 작동하는 다른 에이전트와 결과를 공유하며 연구를 반복했다. 인간 연구원 2명이 약 1주일간 작업해 목표 성능의 23%를 달성한 반면, AI 에이전트는 약 2500만원(1만8000달러) 규모의 컴퓨팅 자원을 투입해 97%를 달성했다.
또 클로드가 인간 연구자보다 연구의 다음 단계를 잘 제안하고 있다. 앤트로픽은 연구자가 클로드와 함께 열린 문제를 탐구한 실제 연구 대화 기록 129건을 분석했다. 연구자가 방향을 잘못 잡은 순간을 특정한 뒤 클로드에게 ‘그 시점에서 어떻게 할 것인가’를 물었다. 회사 측에 따르면, 인간의 선택보다 클로드의 제안이 더 나았다고 판단된 비율은 2025년 11월 클로드 오푸스 4.5 모델 기준 51%였지만, 2026년 4월 마이토스 프리뷰 기준 64%로 높아졌다.
“아직 재귀적 자기개선은 아니다, 그러나…”
앤트로픽은 현재 단계가 완전한 재귀적 자기개선은 아니라고 명확히 선을 긋는다. 재귀적 자기개선이란 AI가 완전히 자율적으로 자신의 후속 모델을 설계하고 개발하는 것을 말한다. 현재 주어진 목표 아래 실험을 수행하는 것에서는 이미 인간을 뛰어넘었지만, 어떤 문제를 풀 것인지 스스로 결정하는 것에서는 여전히 인간과 큰 격차가 있다.
예를 들어 신입 개발자는 ‘내보내기 버튼이 안 되니 고쳐달라’는 지시를 받아 수행하지만, 숙련된 개발자는 ‘네트워크가 왜 느린지 조사하라’는 목표를 받아 스스로 문제를 해결한다. 시니어 개발자는 이번 분기에 뭘 만들지를 결정한다. 현재 클로드는 숙련된 개발자 수준은 됐지만 시니어의 문제 선택 능력에는 아직 못 미친다는 것이다.
그러나 앤트로픽은 이 능력도 결국 다른 AI 역량처럼 어느 순간 급격히 향상될 수 있다고 본다. 앤트로픽은 “AI가 한동안 실패하다가 갑자기 잘하게 되는 패턴을 우리는 이미 봐왔다”며 “어떤 문제를 풀 것인지 스스로 결정하는 능력도 그런 역량 중 하나가 될 수 있다”고 설명했다.
과연 AI는 완전한 재귀적 자기개선이 가능한 수준으로 발전할까?
하나의 가능성은 AI의 발전이 지금 수준에서 멈추는 것이다. 즉 ‘어떤 문제를 풀 것인가’를 판단하는 능력까지는 가지 못할 가능성이다. 지금의 트랜스포머 아키텍처의 한계, 컴퓨트·에너지 문제로 인해 현재 수준에서 크게 발전하지 못할 수 있다. 앤트로픽은 이 가능성을 낮게 본다. 하지만 설령 기술이 지금 수준에서 멈추더라도 세상은 크게 달라진다. 100명짜리 회사가 1000명짜리 회사의 일을 해내는 세계는 이미 현실이 되고 있기 때문이다.
또다른 가능성은 AI가 문제의 방향까지 스스로 결정하는 단계에 이르는 것이다. AI가 스스로 후속 AI를 설계·개발하는 완전한 재귀적 자기개선이다. 이 경우 AI 발전의 속도는 오직 컴퓨트 가용량에 의해서만 결정된다. 인류 역사에서 유례없는 기술 가속이 시작되는 것이다. 앤트로픽은 이 단계가 암 치료·과학 혁신 등 인류에게 엄청난 혜택을 가져올 수 있다고 본다. 다만 AI가 왜 그런 결정을 내리는지 인간이 이해하지 못하는 상태에서 이 단계에 이른다면, 통제권을 잃을 수 있다고 앤트로픽은 경고했다.
“가능하다면 AI 발전 늦추고 싶어”
앤트로픽은 AI가 통제 불가능한 수준으로 발전할 것을 우려했다. 회사 측은 “효과적으로 기술 개발을 늦출 수 있다면 그것이 좋을 것”이라고 전했다. 하지만 앤트로픽이 멈춘다고 해서 AI 개발이 늦춰지는 게 아니다. 안전에 덜 신경 쓰는 경쟁자들이 그 자리를 채우는 것이 더 큰 문제가 될 수 있다고 회사 측은 판단했다.
앤트로픽 인스티튜트는 향후 수개월 내 정책 입안자, 연구자, 시민사회, 타 AI 기업들이 참여하는 대화를 조직하겠다고 밝혔다. AI 개발 조정과 논의를 위한 더 나은 방법을 함께 찾겠다는 것이다.
앤트로픽은 “함께 이 질문들을 탐구할 시간의 창이 지금 열려 있으며, AI 기업 밖의 사람들도 이 논의에 참여해야 한다”고 강조했다.
글. 바이라인네트워크
일명 심스키. 바이라인네트워크 공동대표 기자. 테크 전문가 인터뷰와 칼럼을 주로 씁니다. 테크가 우리 삶에 미치는 긍정적 부정적 영향을 설명하고자 합니다.