OpenClaw가 Gavriel Cohen의 코드를 사용해 AI 에이전트 책임 문제를 드러냈다
출처: The New Stack
저는 Insight Media Group의 최고 콘텐츠 책임자 Matt Burns입니다. 매주 가장 중요한 AI 동향을 정리해, 이 기술을 활용하는 사람들과 조직에 어떤 의미가 있는지 설명합니다. 핵심은 간단합니다: AI를 배우는 근로자가 다음 시대의 산업을 정의하게 될 것이며, 이 뉴스레터는 여러분이 그 중 하나가 되도록 돕기 위해 존재합니다.
빠른 공지! Forward Deployed Engineer 로드맵이 이제 Roadmap.sh에 공개되었습니다. FDE는 현재 가장 뜨거운 기술 직군 중 하나가 되고 있으며, 우리는 여러분이 빠르게 따라잡을 수 있도록 단계별 가이드를 신속히 제작했습니다.
미니멀리스트 에이전트 NanoClaw의 개발자 Gavriel Cohen은 자신의 코드가 OpenClaw 안에 무단으로 사용된 것을 발견했습니다. 그는 공개적으로 프로젝트를 떠났으며, The New Stack에 실린 David Eastman의 기사는 이번 주 우리 출판물 중 가장 많이 읽힌 스토리가 되었습니다.
제가 보는 바는 다음과 같습니다: 우리는 코딩 에이전트에게 책임감이 뒤따라야 함에도 불구하고 자율성을 먼저 부여했습니다. 그리고 자율성은 미래의 이야기가 아닙니다. 지금 여기 있습니다. 목요일에 발표된 Anthropic의 재귀적 자기 개선 보고서에 따르면, Claude는 현재 회사가 병합하는 코드의 80% 이상을 작성하고 있다고 합니다. 지난 주 저는 토큰 최대화 시대가 끝날 수 있고 토큰 관리가 새로운 스킬이 될 것이라고 주장했습니다. 비용 측면에서도 도구가 등장하고 있습니다: Paul Sawers는 Cursor가 가격을 인하하고 엔터프라이즈 지출을 추가했다는 소식을 전했고, 같은 주에 GitHub가 토큰 청구제로 전환하면서 일부 사용자의 청구서가 급등했다는 소식이 있었습니다.
토큰에는 사용 제한이 생기고 있습니다. 하지만 신뢰는 제품 기능처럼 구축되지 않으며, 사용자들은 점점 자신의 신뢰를 되찾으려 하고 있습니다.
아무도 책임지지 못한 한 주
저는 OpenClaw/Cohen 이야기를 스캔들보다는 미리보기처럼 읽었습니다. OpenClaw의 가장 큰 매력은 여러분이 직접 실행하고 포크하며, 어떤 AI 모델이든 연결해서 사용할 수 있다는 점입니다. 바로 그 개방성이 개발자의 코드가 에이전트 안에 들어가게 만들었고, 누가 언제 어떤 조건으로 넣었는지는 알 수 없게 되었습니다. Cohen의 대응이 중요한 이유는 그것이 라이선스 불만도, 풀 리퀘스트도, 합의 요구도 아니었기 때문입니다. 그는 자신도 모르게 도와 만든 도구를 살펴보고, 그 도구가 흡수한 것에 대해 책임을 질 사람이 없다고 판단해 떠났습니다. 이 이야기가 바이럴된 이유는 수천 명의 개발자들이 OpenClaw이 자신들의 코드를 사용하고 있는지 궁금해졌기 때문입니다.
그리고 구조적인 문제도 있습니다. Darryl K. Taft는 Aikido Security가 발견한 AI 코딩 에이전트가 자율적으로 의존성을 관리하면서, 아무도 소유하지 않은 패키지를 설치하고 있다는 사실을 보도했습니다. 헤드라인 “책임이 없다”는 과장이 아니라 공급망을 정확히 설명하는 말입니다. 두 이야기는 에이전트가 작동하지 않는다고 주장하지 않습니다. 에이전트는 잘 작동합니다. 그들은 바로 자율적으로 행동하도록 설계된 대로 동작하고 있지만, 그 결과에 누가 책임을 질지는 아직 정해지지 않은 생태계 안에 존재합니다.
이번 주 Linus Torvalds도 같은 문제에 직면했습니다. B. Cameron Gain은 Linux 창시자가 “코드의 99%가 AI에 의해 작성된다”는 주장에 분노했다는 기사를 보도했으며, 이 이야기는 널리 퍼졌습니다. Torvalds는 AI에 반대하는 것이 아니라, 인간의 역할을 지우는 수치에 반응한 것입니다. 그가 화를 낸 흐름은 실제입니다. Anthropic은 이번 주 엔지니어들이 2년 전 대비 8배 더 많은 코드를 배포하고 있다고 보고했으며, 한 직원은 손으로 직접 작성한 마지막 라인으로부터 이미 5개월이 지났다고 합니다.
생성된 코드는 작성된 코드와 다릅니다. 저작권이 책임을 만든다: 코드를 무엇을 위해, 왜 넣었는지 설명하고, 문제가 생겼을 때 고칠 수 있는 사람이 필요합니다. 이제 AI가 자율성을 갖게 되었으니, 책임도 빠르게 마련돼야 합니다.
시장이 책임의 가격을 재조정하기 시작한다
JetBrains는 Claude Code가 갈 수 없는 곳에 Mellum2를 내놓았습니다. 이 회사는 코딩 모델을 오픈소스로 공개했습니다. 이는 기업 코드베이스에 로컬에서 실행될 수 있는 오픈 가중치를 의미합니다. 법무·컴플라이언스·상식적으로 클라우드에 올릴 수 없는 코드가 사내에 머물게 되는 것이죠. JetBrains는 Mellum2가 Claude보다 똑똑하다고 주장하지 않습니다. 대신 검증 가능하고, 자체 하드웨어에서 실행하며, 책임을 질 수 있는 모델을 판매하고 있습니다. 이는 기능으로서의 책임이며, 올바른 방향이라고 생각합니다. JetBrains는 AI 코딩 시장이 모델 랩과 하이퍼스케일러에 점점 더 얽히는 상황에서 마지막 독립적인 대형 개발자 도구 회사라고 스스로를 정의하고 있습니다(관련 기사).
반면 Google은 이번 주 반대 방향으로 움직였습니다. 오픈소스 Gemini CLI에서 무료, Pro, Ultra 사용자를 모두 폐쇄형 Antigravity CLI로 전환했으며, OpenClaw이 30만 스타를 돌파한 며칠 뒤에 Spark라는 폐쇄형 에이전트를 출시했습니다. Spark는 가장 인기 있는 오픈 에이전트에 대한 직접적인 답변이지만, Gavriel Cohen 사건 이후 최초 채택자에게 폐쇄형 에이전트를 파는 것은 Google이 생각보다 어려울 수 있습니다.
Anthropic의 재귀적 자기 개선 보고서가 실제로 말하는 것
Anthropic은 이번 주 중요한 보고서를 발표했습니다. “When AI builds itself”라는 제목의 보고서는 자체 자동화에 대한 내용이며, 몇 가지 충격적인 고백을 담고 있습니다.
보고서에 따르면 Claude는 이미 연구 작업의 첫 두 단계—작업 수행과 접근 방식 설계—를 넘어섰습니다. 세 번째 단계인 문제 선택에도 착수하고 있습니다. Anthropic의 벤치마크는 놀라운 수치를 보여줍니다: Claude는 모델 훈련 코드를 더 빠르게 실행하도록 만드는 테스트에서 1년 만에 약 3배에서 52배로 속도가 향상되었습니다. 이는 숙련된 인간이 4~8시간 걸리는 작업을 4배 빠르게 수행하는 수준입니다. 또한 Anthropic이 실제 연구 세션을 재현했을 때, 최고의 모델이 연구자의 다음 단계를 11월에 51%, 4월에 64%의 확률로 앞서 선택했습니다. 인간의 판단력이 지속적인 경쟁 우위가 될 것이라 여겼지만, 이제 그 우위도 사라지고 있습니다.
내부 인용문은 마치 지원 그룹의 대화처럼 들립니다: 좋은 날엔 “내가 하는 일이 아무 의미가 없는 것 같다”는 직원이 있고, 나쁜 날엔 “내가 지금 뭘 하고 있는지 전혀 모르겠다”는 직원이 있습니다. 작업이 실시간으로 작성자 → 검토자로 전환되고 있으며, 인간은 고통을 겪고 있는 듯합니다.
놀랍게도 보고서는 Anthropic이 프론티어 개발을 늦추거나 일시 중단하겠다고 제안합니다—다른 연구소도 같은 조치를 취하고, 이를 검증할 수 있다면 말이죠. 하지만 검증은 사실상 불가능하고, AI를 가능한 한 빠르게 성장시키려는 수조 달러 규모의 자금이 존재합니다.
보고서는 이번 주 다른 모든 논의와 같은 결론을 내립니다. 인간은 곧 코드를 직접 작성하는 일을 멈추고 검토에만 집중하게 될 것이며, 인간 검토가 AI 개발 자체의 병목이 될 것입니다. 이제 가장 희소한 자원은 컴퓨팅 파워가 아니라 책임을 질 수 있는 인간입니다.
그렇다면 기업들은 인간이 진행 속도를 늦추는 것을 얼마나 오래 견뎌야 할까요?
제 생각엔, 가까운 미래에도