Anthropic 공동창업자, “인간 없이 AI 개발을 멈춰야 한다”고 말한다.

출처: BBC Technology

인간 없이 AI가 발전하는 것을 멈춰야 한다고 안트로픽 공동창업자 주장

4시간 전

Faisal Islam, 경제 편집자 및
Kali Hays, 기술 기자

안트로픽 공동창업자 잭 클라크는 인공지능(AI)의 진행 속도를 늦출 수 있는 능력을 요구하며, 기술이 인간의 개입 없이 스스로 발전할 수 있는 지점에 가까워지고 있다고 경고했습니다.

“가속 페달을 떼고 브레이크를 밟을 수 있는 옵션이 필요합니다.”라고 클라크는 BBC Newsnight에 말했습니다. “지금은 AI 산업에 가속 페달은 있지만 브레이크 페달이 없는 상황과 같습니다.”

그는 정부 정책을 통해 사람들—즉, 인간—이 AI 시스템을 통제해야 하며, AI는 점점 더 강력해지고 사회에 미치는 영향도 넓어질 것이라고 강조했습니다.

“세계는 고민을 해야 하고, 결국 이러한 시스템에 대해 확신을 가질 수 있게 해줄 새로운 규제들을 마련해야 합니다.”라고 그는 말했습니다.

이미 안트로픽의 인기 챗봇 클로드는 전체 코드 중 80%를 스스로 작성하고 있습니다. 클라크는 2년 안에 100%에 도달할 수 있을 것이며, “그것은 엄청난 영향을 미칠 것”이라고 말했습니다.

클라크는 AI 연구·개발에 대한 “브레이크 페달”을 어떻게 만들 수 있을지 구체적인 방안을 제시하지는 않았지만, AI와 20세기 초 석유 붐 및 석유 거물들을 비교했습니다.

“사회는 석유에 대한 신뢰와 석유가 세계에 제공할 수 있는 혜택에 대해 확신을 줄 수 있는 합리적인 정책·규제 체계를 마련했습니다. 그리고 기업을 이끄는 사람들의 인격에 대해 걱정할 필요가 없게 했죠.”라고 클라크는 말했습니다. “우리가 지금 처한 상황도 바로 그와 같습니다.”

그런데 안트로픽은 이번 주 미국 대통령 도널드 트럼프가 발표한 AI에 관한 행정명령을 환영했습니다. 이 명령은 기업에 대한 지시가 비교적 손을 떼는 형태였습니다.

안트로픽을 포함한 주요 AI 기업들(OpenAI, 구글 등)은 기술 발전을 추구하면서도 자체 연구를 일시 중단하겠다고 밝히지는 않았습니다.

안트로픽은 신생 AI 기업 중 최초로 공개 상장을 앞두고 있으며, 사모 투자자들이 추정한 기업 가치는 거의 1조 달러(약 7450억 파운드)로 역사상 가장 가치 있는 주식 상장 중 하나가 될 전망입니다.

클라크는 안트로픽이 AI 기술의 성장 가능성을 공개적으로 논의하는 동기가 고객에게 더 좋은 인상을 주기 위함이 아니라는 점을 강조했습니다.

그는 단순히 “이러한 특이한 기술을 가진 기업 내부에서 우리가 보고 있는 모습을 세상에 알리고 싶다”고 말했습니다.

Bloomberg via Getty Images

잭 클라크는 2021년 안트로픽을 공동 설립한 7명의 전 OpenAI 직원 중 한 명입니다.

다이오 아모데이 CEO와 클라크, 그리고 몇몇 임원들이 설립한 안트로픽은 AI로부터 발생할 수 있는 잠재적 위험에 대해 목소리를 높여 왔습니다.

그는 미국 국방부와도 공개 논쟁을 벌이며, 자사 AI 도구가 미국인에 대한 대규모 감시와 자율 전쟁에 사용될 우려를 제기했습니다.

“AI가 계속해서 진보함에 따라 그 의미에 대해 사회가 진지한 대화를 하지 않으면 아이들을 걱정하게 됩니다.”라고 클라크는 Newsnight에 말했습니다. “잠재적인 큰 이점도 있지만, 위험도 존재합니다.”

클라크는 위험 중 하나가 경제 혼란이라고 덧붙였으며, “에이전트”라 불리는 개별 AI 봇이 일상적인 업무를 어느 정도 자율적으로 수행함으로써 특정 직업을 대체할 수 있다는 우려를 표했습니다.

그는 창의적이고 더 나은 아이디어를 가진 사람들이 오히려 AI 기술보다 유리할 수 있다고 말했습니다.

“AI 시스템이 진정으로 창의적일 수 있는지에 대한 열린 질문이 있습니다… 아직 그에 대한 명확한 증거는 없습니다.”라며 “안트로픽에서는 이제 좋은 아이디어를 창출하는 능력이, 그 아이디어를 현실로 구현하는 엔지니어링 능력보다 더 큰 제한 요소가 되고 있습니다.”라고 덧붙였습니다.

그럼에도 불구하고 클라크는 AI 기반 경제가 자신에게 자리를 내주지 못한다고 느끼는 젊은이들에게 “취미를 개발하고 인문학 교육을 추구하라”고 조언했습니다.

“창의적이고 폭넓게 사고할 수 있는 사람, 많이 읽고 다양한 관심사를 가진 사람들이 가장 큰 혜택을 받습니다.”라며 “호기심을 키우면 그 기술을 어떻게 활용할지에 대한 보상이 돌아옵니다.”라고 말했습니다.