Anthropic 공동창업자, AI에 ‘브레이크 페달’ 필요 경고
출처: BBC Technology
Anthropic 공동 설립자, AI ‘브레이크 페달’ 촉구
Anthropic 공동 설립자인 잭 클라크는 인공지능(AI) 개발이 인간의 감독 없이 스스로 진화할 수 있는 단계에 다가오고 있다고 경고했다.
“가스를 밟는 옵션뿐 아니라 브레이크 페달을 밟을 수 있는 옵션도 필요합니다. 현재 AI 산업은 가스 페달은 있지만 브레이크 페달이 없습니다.”
— BBC Newsnight 인터뷰
클라크는 정부가 점점 더 강력해지는 AI 시스템에 대한 통제권을 유지하고, 이러한 기술에 대한 신뢰를 확보하기 위해 새로운 규제를 마련해야 한다고 강조했다.
규제 필요성
그는 사회가 석유 붐에 대한 20세기 초의 대응과 유사한, 합리적인 정책 및 규제 프레임워크를 구축해야 한다고 주장했다. 이는 AI의 혜택에 대한 신뢰를 제공하면서 개별 기업 지도자의 영향력을 제한하는 것을 목표로 한다.
Anthropic의 AI 역량
Anthropic의 챗봇 Claude는 현재 전체 코드의 80 %가 시스템 자체에 의해 작성된 상태에서 운영되고 있다. 클라크는 2년 안에 100 % 자체 작성 코드에 도달하는 것이 가능하다고 보며, 이는 “거대한 함의를 갖는” 이정표가 될 것이라고 말했다.
행정명령과 산업계 반응
이번 주 Anthropic은 도널드 트럼프 대통령이 발표한 AI에 관한 미국 행정명령을 환영했으며, 이 명령은 AI 기업에 대해 비교적 손을 떼는 방식을 취하고 있다.
Anthropic, OpenAI, Google 등 주요 AI 기업들은 이 명령에도 불구하고 연구를 중단할 계획이 없다고 밝혔다.
위험과 사회적 영향
클라크는 심도 있는 사회적 논의가 없을 경우 AI의 지속적인 발전이 큰 위험을 초래할 수 있다고 경고했다:
- 경제적 혼란 – ‘Agents’라 불리는 일상 업무를 수행하는 자율 AI 봇이 특정 직업을 대체할 수 있다.
- 창의성 제한 – AI가 보조 역할을 할 수는 있지만, 진정으로 창의적이라는 확실한 증거는 아직 없다. Anthropic은 “좋은 아이디어를 창출하는 능력보다 엔지니어링을 수행하는 능력에 더 제한을 받는다”고 말했다.
그는 창의적이고 호기심이 많으며 독서량이 풍부한 사람들이 AI와 함께 번영할 수 있는 더 좋은 위치에 있을 것이라고 강조했다.
미래를 위한 조언
AI 중심 경제에 대해 우려하는 젊은이들을 위해 클라크는 다음과 같이 제안했다:
“취미를 개발하고 인문학 교육을 받으세요. 창의적이고, 폭넓게 사고하며, 많이 읽고, 다양한 관심사를 가진 사람들이 가장 큰 혜택을 받습니다. 호기심을 마음껏 탐구하면, 그 기술을 활용하는 방식에서 보답을 얻게 됩니다.”
Anthropic은 CEO 다리오 아모데이, 잭 클라크 및 여러 임원에 의해 설립되었으며, AI 관련 위험에 대해 공개적으로 논의하는 것으로 명성을 얻고 있다. 여기에는 도구의 잠재적 오용에 대해 미국 국방부와 공개적으로 다툰 사례도 포함된다.