식인

출처: Hacker News

기술 분야에 있지 않다면, 업계 C‑suite와 투자자들 사이에 얼마나 큰 공포가 퍼졌는지 깨닫지 못할 수도 있다. 모두가 당연히 씩씩한 얼굴을 쓰고 있지만, SaaS-pocalypse라는 두려움이 지속되고 Substack에 올라온 허구의 재무 분석 때문에 시장이 실제로 매도세를 보이면서, 사람들의 이마에 땀방울이 맺히는 걸 눈치채지 않을 수 없다.

한편, CEO와 CTO들은 자신을 비전 제시자로 포장하려 애쓰고 있다. 잭 도시, 세바스티안 시에미아토프스키, 그리고 맷 빌만 등은 서로를 능가하려 AI를 앞세우고 있다. 물론 이것이 얼마나 AI‑워싱인지, 혹은 눈길을 끌기 위한 과장인지 의문이 들지만, 이는 거대한 빙산의 가장 눈에 띄고 극단적인 일각에 불과하다.

여기서 비꼬는 아이러니를 즐기지 않을 수 없다. 기술 산업은 한때 파괴를 즐겼다. 우버가 택시 산업을, 아마존이 전통 서점을, 스포티파이가 아티스트 수익을 무너뜨리듯, 실리콘밸리는 기존 시장을 파괴하고 자신들을 임대 수요자로 전환해 왔다.

AI는 이제 수많은 직업을 같은 방식으로 위협하고 있다. 작가, 그래픽 디자이너, 재무 분석가 등 누구든지 문 앞에 있는 늑대를 느낄 수 있다.

하지만 이번엔 상황이 조금 다르다.

이번엔 먼저 기술 분야를 노린다.

대형 언어 모델을 다뤄본 사람이라면, 이 모델들이 엄청난 힘을 가지고 있지만 동시에 근본적으로 (그리고 어떤 면에서는 근본적으로) 결함이 있다는 것을 알 것이다.

예를 들어, 회의록 요약이라는 흔한 사용 사례를 보자.

나는 최신이면서 가장 정교한 모델들을 이용해 이 매우 일상적인 작업을 수행했으며, 정확도를 90% 정도라고 평가한다.

하지만 그 10%는 확실히 중요하다.

AI가 한 사람의 말을 다른 사람의 말로 잘못 귀속시키거나, 회의 전사에서 드러나지 않은 주장을 만들거나 결론을 끌어내거나, 발언을 과장·부풀리는 일은 전혀 이상하지 않다. 이런 사례는 계속된다.

이러한 상황에서 AI의 문제는 “정답”이 무엇인지 객관적인 진실 근원이 없다는 점이다. 업계에서는 이를 “오라클”이라고 부른다. 즉, 결론의 타당성을 검증할 수 있는 기준이 필요하다는 뜻이다.

AI를 적용할 수 있는 다양한 분야에서도 마찬가지다. 글을 쓰든, 이미지·영상 클립을 만들든, 자동화된 고객 지원을 제공하든, “정답”은 종종 취향, 의견, 해석에 따라 달라진다. 결과적으로 AI 활용은 산업마다 크게 차이가 난다.

게다가 대형 언어 모델 자체와 그 학습 방식은 여러 분야에서 실패 확률을 높일 수 있다. LLM은 결국 공개된 방대한 데이터를 기반으로 학습되며, 특히 깊은 전문 분야에서는 전문가가 되기 위해 필요한 지식이 온라인에 쉽게 스크래핑되지 않는다.

그리고 기술 자체가 있다.

첫째, 적절한 사양이나 요구 사항(예, 큰 가정)이 있다면, 소프트웨어는 근본적으로 검증 가능하다: 코드가 제 역할을 하든 안 하든. 바로 이 특성 때문에 ralph loops와 같은 것이 가능해진다. LLM에 성공 기준을 제시하고 스스로 해결책을 찾아가게 할 수 있기 때문이다.

둘째, 여기서 오픈소스가 아이러니하게 중요한 역할을 한다: 방대한 양의 소스 코드가 공개적으로 이용 가능해 LLM 학습에 활용될 수 있다. 소프트웨어 개발만큼 풍부하고 다양한 학습 코퍼스를 가진 산업은 다른 데는 없다.

셋째, AI 산업 자체가 소프트웨어 전문가들로 구성돼 있기 때문에, 이들은 코드를 생성하는 AI 도구를 만드는 데 독보적인 위치에 있다. 실제로 주요 AI 연구소들은 자신들의 도구를 스스로 사용해 개선하고, 이는 혁신 속도를 더욱 가속한다.

결과적으로, C‑suite부터 현장의 코딩 담당자까지, 기술 산업 전체가 충격과 두려움에 휩싸였다. 이제는 처음으로 위협이 외부가 아니라 내부에서부터 온다.

솔직히 이 상황에 대해 어떻게 느껴야 할지 모르겠다.

첫 번째 반응은 웃으며 고개를 절레절레 흔드는 것이다.

자신들의 일자리가 동료들이 만든 도구에 의해 자동화될 리가 없다고 확신하는 소프트웨어 개발자들을 찾는 데는 멀리 찾을 필요가 없다. 그들의 과거 글에서도 택시 기사와 마차 제조자를 비교하는 모습을 쉽게 볼 수 있다.

반면 스펙트럼 반대편에서는 CEO와 CTO가 사람들을 토큰 맥스킹하도록 독려하면서, “우리는 AI를 더 강하고 빠르게 해야 한다”는 식으로 탁자를 두드리고 있다. 그렇지 않으면 역사의 쓰레기통에 버려질 것이라는 식이다.

그 결과 부정과 과대광고가 뒤섞인 기이한 상황이 발생한다.

궁극적으로, 기술이 파괴한 산업들로부터 교훈을 얻으려면 몇 가지 전제가 필요하다.

1. 가격 경쟁이 최저점으로 치닫는다. 작가, 뮤지션, 라이드쉐어, 배달, 온라인 앱 스토어 등에서 이 흐름을 명확히 볼 수 있다. 반대로, 콘텐츠가 폭발적으로 늘어나(예: 다나 로슨이 예측한 “10억 개의 새로운 앱”) 가격은 바닥을 치겠지만, 앱이나 책처럼 신호‑잡음 비율이 너무 낮아 품질을 가려내기 어려울 것이다.

2. 노동자는 임금 압박을 받으며, AI가 전문성의 가치를 감소시킨다. 이미 그래픽 디자이너와 카피라이터 등 상업 예술 직종에서 이런 추세가 나타나고 있다.

3. 한 번 파괴된 산업은 의미 있게 회복되지 않는다. 이는 자연스러운 흥망성쇠가 아니라, 소프트웨어 개발 직종이 붕괴되면 인재 파이프라인이 말라버리고 전문 지식이 사라지는 영구적인 현상이다1.

4. 우리는 일을 덜 하게 되지 않는다. 대신 양극화된 결과가 나타난다: 새로운 AI 기반 산업에 자리 잡지 못한 사람은 완전히 퇴출되고, 남은 사람은 자동화된 개발 시스템을 운영하면서 점점 더 많은 작업을 맡게 된다. 일주일에 PR 5개? 웃겨! 50개, 혹은 500개를 목표로 하라.

5. 부는 대량 자동화 시기에 항상 그렇듯, 사업주, 고위 임원, 투자자, 그리고 모델 제공자(임대 수요자)에게 집중된다. 현재 부의 격차가 심각하다고 생각한다면, 이제 시작일 뿐이다.

이 도구들은 이미 존재한다. 사라지지 않는다. 이제 남은 질문은 “다음은 무엇을 할 것인가?”이다.

AI의 파괴적 영향을 상쇄할 유일한 실질적 방안은 정부의 과세와 규제를 통한 부의 재분배, 전환기를 지원하는 프로그램, 그리고 기업 과잉을 견제할 조직노동이다.

하지만 기술 산업이 늘 자유주의적 성향을 띠는 만큼, 이러한 방안이 실현될 가능성은 낮아 보인다.

그 대신 우리는 모두 창조적 파괴에 동참하게 될 것이며, 속으로는 “다른 사람에게는 올지 몰라도 나에게는 안 올 거야”라고 믿을 것이다.

그때가 올 때까지.

왜냐하면 식인종은 배가 고프기 때문이다. 그리고 그들에게는…