슬롭이 나를 두렵게 한다

Source: Hacker News

(번역할 텍스트를 제공해 주시면 한국어로 번역해 드리겠습니다.)

🦔 🦔 🦔

이게 소프트웨어가 도달할 수 있는 최고의 수준이라면 어떨까요? AI가 더 이상 발전하지 않고 사람들의 관심도 사라진다면?

AI가 여기서 멈춘다고 상상해 보세요. 웹 브라우저를 거의 코딩할 수 있는 모델, 컴파일러를 거의 코딩할 수 있는 모델, 그리고 약간의 지름길을 허용하면 꽤 멋진 데모를 보여줄 수 있는 모델이 여전히 존재합니다. 세계를 어느 정도 시뮬레이션하고 어느 정도 흥미로운 이야기를 쓸 수 있는 모델도 여전히 있습니다. 거의 작동하는 자율 주행 차도 있지만, 가끔은 안 될 때도 있죠. AI가 어떤 일의 90 %를 만들어 줄 수 있다면!

90 %는 꽤 큰 비중입니다. 마지막 10 %가 신경 쓰이시겠어요?

그게 안 될까 두렵습니다.

‘출시하기에 충분히 좋다’는 상황이 두렵고, 아무도 신경 쓰지 않을까 두렵습니다. AI 에이전트가 직접 체험하지 못하는 앱을 작성하는 것보다, 실제로 배포하는 것을 배우려 하지 않는 AI 관리자를 더 두려워합니다. 그리고 그 슬롭을 경험하고도 괜찮다고 생각하는 사람들에 대해서는 정말 두렵습니다.

목공 애호가인 저는 IKEA 한가운데 서 있는 것에 서서히 평화를 찾고 있습니다. 하지만 현재 드롭쉬핑 지옥 같은 상황을 보면, IKEA가 꿈이 될 수도 있겠네요. 소프트웨어 템플릿화는 소프트웨어 상품화보다 훨씬 고통스럽습니다.

클로드와 같은 모델은 좋은 소프트웨어를 만들고 새로운 기술·프로그래밍 언어를 배우는 데 도움을 줄 수 있다고 생각합니다. 다만 제가 17명의 에이전트와 함께 드워프 요새를 플레이하는 사람보다 배우고 이해하는 데 더 느리게 움직이는 건 확실합니다. 동시에 AI 모델은 언제나 그 ‘다음‑리액트‑테일윈드’, 충분히 좋은 앱 쪽으로 끌리는 듯합니다. 이런 모델들은 흔히 벗어난 길을 잘 다루지 못합니다.

모든 토큰을 써도 FiftyThree의 Paper와 같은 독특한 무언가를 AI 도구로 만들려 하면 결국 평범하고 영감 없는 결과가 나옵니다.

슬롭이 새로운 현상은 아니라는 점을 기억하세요. 인간의 수많은 결정이 뒤이어 여러분의 엉덩이를 매우 불편한 의자에 앉히고, 검색 결과를 형편없는 SEO 최적화 기사들로 오염시키며, 사용자 인터페이스가 형편없어 눈물을 흘리게 만드는 티켓 예매 사이트를 마주하게 만들었습니다. 결국 이는 사람 문제입니다. 좋은 소프트웨어를 만들기 위한 인센티브가 맞물리지 않기 때문이죠. “빠르게 움직이고 부수라” 같은 말이 있듯이, 작은 장인 앱을 만들면 구글이 무료 복제본을 내놓고, 여러분을 죽이고, 그 복제본도 죽이고—결국 새로운 좋은 소프트웨어는 제로가 됩니다. 이제 AI 에이전트가 등장하면서 에이전트 관리자는 이 과정을 훨씬 빠르게 반복할 수 있게 되었습니다.

개발자를 떠나 사용자도 있습니다. AI 모델은 상상력이 부족하고 개발자는 이를 감당하기 어렵지만, AI 도구가 있으면 사용자와 개발자 사이의 격차가 메워질 것입니다. ChatGPT가 새로운 HyperCard가 되어 사람들은 몇 문장만으로 아이디어를 현실로 만들 수 있게 됩니다. 회계 부서의 캐롤이 미친 엑셀 스프레드시트를 만들든, 틱톡의 아이들이 Apple Shortcuts으로 휴대폰을 자동화하든, 멋진 Notion 노트북을 해킹하든, 코딩을 모르는 사람들까지도 코딩하고 있습니다.

하지만 그 사람들은 예외일까요? 이 기술 학습 무력감 상태가 고쳐질 수 없을까요? 사람들은 정말 주머니 속에 작은 TV 하나만 원할까요? 대부분의 사람들이 기술 문제, 프라이버시, Liquid Glass, 마이크로소프트의 업셀, 끊임없이 작동하지 않는 앱과 기능에 전혀 관심이 없을까요? 미래에 컴퓨팅을 이어받을 사람이 남지 않을까요? 미래의 컴퓨팅이 누구의 손에 넘어갈지…

artisan developers or Carol from Accounting, but to whoever can churn out the most software the fastest? What if good enough really is good enough for most people?

I’m terrified that our craft will die, and nobody will even care to mourn it.

🦔 🦔 🦔

2026-02-08 • Mastodon에서 토론하기 • Bluesky에서 토론하기