내가 실제로 만드는 것: 인상적인 데모가 아니라 실제 서비스되는 AI 시스템

Source: Dev.to

모든 AI 관련 LinkedIn 포스트는 똑같아 보인다. “최첨단 LLM을 활용해 비즈니스를 혁신하게 되어 기대됩니다.” 멋지죠. 그런데 그게 대체 무슨 말인가요?
제가 실제로 하는 일을 말씀드리겠습니다.
저는 프로덕션에서 돌아가는 AI 시스템을 구축합니다. 잘못 보면 바로 부서지는 프로토타입이 아니라요.

RAG 시스템: Retrieval‑Augmented Generation에 대부분의 시간을 씁니다. 진짜 RAG—“모든 걸 벡터 스토어에 넣고 기도한다”는 식이 아니라요. 저는 청크 전략, 검색 파이프라인, 재순위 레이어, 평가 프레임워크를 설계합니다. 이게 챗봇이 헛소리를 내는 경우와 매번 정확한 답을 주는 경우를 가르는 차이점입니다.

은행, 인도주의 활동, 전자상거래 분야에 RAG 시스템을 배포했습니다. 각 도메인마다 허용 가능한 허위 정보 수준이 다릅니다. 은행: 0% 허용. 인도주의: 생명이 걸려 있습니다. 전자상거래: 고객 서비스 팀이 반란을 일으킬 수 있습니다.

AI 에이전트: “내 에이전트가 계산기를 쓸 수 있다”는 식이 아닙니다. 가드레일, 폴백 체인, 도구 사용 프로토콜, 관측성을 갖춘 프로덕션 에이전트입니다. 모르는 것을 알 때를 인식하고, 되돌릴 수 없는 작업을 수행하기 전에 허가를 구하는 에이전트죠.

데모용 에이전트와 프로덕션 에이전트의 차이는 기술적인 것이 아니라 아키텍처에 있습니다.

AI는 진공 상태에서 떠다니지 않습니다. 인프라가 필요합니다.

저는 AI 주변에 풀스택 시스템을 구축합니다—Laravel 백엔드, Next.js 프론트엔드, RESTful 및 GraphQL API, 데이터베이스 설계, 배포 파이프라인 등. AI가 실제로 동작하게 만드는 지루한 부분이 바로 여기입니다.

내 스택: Laravel, Next.js, React Native, PostgreSQL, Redis, Docker, 클라우드 배포. 20년 이상의 소프트웨어 구축 경험을 통해 화려한 레이어가 병목이 아니라는 것을 배웠습니다. 배관이 병목이죠.

수천 명의 동시 사용자를 처리하고, 실시간 문서 처리, 멀티 테넌트 아키텍처, 저대역 환경에서도 작동해야 하는 시스템을 만들었습니다(분쟁 지역에서 인도주의 기술을 시도해 보면 빨리 배웁니다).

크로스 플랫폼 앱도 실제 네이티브 느낌을 줍니다. “양쪽 플랫폼에서 동작한다”는 수준이 아니라, 사용자가 네이티브가 아니라는 걸 눈치채지 못하게 하는 수준이죠. React Native와 필요 시 적절한 네이티브 모듈, 오프라인 퍼스트 아키텍처, 실시간 동기화 등을 활용합니다. 기능만 있는 것이 아니라 유용한 앱을 만드는 것이 목표입니다.

나를 평균 AI 엔지니어·풀스택 개발자와 구분 짓는 점

• 2005년부터 20년째 이 일을 해오고 있습니다. 모든 hype cycle, “이게 모든 걸 바꿀 거다”는 기술, 이전을 대체한다는 프레임워크를 모두 목격했죠. 대부분 사라졌습니다.
• 데모가 아니라 최악의 상황을 설계합니다. 은행이나 인도주의 현장에서 실패는 학습 기회가 아니라 재앙입니다. 이 마인드셋이 모든 프로젝트에 스며듭니다.
• 저는 MENA 지역에 기반을 두고 있습니다. 이 시장을 위해 개발합니다. 인프라 제약, 규제 환경, 사용자 행동을 이해하고, 실리콘밸리식 패턴을 무턱대고 가져오지 않습니다.
• 과대 판매하지 않습니다. 프로젝트에 AI가 필요 없으면 솔직히 말씀드립니다. 더 간단한 해결책이 더 좋다면 그걸 구현합니다. 제 일은 기술을 파는 것이 아니라 문제를 푸는 것입니다.

복잡한 문제, 실제로 작동해야 하는 시스템, 금전·생명·명예 등 실질적인 이해관계가 걸린 프로젝트가 제 관심사입니다.

“챗봇을 만들어 주세요.” 라는 요청도 할 수 있지만, 아마도 필요 없을 겁니다.

제가 흥미를 느끼는 프로젝트: 정확도가 중요한 RAG 시스템, 안전해야 하는 에이전트 아키텍처, 확장성이 요구되는 플랫폼, 오프라인에서도 동작해야 하는 모바일 앱.

이런 프로젝트라면, 이야기해 봅시다.

제가 만드는 것: AI 시스템(RAG, 에이전트, LLM), 풀스택 웹 플랫폼, 모바일 앱, API, 데이터베이스, 그리고 이 모든 것을 연결하는 인프라.
어디서 만드는가: 요르단 암만. 전 세계를 위해.

AI 데모와 프로덕션 시스템 사이의 가장 큰 격차는 무엇이라고 보시나요? 여러분의 전쟁 이야기를 듣고 싶습니다.

더 많은 내용은 yabasha.dev에서 확인하세요—불필요한 말 없이 실제 시스템과 실제 실패 사례만을 다룹니다.