생성 AI와 에이전트 AI: 질문 답변에서 행동으로

Source: Dev.to

파이프라인 & 프롬프트 | DevOps, 클라우드, AI에 대한 바이트 사이즈 가이드

중요한 워크숍이나 고객 미팅 전에 자료를 모으는 데 몇 시간을 허비하곤 했습니다. 프레젠테이션 덱을 다운로드하고, 링크를 저장하고, 문서를 읽으며, 방 안에서 자신 있게 질문에 답할 수 있을 만큼 머릿속에 정보를 담아두려 애썼죠.
그때 NotebookLM을 발견했습니다.

NotebookLM은 구글이 만든 생성형 AI 도구로, 자신의 문서, 프레젠테이션, 링크를 업로드하고 마치 모든 자료를 완벽히 읽어본 지식이 풍부한 동료와 대화하듯 사용할 수 있습니다.

최근 컨퍼런스 전, 논의될 주제와 관련된 모든 프레젠테이션, 링크, 문서를 업로드했습니다. 행사 중에 확신이 서지 않는 질문을 받으면, 몇 초 만에 내가 만든 개인 지식 베이스에 질의해 바로 자료에서 추출한 정확한 답을 얻을 수 있었죠.

또한 생성형 AI를 활용해 회의 안건, 워크숍 계획을 작성하고, 발표 슬라이드를 전달하기 전에 흐름을 비판하고, 빈틈을 찾아 개선점을 제안하도록 요청했습니다. 마치 믿음직한 동료가 검토해 주는 듯이 말이죠.

생성형 AI 도입 전후의 업무 방식 차이는 미묘하지 않습니다. 꽤 큰 차이가 있죠. 그리고 아직 시작 단계에 불과합니다.

Article 8에서는 구글 맵을 예시로 AI의 네 가지 유형—설명형, 예측형, 처방형, 생성형—을 다뤘습니다. 우리는 ChatGPT와 Claude 같은 생성형 AI가 기존 데이터를 분석하는 것이 아니라 텍스트, 코드, 이미지 등 새로운 콘텐츠를 만든다는 점을 강조했죠.

이번 글에서는 두 가지를 더 깊이 파고듭니다.

1. 생성형 AI — 실제 작동 원리, 뛰어난 점, 아직 부족한 점
2. 에이전시 AI — 다음 단계. AI가 질문에 답하는 데 그치지 않고 행동을 취해 복잡한 작업을 대신 수행하는 영역

대형 언어 모델(LLM)이란?

ChatGPT, Claude, Gemini 등 오늘날 대부분의 생성형 AI 도구 뒤에 있는 기술이 바로 대형 언어 모델(LLM)입니다. 그 구축 방식을 생각해 봅시다.

모든 책, 기사, 웹사이트, 코드 조각을 읽는다고 상상해 보세요. 수십억 단어를 접하면서 패턴을 눈치채게 됩니다. 특정 단어가 함께 등장하고, 특정 문장 구조가 특정 아이디어와 연결되며, 개념은 비슷한 방식으로 설명됩니다. 시간이 지나면서 언어에 대한 깊은 직관이 생기죠—모든 것을 외운 것이 아니라 패턴을 흡수했기 때문입니다.

LLM도 마찬가지로 방대한 텍스트를 처리하면서 언어의 통계적 패턴을 학습합니다. 어떤 단어가 어떤 단어 뒤에 오는지, 어떤 아이디어가 어떤 개념과 연결되는지, 질문에 보통 어떻게 답하는지를 배웁니다.

질문을 하면 데이터베이스를 조회하는 것이 아니라, 학습한 패턴에 따라 가장 가능성이 높은 단어를 차례로 생성합니다. 그래서 대화가 자연스럽게 느껴지는 겁니다—인간 커뮤니케이션의 패턴 위에 구축됐기 때문이죠.

하지만 이 때문에 환각(Hallucination) 현상이 발생합니다. 모델은 “가장 가능성 높은” 답을 생성할 뿐, 반드시 진실인 것은 아닙니다. 학습 데이터의 패턴이 그럴듯하지만 잘못된 답을 가리키면, 모델은 자신감 있게 그 답을 내놓습니다.

이해한다고 해서 LLM이 쓸모 없어진 것은 아닙니다. 오히려 더 좋은 사용자가 될 수 있습니다.

LLM이 잘하는 일

• 초안 작성 및 커뮤니케이션
• 복잡한 개념을 간단히 설명
• 코드 리뷰 및 디버깅
• 요약 및 통합
• 브레인스토밍 및 사고 파트너 역할

블로그에서 솔직히 말하자면

• 환각은 실제입니다. AI 모델은 자신감 넘치고 상세하지만 완전히 틀린 답을 만들 수 있습니다. 특히 숫자, 날짜, 구체적인 기술적 세부사항, 법률·의료 정보와 같은 중요한 사실은 반드시 검증하세요. 비판적 사고는 선택 사항이 아닙니다.
• 모르는 것을 모릅니다. LLM은 “모르겠어요”라고 거의 말하지 않습니다. 그 대신 그럴듯하게 들리는 무언가를 만들어냅니다. 질문이 드물거나 전문적일수록 답변을 신중히 평가해야 합니다.
• 컨텍스트에는 한계가 있습니다. 대부분의 LLM은 한 번에 유지할 수 있는 대화량이 제한됩니다. 매우 길거나 복잡한 프로젝트는 초기 컨텍스트를 잃어버려 후속 답변 품질에 영향을 줄 수 있습니다.
• 현실 세계 인식이 없습니다. 표준 LLM은 어제 무슨 일이 있었는지 모르고, 회사 내부 시스템에 접근하지 못하며, 당신을 대신해 행동을 취할 수도 없습니다.

이 마지막 제한이 바로 에이전시 AI가 해결하려는 문제입니다.

에이전시 AI와 기존 AI의 차이

지금까지 다룬 모든 AI 도구는 같은 기본 패턴을 따릅니다.
1️⃣ 질문 → AI가 답변
2️⃣ 또 다른 질문 → 다시 답변

각 상호작용은 단일 교환에 불과합니다.

에이전시 AI는 이 패턴을 깨뜨립니다.

AI 에이전트는 단순히 질문에 답하지 않습니다. 목표를 설정하고, 이를 단계로 나누며, 도구와 외부 시스템을 활용해 그 단계를 수행하고, 과정에서 얻은 정보를 학습해 최종 결과물을 제공합니다.

동료에게 질문하는 것과 업무를 위임하는 것의 차이를 생각해 보세요.

• 질문 예시: “다음 주 화요일에 런던에서 뉴욕으로 가는 항공편이 뭐가 있나요?”
  → 현재 생성형 AI가 하는 일입니다.

• 업무 위임 예시: “런던‑뉴욕 항공편을 찾아서 예약하고, 일정에 추가해 줘.”
  → 에이전시 AI가 하거나 빠르게 배우고 있는 일입니다.

n8n을 활용한 실험

저는 현재 n8n—오픈 소스 워크플로 자동화 도구—를 사용해 AI를 실제 행동과 시스템에 연결하고 있습니다. n8n을 이용하면 AI가 단순히 생각만 하는 것이 아니라 실행까지 할 수 있는 워크플로를 만들 수 있습니다. 예시:

• 이메일함을 모니터링하고, AI가 액션 아이템을 식별해 프로젝트 관리 도구에 자동으로 작업을 생성
• 폴더에 새 문서가 들어오면 AI가 요약하고, 그 요약을 Slack 채널에 게시
• 여러 출처에서 데이터를 가져와 AI가 분석하고, 자동으로 주간 보고서를 생성해 이메일 발송

n8n 워크플로 개념 예시

Trigger: 새 이메일 도착
   ↓
Step 1: AI가 이메일을 읽고 분류
   ↓
Step 2: 액션 아이템 포함 → 작업 생성
Step 3: 회의 요청이면 → 캘린더 확인 후 응답
Step 4: 문서이면 → 요약 후 파일링
   ↓
Result: 받은편지함 자동 관리

아직 초기 단계이며, 진행 중인 작업입니다. 하지만 초기 단계에서도 가능성은 명확합니다. 이전엔 사람의 눈길이 필요했던 개별 아이템들을 자동화, 일관성 있게, 개인이 감당할 수 없는 규모로 처리할 수 있게 됩니다.

AI 역량 스펙트럼

AI 역량을 이진(on/off) 스위치가 아니라 스펙트럼으로 생각하면 이해가 쉽습니다.

• Level 1 — AI 어시스턴트
• Level 2 — 도구를 활용하는 AI
• Level 3 — AI 워크플로 자동화
• Level 4 — 완전 자율 AI 에이전트

우리는 이 스펙트럼을 대부분이 생각하는 것보다 훨씬 빠르게 이동하고 있습니다.

클라우드·인프라 분야에서 에이전시 AI의 등장

에이전시 AI는 DevOps 엔지