구글과 함께한 5일 Gen AI 인텐시브 코스에서 배운 것

Source: Dev.to

저는 최근 Google과 함께한 5‑Day Gen AI Intensive Course를 마쳤습니다. 동기는 두 가지였는데, Python(죄송합니다, TypeScript)에 대한 사랑과 AI 에이전트에 대한 매 fascination입니다. 아래는 제가 배운 내용과 기존 에이전트 프로젝트에 어떤 변화를 주었는지 간략히 정리한 것입니다.

Day 1 – Foundations & Prompting

• Background – 저는 RAG를 활용한 Discord 봇, LiveKit + FastAPI 기반의 실시간 음성 에이전트, 해커톤 스타일의 고객 지원 봇 등 여러 에이전트 프로젝트를 가지고 이 과정에 들어갔습니다.
• Key Insight – 이전 구현들은 취약하게 느껴졌으며, 하나의 엣지 케이스만으로도 전체 시스템이 무너질 수 있었습니다.
• Learning Highlights
  • NotebookLM 백서(whitepaper)를 살펴보며 기본 LLM에 대한 이해를 높였고, 특정 프롬프트가 성공하거나 실패하는 이유를 명확히 알게 되었습니다.
  • Prompting fundamentals codelab을 완료하면서 temperature, top‑k, top‑p가 출력의 무작위성 및 창의성에 미치는 영향을 발견했습니다.

Day 2 – Evaluation & Structured Outputs

• Problem – 에이전트 응답을 수동으로 검토하고 있었는데, 이는 비효율적이고 오류가 발생하기 쉬웠습니다.
• Solution – autoraters와 structured outputs에 대해 배워, 환각(hallucination)과 기대 행동 준수를 프로그램matically 검증할 수 있게 되었습니다.

Day 3 – Embeddings, Vector Stores & Retrieval‑Augmented Generation (RAG)

• Previous Experience – Chroma 및 기타 벡터 스토어를 사용했지만, 그 특성을 완전히 이해하지 못했습니다.
• Breakthrough – Embeddings 백서가 벡터 유사성 이론을 설명해 주어, 검색 실패 원인을 진단하는 데 큰 도움이 되었습니다.
• Hands‑On – 문서 Q&A 시스템을 처음부터 구축하면서 다음을 실험했습니다:
  • 청크 크기와 오버랩 전략
  • 임베딩 품질과 검색 성능 사이의 직접적인 관계

Day 4 – Multi‑Agent Systems & State Management

• Exploration – Gemini의 “AI‑using‑AI” 접근 방식에 영감을 받아 멀티‑에이전트 아키텍처를 탐구했습니다.
• Core Concepts
  • State machines와 agent loops를 활용해 다중 턴 대화를 관리
  • 컨텍스트가 손상되지 않도록 상호작용 간에 유지하는 기술

Day 5 – MLOps & Deployment Considerations

• Focus – 마지막 세션에서는 운영 측면(MLOps, DevOps, DataOps)과 프로덕션 환경에서 에이전트를 확장할 때 직면하는 과제들을 다루었습니다.
• Takeaway – 직접적인 codelab은 없었지만, 안전한 배포와 모니터링을 위해 샌드박스 환경의 중요성이 강조되었습니다.

Final Thoughts

AI 에이전트는 일상 업무 흐름에 점점 더 필수적인 요소가 되고 있습니다. 이번 집중 과정을 통해 저의 지식 격차—저수준 모델 메커니즘부터 고수준 시스템 설계까지—를 메우고, 보다 견고하고 신뢰할 수 있는 에이전트를 구축할 실용적인 도구들을 얻었습니다. 앞으로 이러한 인사이트를 다양한 프로젝트에 적용해 나가고 싶습니다.