자동화에서 예측으로
Source: Dev.to
Introduction
이 글은 Google AI Agents Writing Challenge: Learning Reflections에 제출한 작품입니다.
Kaggle과 Google이 귀중한 학습 자원을 제공하고 이를 모두에게 접근 가능하게 해준 것에 감사드립니다!
Course Highlights
- ADK 생태계 및 제품군 성숙도 – 포괄적인 기능과 향상된 특징들은 지난 6개월 동안 Google ADK가 이룬 진화와 발전을 보여줍니다.
- Google Cloud Platform과의 시너지 – Vertex AI, Cloud Run, Cloud Logging, Tracing과의 통합으로 ADK는 개발자에게 매력적인 선택지가 됩니다.
- 엔드‑투‑엔드 프로덕션 준비성 – 이 과정은 다중 에이전트 시스템 설계 패턴(순차, 병렬, 루프 기반)을 소개하고, 전체 개발‑배포‑관측‑평가 워크플로우를 단계별로 안내합니다.
이러한 요소들은 Google Gemini / ADK가 프로토타이핑 단계에서 프로덕션‑레디 단계로 전환하고 있음을 시사합니다.
Learning Format
백서, 강의, 실습 코드 예제의 조합이 지식 유지에 도움이 되며 학습 경험을 더욱 즐겁게 만듭니다.
Key Takeaway
스마트 메모리와 세션 유지로 구현되는 개인화—우리가 “큐레이션”이라고 부를 수 있는—가 AI 애플리케이션의 성공을 기본 LLM 모델보다 더 크게 정의합니다.
AI 에이전트가 예측형이 되면 단순히 워크플로우를 자동화하는 수준을 넘어, 사용자가 누구인지, 무엇을 선호하는지, 어떻게 작업하는지를 기억할 수 있습니다. 메모리가 에이전트/LLM에 내재화되면 전환 비용이 크게 증가해 제품에 대한 충성도가 높아집니다.
Session and Memory Management
“Session and Memory Management” 세션은 특히 적용 가능하고 영감을 주는 내용이었습니다. 이 세션은 다음과 같은 트레이드‑오프를 균형 있게 관리하는 방법에 초점을 맞춥니다:
- Performance (latency, accuracy)
- User experience
- Cost (tokens, storage)
Key Features Discussed
ContextCacheConfigSessionServiceMemoryService
이들을 함께 적용하려면 아이디어 단계에서 프로덕션 단계로 전환할 때 신중한 아키텍처 결정을 내려야 합니다.
Project Example: Personal Email Digest Assistant
- Goal: 이동 중인 사용자를 위해 받은 편지함 이메일을 청취 경험으로 변환합니다.
- Challenges:
- 지연 시간이 주요 문제였습니다.
- 과도한 로깅이 성능과 저장소에 영향을 미쳤습니다.
- Solutions:
- 일반적으로 사용되는 쿼리에 대해 의미적 캐싱을 구현해 첫 토큰 도달 시간을 가속화하고, 텍스트 생성 시간을 단축해 사용자 경험을 개선했습니다.
- 로깅을 동적으로 제어해 메모리 사용량을 감소시켰습니다(세부 내용은 생략).
향후 작업으로는 이메일 입력을 넘어 에이전트의 기능을 확장할 계획입니다.
Privacy and Data Protection
프로토타이핑을 넘어 개발자는 다음을 고려해야 합니다:
- Logging full sessions 은 다운스트림 분석 및 개선을 위한 풍부한 컨텍스트를 제공합니다.
- Session/memory retention 은 데이터 프라이버시 준수와 관련된 책임 및 위험을 초래합니다.
이러한 실무적인 고려사항은 개발 사이클 초기에 시스템 설계에 반영되어야 합니다.
Closing Thoughts
이 과정을 수강하며 정말 즐거운 시간을 보냈고, 앞으로도 개인 생산성을 위한 AI‑기반 애플리케이션 개발을 지속하고 싶습니다.
Demo & Repository
Here is the demo and GitHub repository for my project. Please feel free to leave a comment or suggestion. Thanks!