Microsoft Foundry를 사용한 에이전트 구축

Source: Dev.to

위의 링크에 포함된 전체 텍스트를 제공해 주시면, 해당 내용을 한국어로 번역해 드리겠습니다. 코드 블록, URL 및 마크다운 형식은 그대로 유지하면서 번역해 드립니다.

인공지능이 빠르게 진화하고 있습니다

단순한 언어 모델에서 지능형 에이전트로: 추론하고, 행동을 실행하며, 도구를 사용하고 서로 협업할 수 있는 시스템.

Microsoft Foundry

Microsoft Foundry는 우리가 구현해야 할 시나리오나 솔루션에 따라 AI 에이전트를 구축, 관리 및 확장하기 위한 핵심 플랫폼으로 부상하고 있습니다.

Microsoft Foundry란?

Microsoft Foundry는 Azure AI 생태계 내의 플랫폼으로 다음에 유용합니다:

• 지능형 에이전트 구축
• 복잡한 AI 흐름 오케스트레이션
• 모델 통합 (OpenAI, Azure OpenAI, OSS)
• 도구, API 및 기업 데이터 연결
• AI 솔루션 거버넌스, 평가 및 확장

Foundry는 단순히 “모델을 사용하는 것”이 아니라, 완전한 AI 시스템을 만들어 프로덕션에 바로 사용할 수 있게 하는 것입니다.

AI 에이전트란?

에이전트는 단순한 프롬프트 그 이상입니다. Foundry에서 에이전트는 다음을 포함합니다:

예시:
요청을 받고 데이터베이스를 조회하고 API를 호출한 뒤, 정보를 기반으로 추론하여 구조화된 응답을 반환하는 에이전트.

Source:

Microsoft Foundry에서 첫 번째 에이전트 만들기

단계 1 – Foundry에서 프로젝트 생성

1. Azure AI Foundry Portal에 액세스합니다.
2. Foundry Project를 만들고 다음을 연결합니다:
   • Azure 구독
   • 리소스 그룹
   • 지역

이 프로젝트는 에이전트, 평가 및 흐름을 담는 컨테이너가 됩니다.

단계 2 – 기본 모델 정의

에이전트를 구동할 모델을 선택합니다:

• GPT‑4 / GPT‑4o → 고급 추론
• Phi‑3 / Phi‑4 → 경량 에이전트, 엣지, 저비용
• 맞춤형 모델 → 특수한 사용 사례

예시

• 모델: GPT‑4o
• 용도: 추론 + 도구

단계 3 – 에이전트 역할 및 행동 정의

system prompt를 통해 에이전트의 정체성을 정의합니다.

system prompt 예시

당신은 Microsoft 제품 기술 지원 전문가 에이전트입니다.
목표는 문제를 명확하고 정확하게 단계별로 해결하는 것입니다.
추가 정보가 필요하면 답변하기 전에 반드시 요청해야 합니다.

💡 팁: 좋은 에이전트는 다음을 갖춥니다:

• 명확한 목표
• 명시적인 제한
• 정의된 톤

단계 4 – 도구(Tools) 추가

도구는 LLM을 실제 에이전트로 변환합니다.

주요 유형

• 🔌 REST API
• 📊 데이터베이스
• 📁 문서 검색 (RAG)
• 🧮 맞춤형 함수 (Azure Functions)

도구 개념 예시

{
  "name": "getUserOrders",
  "description": "사용자의 주문을 가져옵니다",
  "parameters": {
    "userId": "string"
  }
}

에이전트는 언제, 어떻게 도구를 사용할지 스스로 결정합니다.

단계 5 – 메모리와 컨텍스트

Foundry는 다음을 지원합니다:

• 대화별 메모리
• 지속적인 컨텍스트
• 제어된 히스토리

이는 다음에 중요합니다:

• 대화형 에이전트
• 긴 흐름
• 작업 추적

단계 6 – 에이전트 테스트 및 평가

프로덕션에 올리기 전에:

1. 대화 시뮬레이션
2. 응답 평가

측정할 메트릭

• 정확도
• 일관성
• 보안
• 비용

Foundry

자동 및 인간 평가 도구를 포함합니다.

다중 에이전트 오케스트레이션

Foundry의 강점 중 하나는 멀티‑에이전트 시스템을 만드는 것입니다.

아키텍처 예시

• 🧑‍💼 코디네이터 에이전트 – 흐름을 제어
• 📊 분석가 에이전트 – 데이터를 처리하고 인사이트를 생성
• 🛠️ 실행자 에이전트 – 작업을 수행(API 호출, 업데이트)

장점

• 높은 모듈성
• 향상된 분산 추론
• 실제적인 확장성

보안 및 거버넌스

• 🔐 Identity (Azure AD)
• 📜 프롬프트 제어
• 🛡️ 콘텐츠 필터
• 📈 관측성 (로그, 메트릭)
• 💰 비용 제어

비용

인공지능으로 즉흥적으로 대처할 수 없는 조직에 이상적입니다.

실제 사용 사례

Foundry가 빛을 발하는 몇 가지 예시:

• 🤖 스마트 기술 지원
• 📄 문서 분석 에이전트
• 🧠 내부 코파일럿
• 📊 데이터 분석 에이전트
• 🔄 비즈니스 프로세스 자동화

모범 사례

• ✔ 정의된 책임을 가진 에이전트 설계
• ✔ 프롬프트를 크게 만들지 말고 도구 사용
• ✔ 지속적으로 평가
• ✔ 에이전트를 챗봇이 아니라 소프트웨어로 생각
• ✔ 간단히 시작하고, 이후에 확장

이 단계들을 통해 Microsoft Foundry에서 첫 번째 지능형 에이전트를 시작하고, 보다 복잡하고 안전한 아키텍처를 탐색하기 위한 완전한 가이드를 얻을 수 있습니다.

읽어 주셔서 감사합니다

이 가이드가 AI 에이전트를 더 잘 이해하고 Microsoft Foundry를 사용하여 구현할 AI 솔루션에 맞게 구조화된 방식으로 설계하는 데 도움이 되었기를 바랍니다.

계속 연락해요! 🚀
X • LinkedIn • esdanielgomez.com