使用 Microsoft Foundry 构建代理

Source: Dev.to

人工智能正在快速发展

从简单的语言模型到 智能代理：能够推理、执行操作、使用工具并相互协作的系统。

Microsoft Foundry

Microsoft Foundry 作为关键平台，帮助我们根据所需的场景或解决方案构建、管理和扩展 AI 代理。

Microsoft Foundry 是什么？

Microsoft Foundry 是 Azure AI 生态系统中的一个平台，可用于：

• 构建智能代理
• 编排复杂的 AI 工作流
• 集成模型（OpenAI、Azure OpenAI、开源）
• 连接工具、API 和企业数据
• 治理、评估并扩展 AI 解决方案

Foundry 不仅仅是“使用模型”，而是创建完整的 AI 系统，准备好投入生产。

什么是 AI 代理？

代理不仅仅是一个 提示。在 Foundry 中，代理具备：

示例：
一个代理接收请求，查询数据库，调用 API，对信息进行推理，并返回结构化的响应。

Source: …

在 Microsoft Foundry 中创建我们的第一个代理

步骤 1 – 在 Foundry 中创建项目

1. 访问 Azure AI Foundry 门户。
2. 创建一个 Foundry 项目 并关联：
   • Azure 订阅
   • 资源组
   • 区域

该项目将作为我们代理、评估和工作流的容器。

步骤 2 – 定义基础模型

选择将驱动代理的模型：

• GPT‑4 / GPT‑4o → 高级推理
• Phi‑3 / Phi‑4 → 轻量级代理、边缘部署、低成本
• 自定义模型 → 专业化场景

示例

• 模型： GPT‑4o
• 用途： 推理 + 工具

步骤 3 – 定义代理的角色和行为

通过 system prompt 定义代理的身份。

system prompt 示例

你是 Microsoft 产品技术支持的专家代理。
你的目标是以清晰、精准、一步步的方式解决问题。
如果需要额外信息，请在回答前先请求获取。

💡 小贴士： 一个优秀的代理应具备：

• 明确的目标
• 清晰的限制
• 确定的语气

步骤 4 – 添加工具 (Tools)

工具将 LLM 转变为真正的代理。

常见类型

• 🔌 REST API
• 📊 数据库
• 📁 文档检索 (RAG)
• 🧮 自定义函数 (Azure Functions)

概念性工具示例

{
  "name": "getUserOrders",
  "description": "获取用户的订单",
  "parameters": {
    "userId": "string"
  }
}

代理会自行决定何时以及如何使用该工具。

步骤 5 – 内存与上下文

Foundry 支持：

• 会话级别的内存
• 持久化上下文
• 可控的历史记录

这些对以下场景至关重要：

• 对话式代理
• 长流程
• 任务跟踪

步骤 6 – 测试与评估代理

在投入生产前：

1. 模拟对话
2. 评估回复质量

需要衡量的指标

• 准确性
• 一致性
• 安全性
• 成本

Foundry

包括自动和人工评估工具。

多代理编排

Foundry 的一个强项是创建 多代理系统。

架构示例

• 🧑‍💼 协调代理 – 指导流程
• 📊 分析代理 – 处理数据并生成洞察
• 🛠️ 执行代理 – 执行操作（API 调用，更新）

优势

• 更高的模块化
• 更好的分布式推理
• 真正的可扩展性

安全与治理

Foundry 为企业环境而设计，提供：

• 🔐 Identity (Azure AD)
• 📜 提示控制
• 🛡️ 内容过滤
• 📈 可观测性 (日志，指标)
• 💰 成本控制

成本

适用于无法即兴使用 AI 的组织。

实际使用案例

一些 Foundry 发光的例子：

• 🤖 智能技术支持
• 📄 文档分析代理
• 🧠 内部协作助手
• 📊 数据分析代理
• 🔄 业务流程自动化

最佳实践

• ✔ 设计具有明确职责的代理
• ✔ 使用工具，而不是巨大的提示词
• ✔ 持续评估
• ✔ 将代理视为软件，而不是聊天机器人
• ✔ 先从简单开始，随后扩展

通过这些步骤，你将拥有一份完整的指南，帮助你在 Microsoft Foundry 中启动你的第一个智能代理，并开始探索更复杂、更安全的架构。

感谢阅读

希望本指南能帮助您更好地了解 AI 代理以及如何使用 Microsoft Foundry 根据要实施的 AI 解决方案以结构化方式设计它们。

保持联系！ 🚀
X • LinkedIn • esdanielgomez.com