推出 Amazon Bedrock 中的代理有状态运行时环境

Source: OpenAI Blog

Introduction

AI 代理擅长推理。更难的部分是运营：在真实工具和系统上，跨越时间可靠地执行多步骤工作，并具备恰当的控制。

今天，我们通过与亚马逊的合作伙伴关系和联合协作，推出 在 Amazon Bedrock 原生运行、由 OpenAI 提供动力的有状态运行时环境，让客户更容易实现这一目标。AWS 客户将能够通过运行时环境访问 OpenAI 的智能能力，该环境针对 AWS 基础设施进行优化，并为代理工作流量身定制，具备生产工作所需的状态、可靠性和治理。

许多基于无状态 API 的代理原型只处理简单用例——一次提示、一次回答，或许一次工具调用。生产环境则不同。真实工作流会跨越多个步骤，需要前一步操作的上下文，依赖多个工具输出、审批和系统状态，并且需要在安全环境中拥有可信的防护措施。

无状态 API 需要为代理构建支持性的编排层。开发团队必须自行决定状态如何存储、工具如何调用、错误如何处理以及长时间运行的任务如何安全恢复。

有状态运行时环境的设计旨在减轻这些负担。它 在您的 AWS 环境内部运行，并针对 AWS 服务进行优化。代理不再需要手动拼接分散的请求，而是自动在携带“工作上下文”的环境中执行复杂步骤，该上下文会向前传递：

• 内存/历史记录
• 工具和工作流状态
• 环境使用情况
• 身份/权限边界

现在比以往更容易交付以下解决方案：

• 多系统客户支持
• 销售运营工作流
• 内部 IT 自动化
• 包含审批和审计的财务流程

当运行时负责跨步骤的持久编排和状态时，团队可以专注于工作流和业务逻辑，而不是搭建脚手架。

有状态任务被设计为能够随时间可靠运行，携带多步骤执行所需的上下文和控制边界。运行时在客户的 AWS 环境中运行，便于符合现有的安全姿态、工具集成和治理规则。

Getting started

Amazon Bedrock 中的有状态运行时即将推出。如果您想了解这将如何助力您的 AI 之旅，请联系您的 OpenAI 团队或请求获取联系。

有关选择退出营销通信的更多信息，请参阅 .