Amazon Bedrock에서 에이전트를 위한 Stateful 런타임 환경 소개

Source: OpenAI Blog

Introduction

AI 에이전트는 추론에 뛰어납니다. 더 어려운 부분은 운영입니다: 실제 도구와 시스템을 통해 여러 단계의 작업을 신뢰성 있게 시간에 걸쳐 실행하고, 올바른 제어를 적용하는 것입니다.

오늘 우리는 Amazon과의 파트너십 및 공동 협업을 통해 Amazon Bedrock에서 네이티브로 실행되는 Stateful Runtime Environment를 제공하게 되어 고객에게 이 과정을 더 쉽게 만들고 있습니다. 이 환경은 OpenAI가 제공하는 인텔리전스를 AWS 인프라에 최적화하고 에이전트 워크플로에 맞게 조정했으며, 프로덕션 작업에 필요한 상태, 신뢰성 및 거버넌스를 제공합니다.

많은 에이전트 프로토타입은 무상태 API를 기반으로 단순한 사용 사례—하나의 프롬프트, 하나의 답변, 경우에 따라 하나의 도구 호출—를 다룹니다. 프로덕션 작업은 다릅니다. 실제 워크플로는 여러 단계에 걸쳐 전개되고, 이전 작업의 컨텍스트가 필요하며, 여러 도구 출력, 승인 및 시스템 상태에 의존하고, 보안 환경에서 신뢰할 수 있는 가드레일이 필요합니다.

무상태 API는 에이전트를 위한 지원 오케스트레이션 레이어를 직접 구축해야 합니다. 이 부담은 개발 팀이 상태를 어떻게 저장할지, 도구를 어떻게 호출할지, 오류를 어떻게 처리할지, 장기 실행 작업을 어떻게 안전하게 재개할지 결정하도록 강요합니다.

Stateful Runtime Environment는 이러한 부담을 줄이도록 공동 설계되었습니다. 이는 귀하의 AWS 환경 내부에서 실행되며 AWS 서비스와 원활히 작동하도록 최적화되었습니다. 연결되지 않은 요청을 수동으로 이어 붙이는 대신, 에이전트는 “작업 컨텍스트”를 자동으로 전달하면서 복잡한 단계를 실행합니다:

• 메모리/히스토리
• 도구 및 워크플로 상태
• 환경 사용
• 아이덴티티/권한 경계

이제 다음과 같은 솔루션을 제공하는 것이 그 어느 때보다 쉬워졌습니다:

• 다중 시스템 고객 지원
• 영업 운영 워크플로
• 내부 IT 자동화
• 승인 및 감사를 포함한 금융 프로세스

런타임이 단계 간 지속적인 오케스트레이션과 상태를 처리하면, 팀은 스캐폴딩 대신 워크플로와 비즈니스 로직에 집중할 수 있습니다.

Stateful 작업은 시간에 걸쳐 신뢰성 있게 실행되도록 설계되었으며, 다단계 실행에 필요한 컨텍스트와 제어 경계를 전달합니다. 런타임은 고객의 AWS 환경 내에서 작동하므로 기존 보안 태세, 도구 통합 및 거버넌스 규칙을 쉽게 준수할 수 있습니다.

Getting started

Amazon Bedrock의 Stateful Runtime은 곧 제공될 예정입니다. 이 기능이 귀하의 AI 여정에 어떻게 도움이 될지 탐색하고 싶다면, OpenAI 팀에 연락하거나 연락받기를 요청하십시오.

마케팅 커뮤니케이션 수신 거부에 대한 자세한 내용은 .에 있는 구독 취소 링크를 참조하십시오.