모든 AI 에이전트가 필요로 하는 Escalation Rule Pattern (대부분은 놓치는)

Source: Dev.to

왜 에스컬레이션 규칙이 중요한가

AI 에이전트가 엣지 케이스에 직면했지만 에스컬레이션 규칙이 정의되지 않은 경우, 단순히 추측하게 됩니다. 이는 특히 엣지 케이스가 늘어나는 프로덕션 환경에서 심각한 문제를 초래할 수 있습니다.

에스컬레이션을 트리거해야 하는 일반적인 상황:

• 신뢰도가 낮은 쓰기 작업
• 재무 관련 출력
• 처음 접촉하는 경우

에스컬레이션 규칙은 안전벨트와 같습니다: 모든 것이 정상적으로 작동할 때는 눈에 띄지 않지만, 문제가 발생했을 때는 그 존재에 감사하게 됩니다.

에스컬레이션 규칙 예시

실제로 규칙은 SOUL.md 혹은 AGENTS.md 파일 안의 작은 블록으로 작성됩니다:

## Escalation Rules
- Escalate to Patrick before sending any external email to a new contact
- Escalate before posting anything that mentions revenue, pricing, or customers
- Escalate if confidence in output is below 0.7 on any write operation

언제 사용해야 할까

• 빠른 개발 사이클: 빠르게 배포하기 위해 에스컬레이션 규칙을 생략하고 싶을 수 있지만, 프로덕션 환경에서는 반드시 필요합니다.
• 테스트와 프로덕션: 테스트에서는 통과하더라도 실제 사용 환경에서는 문제가 발생할 수 있습니다; 에스컬레이션 규칙이 이러한 예상치 못한 실패를 잡아줍니다.

AI 에이전트를 프로덕션에서 운영하고 있나요? Ask Patrick Library는 에스컬레이션, 메모리 아키텍처, 비용 제어를 위한 검증된 설정을 제공합니다.

askpatrick.co