왜 Anthropic의 'Agent Teams'는 가장 중요한 부분인 Governance를 놓치고 있는가?
Source: Dev.to
다중 에이전트 시스템에서 신뢰의 도전 과제
대부분의 다중 에이전트 시스템은 공유 메모리 뱅크에 의존합니다. 에이전트 A가 API 호출을 환상적으로 생성하고 에이전트 B가 그 메모리를 읽으면, 그 실수가 “기관 지식”이 됩니다. 적절한 검증이 없으면 하나의 오류가 전체 팀에 퍼질 수 있습니다.
코딩과 리뷰에 같은 컨텍스트를 에이전트에게 제공하면, 그 에이전트는 자신의 편향을 그대로 이어받게 됩니다. 이런 상황에서는 추적 가능성을 잃게 됩니다:
- 어느 에이전트가 결정을 내렸는가?
- 언제 일어났는가?
- 필수 품질 검사를 통과했는가?
이러한 추적 가능성이 없으면, 팀이 아니라 컴플라이언스 악몽이 됩니다.
Rigovo의 거버넌스 접근 방식
Rigovo Teams(코드 37 K 라인, 특화된 에이전트 8개, 마스터 에이전트 1개)를 구축한 뒤, 우리는 어려운 문제는 오케스트레이션이 아니라 신뢰임을 깨달았습니다.
pgvector를 활용한 플랫 시맨틱 메모리
우리는 pgvector 기반의 플랫 시맨틱 메모리 스토어를 사용합니다. 이를 통해 빠른 유사도 검색이 가능하면서 메모리 구조를 단순하게 유지합니다.
결정론적 품질 게이트
모든 메모리 항목은 팀에 영향을 미치기 전에 24개 이상의 결정론적 게이트를 통과해야 합니다. 이 게이트들은 다음을 검사합니다:
- 환상적인 API 호출
- 비밀 누출
- 구조 위반
이 검증을 모두 통과한 뒤에야 해당 항목이 공유 지식 베이스에 포함됩니다.
우리의 오픈소스 거버넌스 레이어 Rigour는 LLM 기반 휴리스틱에만 의존하지 않고 구조적 분석을 수행합니다. 정확한 에이전트, 타임스탬프, 게이트 결과로 결정을 추적할 수 없으면, 시스템은 프로덕션 수준 기준을 충족하지 못합니다.
오픈소스 거버넌스 레이어 – Rigour
Rigour는 MIT 라이선스로 공개되었으며, 이미 알리바바의 iFlow와 같은 팀에 의해 포크되어 사용되고 있습니다. 이는 프로덕션 급 AI에 견고한 거버넌스 레이어가 필요함을 보여줍니다.
- 레포지토리:
- 거버넌스 서비스:
큰 기업들이 이 분야에 진입하는 것을 보게 되어 기쁘지만, 우리의 초점은 데모 영상이 아니라 실제 프로덕션에서 동작하는 코드를 배포해야 하는 엔지니어들을 위한 도구를 만드는 데 있습니다.