RAG를 넘어: AI 환각과 싸우기 위한 자율 ‘Epistemic Engine’ 구축

Source: Dev.to

“Yes Man” 문제

RAG 애플리케이션을 만든 적이 있다면 한 번쯤은 경험했을 겁니다: 거짓 전제를 가진 선도 질문을 하면, LLM이 기꺼이 증거를 꾸며서 당신을 지지합니다. 이를 **아첨(sycophancy)**이라고 부르며, AI에 대한 신뢰를 조용히 무너뜨리는 요인입니다.

FailSafe 등장

아키텍처: 깊이 있는 방어 (Defense in Depth)

FailSafe는 검증을 사이버 보안 문제처럼 다룹니다. 여러 층의 필터를 사용해 고품질 사실만 살아남도록 합니다.

통계 방화벽 (Layer 0)

쓰레기에 토큰을 낭비할 이유가 있나요? 우리는 샤논 엔트로피와 어휘 분석을 활용해 저품질 입력을 즉시 거부합니다. 이는 “무비용 조기 종료” 전략입니다.

특화된 소형 모델 (SLMs)

모든 일을 GPT‑5에 맡길 필요는 없습니다. FailSafe는 핵심 지시어 해석(예: “He said…”)과 같은 작업을 FastCoref와 같은 특화 모델에 위임합니다. 이는 더 빠르고 저렴하며, 특정 문법 작업에서는 종종 더 정확합니다.

위원회: 인지적 갈등 관리

이것이 핵심입니다. 단일 에이전트 대신, FailSafe는 세 명의 서로 다른 에이전트로 구성된 **위원회(Council)**를 활용합니다:

• 논리학자 – 추론에서 형식적 오류를 감지합니다.
• (원본에서는 다른 에이전트들이 여기 나열되었을 것입니다.)

결론

우리는 FailSafe를 “지식 엔진(Epistemic Engine)”이라고 부릅니다. 이는 대화 흐름보다 지식의 무결성을 우선시하기 때문입니다. 오픈 소스이며, 자율 검증의 경계를 넓혀줄 기여자를 찾고 있습니다.

코드와 기술 백서를 여기서 확인하세요