내가 지속형 AI 에이전트를 위한 붕괴 감지를 구축한 방법

Source: Dev.to

주요 정의

• F_total – 모델의 예측 오류 에너지(LLM의 경우 교차 엔트로피 손실, RL 에이전트의 경우 TD 오류).
• F_survival – 운영 무결성을 유지하는 데 필요한 최소 에너지.
• k(s) – 실행 시간에 따라 증가하는 민감도 상수.

빠른 시작

from tci_calculator import TCICalculator
from k_estimator import KEstimator

k_est = KEstimator(window_size=100)
tci   = TCICalculator(f_survival=0.35)

f_total    = 0.72
complexity = 0.61

k      = k_est.update(f_total - 0.35, complexity)
result = tci.compute(f_total, k)

print(result)
# TCIResult(tci=0.74, grade='A', stage='Generativity', surplus=0.37)

등급 의미

• 논문: