[논문] 시공간 신경망을 위한 하이브리드 강건성 검증
개요
AI가 안전이 중요한 시스템에 점점 더 많이 적용됨에 따라, 기본 모델에 대한 형식적인 강인성 보장을 제공하는 것이 필수적입니다. 기존 검증 방법은 과도하게 보수적인 근사에 의존하거나 계산 비용이 지나치게 많이 듭니다. 예를 들어, 비디오 환경에서 lp-노름 교란을 사용하는 것은 공격자가 모든 비디오 프레임에 잡음을 주입할 수 있다는 가정을 내포합니다. 실제로는 적대적 교란이 구조화된 공간·시간적 상관관계를 가지며, 낮은 차원의 의미론적으로 의미 있는 부분공간에 제한됩니다. 본 연구에서는 행동 인식(UCF-101), 자율 주행(Udacity), 의료 영상(MedMNIST) 등에서 3D CNN이 비디오 및 부피 입력을 처리하는 강인성 검증을 다루며, 공격자가 연속된 프레임 집합 내에서 일부 프레임이나 패치를 수정할 수 있는 공간·시간 제약으로 적대적 강도를 현실적인 가정에 맞게 모델링합니다. 현실적인 제약을 모델링하면 더 긴밀한 근사가 가능함을 보였습니다. 우리는 첫 번째 합성곱 층에 대한 정확한 폐쇄형 표현을 계산하고, 이후 층에서는 확장 가능한 근사를 사용해 인증된 경계를 전파하는 검증 프레임워크 Spatio-Temporal Bound Propagation (STBP) 를 도입합니다. 첫 번째 합성곱 층에 대한 정확한 폐쇄형 표현을 계산함으로써 가장 타이트한 경계를 얻을 수 있으며, 네트워크 나머지 부분에서는 근사 방법을 활용합니다. 이 분야의 추가적인 발전을 촉진하기 위해, 우리는 자율 주행 및 행동 인식을 위한 검증 벤치마크 ST-Bench 를 제안하여 검증 가능한 강인성을 체계적으로 평가합니다. 기존 검증 기반 접근법에 비해 STBP는 동일한 교란 예산 하에서 인증된 강인 정확도가 1.7배 더 높아지는 등, 훨씬 강력한 강인성 보장과 뛰어난 확장성을 제공합니다.
주요 기여
이 논문은 다음 분야의 연구를 제시합니다:
- cs.CV
- cs.AI
- cs.LG
방법론
자세한 방법론은 전체 논문을 참고하십시오.
실용적 함의
본 연구는 cs.CV 분야의 발전에 기여합니다.
저자
- Sherwin Varghese
- Matthew Wicker
- Alessio Lomuscio
논문 정보
- arXiv ID: 2606.09746v1
- 분류: cs.CV, cs.AI, cs.LG
- 발표일: 2026년 6월 8일
- PDF: PDF 다운로드