[Paper] 신경-심볼릭 통합과 진화 가능한 정책

Source: arXiv - 2601.04799v1

개요

이 논문은 신경망과 심볼릭 정책이 함께 진화하도록 하는 새로운 Neural‑Symbolic (NeSy) 프레임워크를 소개합니다—사전 작성된 규칙이나 미분 가능한 정책이 필요 없습니다. 각 NeSy 시스템을 변이하고 적합성을 놓고 경쟁하는 “유기체”로 취급함으로써, 저자들은 처음부터 해석 가능하고 비미분 가능한 정책을 발견하는 방법을 보여주며, 전문가 지식이 부족한 분야에서 AI 솔루션의 문을 엽니다.

주요 기여

• 진화 가능한 NeSy 아키텍처: NEUROLOG 시스템을 확장하여 기호 정책이 가변적이고 진화 가능한 엔터티가 되도록 함.
• 진화 학습 루프: Valiant의 진화 가능성 이론을 적용하여 기호 규칙 집합과 신경망 가중치를 공동으로 진화시킴.
• 미분 불필요 학습: 기호 구성 요소의 귀납적 추론을 사용해 신경 부분을 학습함으로써 gradient 기반 업데이트의 필요성을 없앰.
• 머신 코칭 의미론: 진화 과정에서 점진적으로 정제될 수 있는 가볍고 가변적인 기호 규칙 표현을 도입함.
• 실증 검증: 빈 정책과 무작위 가중치로 초기화된 개체군이 숨겨진 비분화 가능한 목표 정책으로 수렴하며 중앙 정확도가 거의 100 %에 달함을 보여줌.

방법론

1. 인구 인코딩 – 진화 인구의 각 개체는 다음으로 구성됩니다:
   • 상징적 정책 (논리 규칙 집합)으로, 비어 있을 수도 있고 시간이 지남에 따라 성장할 수도 있습니다.
   • 신경망으로, 가중치는 자유 파라미터입니다.
2. 돌연변이 연산자 – 두 종류의 돌연변이가 적용됩니다:
   • 상징적 돌연변이: 규칙을 무작위로 추가, 삭제 또는 수정합니다.
   • 신경 돌연변이: 네트워크 가중치를 교란합니다 (예: 가우시안 노이즈).
3. 적합도 평가 – 주어진 작업에 대해 시스템은 입력을 받고, 상징적 부분은 결정을 제안하며, 신경 부분은 지각 특징을 제공합니다. 결합된 출력은 숨겨진 목표 정책과 비교되며, 일치 점수가 적합도가 됩니다.
4. 선택 및 재생산 – 표준 진화 전략(예: 토너먼트 선택)을 사용해 적합도가 높은 개체를 선택하여 다음 세대를 생성합니다.
5. 신경 구성요소 학습 – 역전파 대신, 네트워크는 귀납적 추론을 통해 학습됩니다: 상징적 층이 관찰된 결과를 설명하고, 네트워크는 그 설명을 더 잘 지원하도록 조정됩니다. 이는 정책이 미분 가능해야 한다는 요구를 회피합니다.

Results & Findings

• Convergence speed: 여러 벤치마크 작업에서 인구는 일반적으로 200–500 세대 내에 90 % 이상의 정확한 성능에 도달했습니다.
• Policy complexity: 빈 규칙 집합에서 시작하여 진화된 정책은 평균 5–12개의 규칙으로 적당한 크기로 성장했지만 숨겨진 목표의 전체 행동을 포착했습니다.
• Robustness: 이 접근법은 전통적인 그래디언트 기반 NeSy 방법이 학습할 수 없는 비미분 가능한 목표 정책(예: 이산 의사결정 트리)을 처리했습니다.
• Ablation: 상징적 변이 또는 신경 변이 중 하나를 제거하면 성능이 크게 감소하여 공동 진화가 필수임을 확인했습니다.

Practical Implications

• Rapid prototyping in low‑knowledge domains – 낮은 지식 영역에서의 빠른 프로토타이핑 – 개발자는 규칙 베이스를 직접 만들 필요 없이 NeSy 에이전트를 배포할 수 있으며, 시스템이 자동으로 해석 가능한 정책을 발견하도록 할 수 있습니다.
• Explainable AI for safety‑critical systems – 안전‑중요 시스템을 위한 설명 가능한 AI – 최종 정책이 상징적이기 때문에 엔지니어는 사후에 이를 감사하고 수정할 수 있어 규제 또는 컴플라이언스 요구사항을 충족합니다.
• Edge‑friendly inference – 엣지 친화적 추론 – 상징적 구성 요소는 경량 규칙 엔진으로 컴파일될 수 있고, 신경망 부분은 양자화될 수 있어 제한된 디바이스에서도 하이브리드 모델을 구현할 수 있습니다.
• Integration with existing pipelines – 기존 파이프라인과의 통합 – 진화 루프는 기존의 신경망 아키텍처(CNN, Transformer 등)와 논리 언어(Prolog 스타일 Horn 절, Datalog 등) 어느 것이든 감쌀 수 있어, ML 엔지니어가 쉽게 도입할 수 있습니다.

제한 사항 및 향후 연구

• Scalability – 진화적 탐색은 매우 고차원 신경망이나 큰 규칙 어휘에 대해 비용이 많이 들 수 있으며, 논문에서는 더 스마트한 변이 휴리스틱이나 하이브리드 gradient‑evolution 전략이 필요함을 언급한다.
• Fitness design – 현재 적합도 함수는 숨겨진 목표 정책에 접근할 수 있다고 가정한다; 실제 상황에서는 더 노이즈가 많은 대리 목표(예: 보상 신호)가 필요할 수 있다.
• Rule expressiveness – 실험에서는 비교적 단순한 명제 규칙을 사용했으며, 보다 풍부한 1차 논리나 시간적 추론으로 확장하는 것은 여전히 해결되지 않은 과제이다.
• Benchmark breadth – 향후 연구에서는 프레임워크를 더 크고 산업 규모의 데이터셋(예: 자율 주행 인식‑결정 루프)에서 테스트하여 실용성을 검증해야 한다.

저자

• Marios Thoma
• Vassilis Vassiliades
• Loizos Michael

논문 정보

• arXiv ID: 2601.04799v1
• 카테고리: cs.LG, cs.NE
• 출판일: 2026년 1월 8일
• PDF: Download PDF