[Paper] 과학자처럼 생각하라: Physics-guided LLM Agent for Equation Discovery

Source: arXiv - 2602.12259v1

Overview

이 논문은 KeplerAgent라는 물리‑기반 AI 에이전트를 소개합니다. 이 에이전트는 과학자들이 방정식을 발견하는 방식을 모방하는데, 먼저 숨겨진 물리적 특성(예: 대칭성, 보존 법칙)을 찾아낸 다음, 그 통찰을 활용해 심볼릭 회귀를 올바른 공식으로 유도합니다. 대형 언어 모델(LLM)과 도메인‑특화 도구를 결합함으로써, 저자들은 순수 LLM이나 전통적인 회귀 방법에 비해 특히 데이터에 잡음이 있을 때 방정식 발견 성능이 현저히 향상된다는 것을 입증했습니다.

주요 기여

• 에이전트 기반 추론 파이프라인은 구조 추론 (대칭, 차원 분석, 불변량)과 기호 회귀를 분리합니다.
• LLM과 물리‑기반 툴킷(예: 차원 분석 라이브러리, 불변 검출기)의 통합을 통해 하위 회귀 엔진을 위한 사전 정보를 생성합니다.
• 기호 회귀 백‑엔드의 동적 구성(PySINDy, PySR) – 에이전트가 추론된 물리학에 기반해 함수 라이브러리를 자동으로 선택하고 구조적 제약을 적용합니다.
• 포괄적인 벤치마크 스위트는 고전 역학, 열역학, 전자기학 문제를 포함하며, 기호 정확도와 노이즈 견고성에서 큰 향상을 보여줍니다.
• 오픈‑소스 구현은 재현 가능한 워크플로우에서 LLM 호출, 툴 실행 및 회귀를 조정하는 방법을 보여줍니다.

방법론

1. Problem Setup – 입력 변수 (X)와 관측된 출력 (y)의 데이터셋이 주어졌을 때, 목표는 해석 가능한 기호 표현식 (f(X))을 복원하는 것이다.
2. Scientific Reasoning Loop
   • LLM Prompting – LLM에게 물리적 특성을 가설로 세우도록 요청한다 (예: “시스템이 회전에 대해 불변인가?”).
   • Physics‑Based Tools – 차원 분석, 대칭 탐지기, 보존량 계산기와 같은 특수 모듈이 이러한 가설을 검증하거나 정제하여 “방정식은 길이 차원에 대해 차수가 2인 동차식이어야 한다”와 같은 구체적인 제약을 만든다.
   • Constraint Synthesis – 에이전트는 제약을 기호 회귀 엔진을 위한 설정으로 변환한다: 후보 함수(예: sin, cos, 다항식 항)를 선택하고 대수적 제한(예: 홀수 차수 제외)을 추가한다.
3. Symbolic Regression – 설정된 엔진(PySINDy 또는 PySR)이 제약된 공간을 탐색하여 표준 희소성 촉진 또는 진화 전략을 사용해 최적의 기호 모델을 찾는다.
4. Iterative Refinement – 도출된 식이 검증에 실패하면(예: 발견된 불변성을 위반) 루프가 반복되어 LLM이 대체 가설을 제시할 수 있다.

전체 파이프라인은 상태를 추적하고 언제 도구를 호출할지 결정하며, 최종 방정식을 확정하기 전에 증거를 종합하는 가벼운 “에이전트”에 의해 조정된다.

결과 및 발견

• 기호 정확도 (실제 공식을 복원한 실행 비율) 가 가장 강력한 비에이전트 기준보다 15‑30 % 향상됩니다.
• 잡음 견고성: 성능이 점진적으로 저하됩니다; 가우시안 잡음 진폭이 두 배가 되어도 KeplerAgent은 >80 % 정확도를 유지하고, 반면 기준은 50 % 이하로 떨어집니다.
• 탐색 효율성: 후보 공간을 가지치기함으로써 회귀 단계가 2‑3배 빠르게 수렴하여, 여러 분에서 몇 분이 걸리던 계산 시간을 단일 CPU 코어에서 1분 이하로 줄입니다.

Practical Implications

• 가속된 과학 모델링 – 엔지니어는 실험 데이터를 KeplerAgent에 입력하여 손으로 특성 라이브러리를 제작하지 않고도 일급 원리와 유사한 모델을 얻을 수 있다.
• 임베디드 진단 – 제어 시스템(예: 로봇공학, 항공우주)에서 에이전트는 센서 스트림으로부터 지배적인 동역학을 지속적으로 추론하여 물리적 제약을 준수하는 적응형 컨트롤러를 가능하게 한다.
• 데이터 의존도 감소 – 에이전트가 물리 사전 지식을 활용하기 때문에 수렴에 필요한 샘플 수가 적어, 데이터 수집 비용이 높은 분야(예: 재료 시험, 생물의학 실험)에서 가치가 있다.
• 툴체인 확장성 – 모듈식 설계 덕분에 팀은 도메인 특화 분석기(예: 열역학 퍼텐셜, 양자 대칭)를 플러그인할 수 있어, 다양한 분야에서 접근 방식을 재사용할 수 있다.
• AI 강화 제품을 위한 설명 가능성 – 기호적 출력은 인간이 읽을 수 있어, 규제 준수와 AI 기반 의사결정 시스템에 대한 이해관계자 신뢰를 촉진한다.

제한 사항 및 향후 작업

• LLM 품질에 대한 의존성 – 에이전트의 초기 가설은 기본 LLM만큼만 정확합니다; 잘못 식별된 대칭은 회귀 단계에서 오류를 초래할 수 있습니다.
• 고차원 시스템에 대한 확장성 – 현재 실험은 ≤5 변수에 초점을 맞추고 있으며, 대규모 PDE 발견으로 확장하려면 보다 정교한 제약 전파가 필요합니다.
• 도구 통합 오버헤드 – 새로운 물리 모듈을 추가하려면 맞춤형 래퍼가 필요합니다; “physics‑as‑a‑service”를 위한 표준화된 API가 도입되면 채택이 원활해질 것입니다.
• 향후 방향에는 (1) 물리 단위에 대한 명시적 인식을 갖는 도메인‑특화 LLM 훈련, (2) 제약 루프에 베이지안 불확실성 정량화 도입, (3) 실제 산업 데이터셋(예: 유체 흐름 진단, 배터리 열화 모델링)에 프레임워크 적용이 포함됩니다.

저자

• Jianke Yang
• Ohm Venkatachalam
• Mohammad Kianezhad
• Sharvaree Vadgama
• Rose Yu

논문 정보

• arXiv ID: 2602.12259v1
• Categories: cs.AI, cs.LG
• Published: 2026년 2월 12일
• PDF: PDF 다운로드