[Paper] LLM 기반 자동차 시스템의 기능 안전 및 보안 설계

Source: arXiv - 2601.02215v1

개요

저자들은 대형 언어 모델(LLM)을 활용하여 Software‑Defined Vehicles (SDVs) 개발을 간소화하는 새로운 워크플로우를 제안합니다. LLM을 형식적 안전 모델 및 모델‑드리븐 엔지니어링과 통합함으로써, 이 접근 방식은 두 가지 핵심 문제점을 해결합니다: 보안 시스템 토폴로지 설계와 CAN 및 신흥 Vehicle Signal Specification (VSS)과 같은 자동차 제어 네트워크를 위한 이벤트‑드리븐 안전 코드의 자동 검증.

주요 기여

• LLM‑보강 설계 어시스턴트는 모델 기반 엔지니어링(MDE) 및 OCL 제약을 사용하여 보안 인식 차량 시스템 토폴로지를 생성하고 검증합니다.
• 이벤트‑체인 형식은 ECU 간 메시지 흐름의 의미를 포착하여 CAN 및 VSS 메시지 모두에 대한 체계적인 기능 안전 검증(ISO‑26262)을 가능하게 합니다.
• 엔드‑투‑엔드 워크플로는 고수준 아키텍처 모델과 저수준 소스 코드 분석을 연결하며, LLM을 활용해 자연어 사양 추출 및 규칙 생성을 수행합니다.
• 프로토타입 구현은 현실적인 ADAS 사용 사례에서 평가되었으며, 로컬에 배포 가능한 오픈소스 스택과 독점 솔루션을 모두 보여줍니다.
• 실증적 증거는 LLM 기반 파이프라인이 기능 안전 표준을 준수하면서 안전/보안 검토에 필요한 수작업을 감소시킨다는 것을 보여줍니다.

방법론

1. 모델 기반 토폴로지 설계

   • 엔지니어는 도메인 특화 언어로 차량의 논리 아키텍처(ECU, 통신 버스, VSS 데이터 모델)를 설명합니다.
   • LLM은 이러한 텍스트 사양을 파싱하고 보안 정책(예: 인증, 격리)을 인코딩하는 Object Constraint Language (OCL) 규칙이 포함된 UML/MDE 모델을 자동으로 생성합니다.

2. 이벤트 체인 구성

   • 시스템의 런타임 동작은 이벤트 체인으로 추상화됩니다—구성 요소 간에 교환되는 메시지의 순서가 지정된 시퀀스입니다.
   • 각 체인은 VSS 온톨로지와 CAN 신호 정의에서 파생된 시맨틱 전후 조건으로 주석이 달립니다.

3. 안전 및 보안 분석

   • LLM은 자연어 안전 요구사항(예: “브레이크 명령은 10 ms 이내에 확인되어야 함”)을 형식적인 시제 논리 제약으로 변환하는 데 도움을 줍니다.
   • 정적 분석 엔진은 이벤트 체인 모델을 이러한 제약과 대조하여 확인하고, 확인 누락이나 무단 메시지 경로와 같은 위반을 표시합니다.

4. 툴체인 통합

   • 워크플로는 기존 자동차 개발 파이프라인(e.g., AUTOSAR, ROS‑2)에 연결되며 로컬(오픈소스) 또는 전용 SaaS 형태로 실행될 수 있습니다.

결과 및 발견

이 연구는 LLM‑지원 분석이 전통적인 정적 분석 도구가 놓치는 미묘한 안전 및 보안 버그를 포착한다는 것을 보여준다. 특히 CAN ↔ VSS와 같은 교차 버스 메시지 의미론과 관련된 경우에 그렇다. 또한 이 접근 방식은 수동 검토 노력의 비례적 증가 없이 복잡한 ADAS 스택에 확장된다.

Practical Implications

• Faster Time‑to‑Market: Automating topology security checks and safety validation cuts weeks off the verification phase of SDV projects.
• Reduced Engineering Costs: By offloading routine rule generation and compliance checks to an LLM, teams can reallocate senior engineers to higher‑impact design work.
• Improved Safety Assurance: Formal event‑chain analysis ensures that safety‑critical messages retain their intended semantics across heterogeneous bus systems, a common source of hidden bugs in modern vehicles.
• Seamless Integration: The workflow plugs into existing CI/CD pipelines, allowing continuous safety/security verification as code evolves—critical for over‑the‑air (OTA) updates.
• Vendor‑Neutral Tooling: The open‑source variant gives OEMs and Tier‑1 suppliers a cost‑effective way to adopt LLM‑driven safety engineering without locking into a single vendor ecosystem.

제한 사항 및 향후 작업

• LLM 환각: 모델이 때때로 부정확한 OCL 제약을 생성하거나 모호한 자연어 요구사항을 오해하여 인간의 검증이 필요합니다.
• 형식 검증의 확장성: 이벤트‑체인 모델은 현재 ADAS 모듈에 대해 다루기 쉽지만, 전체 차량 아키텍처로 확장하려면 구성 검증 기법이 필요할 수 있습니다.
• 도메인 특화 학습 데이터: LLM의 성능은 자동차 전용 코퍼스에 의존합니다; 보다 넓은 채택을 위해서는 최신 표준(예: AUTOSAR Adaptive, VSS 2.0)을 포함한 선별된 데이터셋이 도움이 됩니다.
• 보안 위협 모델링: 현재 연구는 토폴로지 제약에 초점을 맞추고 있으며, 향후 확장에서는 LLM 프롬프트에서 직접 위협 모델 생성(예: STRIDE)을 통합할 수 있습니다.

전반적으로 이 논문은 LLM과 형식 자동차 안전 공학을 결합하는 설득력 있는 청사진을 제시하며, 차세대 연결형 소프트웨어 정의 차량을 구축하는 개발자들에게 실질적인 생산성 향상을 약속합니다.

저자

• Nenad Petrovic
• Vahid Zolfaghari
• Fengjunjie Pan
• Alois Knoll

논문 정보

• arXiv ID: 2601.02215v1
• Categories: cs.SE, cs.AI
• Published: 2026년 1월 5일
• PDF: PDF 다운로드