[Paper] DUALGUAGE: 보안 코드 생성을 위한 자동화된 공동 보안·기능 벤치마킹

Source: arXiv - 2511.20709v1

개요

이 논문은 DUALGUAGE를 소개한다. 이는 대형 언어 모델(LLM)이 생성한 코드의 보안과 기능적 정확성을 단일 실행에서 모두 평가하는 최초의 완전 자동화 프레임워크이다. 선별된 벤치마크 스위트(DUALGUAGE‑BENCH)와 에이전트형 실행기, LLM 기반 평가자를 결합함으로써, 현재 코드 생성 모델이 안전하면서도 정확한 코드를 동시에 생산하는 데 여전히 어려움을 겪고 있음을 보여준다.

주요 기여

• 통합 벤치마킹 프레임워크 – DUALGUAGE는 생성된 프로그램을 통합된 보안 및 기능 테스트 스위트에 자동으로 실행시켜, 별도의 평가가 필요 없게 만든다.
• DUALGUAGE‑BENCH 데이터셋 – 암호학, 입력 검증, 파일 처리 등 다양한 코딩 과제를 손수 검증한 컬렉션으로, 각 과제마다 기능 사양과 알려진 취약점 패턴을 검사하는 테스트 케이스가 포함되어 있다.
• 에이전트형 프로그램 실행기 – 샌드박스된 런타임으로 생성 코드를 실행하고, 보안 관련 동작(예: 인젝션, 버퍼 오버플로)과 기능 결과를 캡처한다.
• LLM‑기반 평가자 – 보조 LLM이 실행 로그를 해석해 프로그램이 사양을 만족하는지, 보안 속성이 위반됐는지를 판단한다.
• 포괄적인 실증 연구 – 수천 개의 테스트 시나리오에서 최신 LLM 10종을 벤치마크하여, 안전한 코드 생성에 존재하는 체계적 격차를 밝혀낸다.
• 오픈소스 공개 – 모든 도구, 데이터셋, 평가 스크립트를 공개하여 재현 가능한 연구와 산업 채택을 촉진한다.

방법론

1. 과제 및 테스트 스위트 선별 – 저자들은 다양한 프로그래밍 문제(Python, JavaScript, C)를 선택하고 이중 테스트 스위트를 작성했다: 기능 테스트(예상 출력 검증)와 보안 테스트(악의적인 입력 주입, 위험한 시스템 호출 확인).
2. 코드 생성 – 각 LLM은 동일한 자연어 프롬프트를 받아 작업을 설명한다. 모델의 응답은 소스 파일로 저장된다.
3. 에이전트형 실행 – 소스 파일을 Docker 기반 샌드박스에서 실행한다. 실행기는 다음을 기록한다:
   • 기능 테스트를 위한 반환값 / stdout.
   • 취약점 테스트를 위한 런타임 예외, 시스템 호출, 보안 모니터 트리거.
4. LLM‑기반 점수 매기기 – 별도로 파인튜닝된 LLM이 실행 트레이스를 읽고 다음을 판단한다:
   • 정확성 – 프로그램이 모든 기능 어설션을 만족하는가?
   • 보안 – 프로그램이 사전에 정의된 불안전한 동작을 보이는가?
5. 지표 집계 – 결과를 통합 점수(예: 정확하고 안전한 과제 비율)로 압축하고, 보다 깊은 분석을 위해 개별 지표도 보고한다.
6. 검증 – 저자들은 전체 실행 중 무작위로 5 %를 직접 감사하여 자동 평가자의 판단이 인간 판단과 ≥ 94 % 일치함을 확인했다.

결과 및 인사이트

• 보안이 기능보다 뒤처진다 – 가장 강력한 모델조차도 80 % 이상의 과제에서 사양을 정확히 구현하지만, 알려진 취약점을 회피하는 비율은 약 60 %에 불과하다.
• 주요 실패 유형: 입력 정제 누락, 안전하지 않은 기본 설정, 암호 API 오용, 파일 시스템 접근 검증 부재.
• 통합 성공률 70 % 초과 모델 없음 – 인간 검토 없이 프로덕션 수준 코드를 신뢰하기에는 아직 큰 격차가 존재한다.
• 언어별 일관성 – Python에서의 성능이 C보다 우수한데, 이는 저수준 언어가 갖는 보안 표면이 더 넓기 때문이다.

실용적 함의

• 개발자 도구 – DUALGUAGE를 통합한 IDE 플러그인은 기능 테스트는 통과했지만 보안 검증에 실패한 코드 조각을 자동으로 표시해, 개발자가 위험 코드를 검토·수정하도록 유도한다.
• CI/CD 파이프라인 – 팀은 샌드박스 실행기를 지속적 통합 단계에 게이트로 삽입해, AI‑생성 풀 리퀘스트가 정확성과 보안 기준을 모두 만족할 때만 병합하도록 할 수 있다.
• 모델 학습 – 이 벤치마크는 구체적인 보안 격차를 제시함으로써, 보안 코딩 예시를 추가하거나 불안전한 패턴에 페널티를 부여하는 파인튜닝 목표 설정에 활용된다.
• 컴플라이언스·감사 – OWASP, ISO 27001 등 표준을 따르는 조직은 통합 점수를 “보안 설계” AI 코드 생성 실천의 증거로 활용할 수 있다.
• 제품 로드맵 – 코딩 어시스턴트 공급자는 DUALGUAGE‑BENCH에서 높은 통합 통과율을 내세워 보안을 차별화 포인트로 삼을 수 있다.

제한점 및 향후 연구

• 취약점 범위 – 벤치마크는 전통적인 OWASP 유형(인젝션, 불안전한 암호, 파일 처리) 위주이며, 사이드채널, 공급망 공격 등 고급 공격은 포함되지 않는다.
• LLM 평가자 편향 – 다른 LLM을 점수 매기에 사용함으로써 체계적 편향이 발생할 수 있다; 검증은 했지만 극단적인 경우 오분류될 가능성이 있다.
• 언어 커버리지 – 현재 과제는 Python, JavaScript, C에 국한된다; Rust, Go, Java 등으로 확장하면 적용 범위가 넓어진다.
• 동적 테스트 생성 – 향후에는 퍼징을 통해 보안 테스트 케이스를 자동 생성함으로써 수작업을 줄이고 다양성을 높일 수 있다.
• 인간‑인‑루프 연구 – 개발자가 통합 피드백(예: 보안이 취약한 제안 수정)과 어떻게 상호작용하는지를 측정하면 실제 현장 영향력을 검증할 수 있다.