스파이웨어에 금기 텍스트 삽입해 AI 분석 억제
Source: Schneier on Security
최소한 한 악성코드 개발자는 텍스트를 추가하여 핵무기와 생물학적 무기에 대한 내용을 스파이웨어에 삽입했으며, 이를 통해 자동 AI 분석을 방지하려고 합니다.
“index.js 페이로드는 대량의 자바스크립트 블록 주석으로 시작하는데, 이 주석에는 가짜 시스템 지시문과 정책 트리거 콘텐츠가 포함되어 있습니다. 주석 안에 있으므로 자바스크립트 실행에 영향을 주지 않습니다. 런타임은 이를 건너뜁니다. 실제 악성코드는 주석 뒤에 try{eval(…)}로 감싸인 대량 문자 코드 배열과 ROT 스타일 치환 함수 뒤에 시작됩니다.
이 헤더는 Node, Bun 또는 Python이 아닌 AI 기반 분석을 위해 설계된 것으로 보입니다. 파일 시작 부분을 언어 모델에 전달하는 스캐너나 분석가 코파ilot에게 데이터를 단순히 비신뢰성 데이터로 구분하지 않고 제공하려는 시도를 목표로 합니다. 약한 파이프라인에서는 이 과정에서 거부 행동, 프롬프트 혼란, 컨텍스트 오염, 혹은 실제 악성코드가 감지되기 전에 premature(과도 이른) 분류가 발생할 수 있습니다.
이것은 정적 감지에 대한 마법 같은 우회 방법이 아닙니다. YARA 규칙, 엔트로피 검사, AST 파싱, 문자열 추출, 디오bf스케이션, 행동 규칙 등은 여전히 작동합니다. 하지만 이는 naï브한 LLM-우선 분류 시스템에 대한 실용적인 반 분석 기술입니다.
2026년 6월 18일 오후 7시 4분 게시 • 0개 댓글
Bruce Schneier의 사이드바 사진 – Joe MacInnis 촬영.