실리콘밸리의 두 가장 큰 드라마가 교차했다: LiteLLM와 Delve

Source: TechCrunch

LiteLLM에서 발견된 악성코드

이번 주에 오픈소스 프로젝트 LiteLLM에서 심각한 악성코드 감염이 발견되었습니다. LiteLLM은 Y Combinator 졸업생으로, 개발자들에게 수백 개의 AI 모델과 지출 관리와 같은 기능을 쉽게 제공하는 라이브러리입니다. Snyk에 따르면 이 라이브러리는:

• 하루에 340만 회까지 다운로드됨
• GitHub에서 4만 별을 받음
• 수천 번 포크됨

이 악성코드는 FutureSearch의 연구 과학자 Callum McMahon이 문서화하고 공개했습니다. FutureSearch는 웹 리서치를 위한 AI 에이전트를 제공하는 회사입니다. 악성코드는 LiteLLM이 의존하고 있던 종속성을 통해 공급망에 침투한 뒤, 접속한 모든 시스템에서 로그인 자격 증명을 탈취했습니다. 탈취한 자격 증명을 이용해 악성코드는 추가 오픈소스 패키지와 계정으로 전파되었습니다.

McMahon의 머신은 LiteLLM을 다운로드한 직후 종료되었고, 이를 계기로 조사가 시작되었습니다. 악성 코드 내 버그가 시스템 종료를 일으켰으며, McMahon과 AI 연구자 Andrej Karpathy는 코드가 얼마나 조잡하게 작성되었는지 지적했습니다.

LiteLLM 개발자들은 상황을 바로잡기 위해 밤낮으로 작업하고 있으며, 문제는 몇 시간 안에 차단되었습니다.

Delve와 관련된 인증 논란

3월 25일 현재, LiteLLM 웹사이트는 여전히 SOC 2와 ISO 27001 두 가지 주요 보안 인증을 Delve라는 스타트업을 통해 획득했다고 표시하고 있습니다.

Delve는 Y‑Combinator AI 기반 컴플라이언스 스타트업으로, 고객을 오도했다는 혐의를 받고 있습니다. 혐의에 따르면 Delve는 가짜 데이터를 생성하고, 보고서를 무조건 승인하는 감사인을 사용했다고 합니다. Delve는 이러한 혐의를 부인하고 있습니다.

“오, 이게 농담인 줄 알았는데… 아니, LiteLLM은 정말 ‘Delve가 보안 인증을 제공함’이라고 적혀 있더라.” — 엔지니어 Gergely Orosz, X에서.

LiteLLM의 CEO Krrish Dholakia는 Delve 사용에 대해 논평을 거부하고, 현재 진행 중인 정리 작업에 집중하고 있다고 밝혔습니다. 그는 TechCrunch에 다음과 같이 말했습니다:

“우리의 현재 최우선 과제는 Mandiant와 함께 진행 중인 적극적인 조사입니다. 포렌식 검토가 완료되는 대로 개발자 커뮤니티와 기술적 교훈을 공유하겠다는 약속을 드립니다.”