OpenAI, Promptfoo를 인수해 AI 에이전트를 보호

Source: TechCrunch

Image Credit: Alex Wong / Getty Images

OpenAI, Promptfoo 인수

OpenAI는 월요일에 2024년에 설립된 AI 보안 스타트업인 Promptfoo를 인수했다고 발표했습니다. Frontier Lab은 블로그 게시물에서 이번 거래가 마무리되면 Promptfoo의 기술이 OpenAI Frontier, 즉 AI 에이전트를 위한 엔터프라이즈 플랫폼에 통합될 것이라고 밝혔습니다.

인수가 중요한 이유

• 독립적인 AI 에이전트는 생산성 향상에 대한 기대감을 불러일으키지만, 동시에 민감한 데이터에 접근하거나 자동화 시스템을 조작하려는 악의적인 행위자들을 위한 새로운 공격 표면을 만들기도 합니다.
• 이번 거래는 프론티어 랩들이 자사의 기술을 중요한 비즈니스 운영에 안전하게 사용할 수 있음을 입증하려는 경쟁이 치열함을 보여줍니다.

Promptfoo 소개

• 창립자: Ian Webster와 Michael D’Angelo
• 미션: 기업이 LLM의 보안 취약점을 테스트할 수 있도록 하는 도구(오픈소스 인터페이스 및 라이브러리 포함)를 개발하는 것.
• 채택 현황: Fortune 500 기업 중 25 % 이상이 제품을 사용하고 있습니다.

재무 배경

• 모집 자금: 설립 이후 총 2,300만 달러.
• 평가액: 2025년 7월 최신 라운드 이후 8,600만 달러(PitchBook 기준).
• 거래 가치: OpenAI에서 공개되지 않음.

통합 계획

OpenAI는 발표문에서 Promptfoo의 기술이 에이전트 플랫폼에 다음과 같은 기능을 제공할 것이라고 밝혔습니다:

• 자동화된 레드팀 활동 수행.
• 에이전시 워크플로우의 보안 문제 평가.
• 위험 및 규정 준수 요구 사항에 대한 활동 모니터링.

또한 OpenAI는 Promptfoo의 오픈소스 제공을 계속해서 확장해 나갈 것이라고 밝혔습니다.