OpenAI가 Promptfoo를 인수한다
Source: OpenAI Blog
OpenAI는 AI 시스템 개발 단계에서 기업이 취약점을 식별하고 해결하도록 돕는 AI 보안 플랫폼인 Promptfoo를 인수합니다. 인수가 최종 확정되면 해당 기술은 **OpenAI Frontier**에 직접 통합되어 AI 동료를 구축하고 운영하는 플랫폼이 됩니다.
기업이 AI 동료를 실제 워크플로에 배포함에 따라 평가, 보안 및 컴플라이언스가 기본적인 요구 사항이 됩니다. 에이전트 행동에 대한 체계적인 테스트, 배포 전 위험 감지, 명확한 기록 보관은 시간이 지나도 감독, 거버넌스 및 책임성을 확보하는 데 필수적입니다.
Ian Webster와 Michael D’Angelo가 이끄는 Promptfoo 팀은 Fortune 500 기업의 25 % 이상이 신뢰하는 도구 모음을 구축했으며, LLM 애플리케이션을 평가하고 레드‑팀팅하기 위한 널리 사용되는 **오픈‑소스 CLI 및 라이브러리**도 제공하고 있습니다. OpenAI는 오픈‑소스 프로젝트를 지속적으로 개발하면서 Frontier 내에 통합된 기업용 기능을 확대해 나갈 것입니다.
“Promptfoo는 기업 규모에서 AI 시스템을 평가, 보안 및 테스트하는 깊은 엔지니어링 전문성을 제공합니다. 이들의 작업은 기업이 안전하고 신뢰할 수 있는 AI 애플리케이션을 배포하도록 돕고, 우리는 이러한 역량을 Frontier에 직접 도입하게 되어 기쁩니다.”
— Srinivas Narayanan, CTO of B2B Applications, OpenAI
Frontier에서 에이전트를 구축하는 기업을 위한 핵심 역량
- 플랫폼에 내장된 보안 및 안전성 테스트 – 자동화된 보안 테스트와 레드‑팀팅이 기본 기능으로 제공되어 기업이 프롬프트 인젝션, 탈옥, 데이터 유출, 도구 오용, 정책 위반 에이전트 행동 등 위험을 식별하고 해결할 수 있습니다.
- 개발 워크플로에 통합된 보안 및 평가 – Frontier는 위험 식별, 조사 및 해결을 개발 파이프라인에 직접 삽입하여 보안을 AI 시스템 생성 및 운영의 핵심 요소로 만듭니다.
- 감독 및 책임성 – 통합된 보고 및 추적 기능을 통해 조직은 테스트를 문서화하고, 시간 경과에 따른 변화를 모니터링하며, AI에 대한 거버넌스·위험·컴플라이언스 기대치를 충족할 수 있습니다.
리더십 인용문
“우리는 개발자들이 AI 시스템을 실용적으로 보호할 방법이 필요하다고 생각해 Promptfoo를 시작했습니다. AI 에이전트가 실제 데이터와 시스템에 점점 더 연결됨에 따라 이를 보호하고 검증하는 일이 그 어느 때보다 어려워지고 중요해졌습니다. OpenAI에 합류함으로써 우리는 이 작업을 가속화하고, 실제 AI 시스템을 구축하는 팀에 더 강력한 보안, 안전 및 거버넌스 기능을 제공할 수 있게 되었습니다.”
— Ian Webster, Co‑founder and CEO, Promptfoo
우리는 Promptfoo 팀을 맞이하게 되어 기쁘며, 안전하고 신뢰할 수 있는 AI를 배포하기 위해 기업이 필요로 하는 도구를 계속해서 구축해 나갈 것입니다.
인수 종료는 관례적인 종료 조건에 따릅니다.