프롬프트 인젝션에 대비해 ChatGPT Atlas를 지속적으로 강화하기
발행: (2025년 12월 22일 오전 09:00 GMT+9)
1 분 소요
원문: OpenAI Blog
Source: OpenAI Blog
OpenAI strengthens ChatGPT Atlas against prompt injection
OpenAI는 강화 학습으로 훈련된 자동 레드팀을 활용해 프롬프트 주입 공격에 대비해 ChatGPT Atlas를 강화하고 있습니다. 이 사전 탐지·패치 루프는 새로운 악용 방법을 조기에 식별하고 AI가 보다 에이전트화됨에 따라 브라우저 에이전트의 방어력을 강화하는 데 도움을 줍니다.