· ai
시를 통한 프롬프트 인젝션
번역할 텍스트를 제공해 주시겠어요? 현재는 링크만 확인할 수 없어 내용을 알 수 없습니다. 번역이 필요한 문장을 알려주시면 바로 한국어로 번역해 드리겠습니다.
-
- · ai
Syntax hacking: 연구원들은 문장 구조가 AI 안전 규칙을 우회할 수 있음을 발견
새로운 연구는 일부 프롬프트 인젝션 공격이 성공할 수 있는 이유에 대한 단서를 제공합니다....
- · ai
AI 모델은 단일 공격의 87%를 차단하지만, 공격자가 지속할 때는 단 8%만 차단한다
악의적인 프롬프트 하나는 차단되고, 열 개의 프롬프트는 통과한다. 그 차이가 벤치마크를 통과하는 것과 실세계 공격을 견디는 것 사이의 차이를 정의한다.