Syntax hacking: 연구원들은 문장 구조가 AI 안전 규칙을 우회할 수 있음을 발견

발행: 1개월 전 (2025년 12월 2일 오후 09:15 GMT+9)

1 min read

Source: Ars Technica

개요

새로운 연구는 일부 프롬프트 인젝션 공격이 성공할 수 있는 이유에 대한 단서를 제공합니다.

결국 내 부모님이 틀렸다는 것이 밝혀졌다. ‘제발’이라고 말한다고 원하는 것을 얻을 수는 없고—시가 얻을 수 있다. 적어도 AI 챗봇과 대화할 때는 그렇다. 그것은 …

번역할 텍스트를 제공해 주시겠어요? 현재는 링크만 확인할 수 없어 내용을 알 수 없습니다. 번역이 필요한 문장을 알려주시면 바로 한국어로 번역해 드리겠습니다.

낙관적인 방 안에서 회의적인 입장이 되는 불편한 느낌. 나는 AI와 오랫동안 작업해 왔으며—깊이 관여하고, 제품을 shipping하고, 모델을 wiring models하는 중이다.

Gemini가 Chrome에 탑재되고 에이전시 기능이 곧 제공될 예정인 가운데, Google은 브라우저가 위협으로부터 어떻게 보호할지 상세히 설명하고 있습니다. more…