Source: Towards Data Science
해당 게시물 AI 브라우저의 문제점: 보안 결함과 프라이버시 종말 은 Towards Data Science에 처음 게재되었습니다.
새로운 연구는 일부 프롬프트 인젝션 공격이 성공할 수 있는 이유에 대한 단서를 제공합니다....
개요: 25년 동안 NVIDIA Graduate Fellowship Program(https://research.nvidia.com/graduate-fellowships)은 뛰어난 연구를 수행하는 대학원생들을 지원해 왔습니다.
OpenAI 연구원들은 대형 언어 모델(LLMs)을 위한 'truth serum' 역할을 하는 새로운 방법을 도입하여, 모델이 스스로 자신의 오작동을 보고하도록 강제합니다.
OpenAI 연구원들은 모델이 실수를 인정하거나 바람직하지 않게 행동할 때 이를 인정하도록 훈련하는 “confessions”라는 방법을 테스트하고 있으며, 이는 AI honesty를 향상시키는 데 도움이 됩니다, trans...
