Source: OpenAI Blog
OpenAI는 AI와 정신 건강의 교차점에 있는 연구를 위해 최대 200만 달러의 보조금을 수여합니다. 이 프로그램은 실제 위험, 이점 및 안전과 복지를 향상시키기 위한 적용을 연구하는 프로젝트를 지원합니다.
OpenAI 연구원들은 대형 언어 모델(LLMs)을 위한 'truth serum' 역할을 하는 새로운 방법을 도입하여, 모델이 스스로 자신의 오작동을 보고하도록 강제합니다.
OpenAI 연구원들은 모델이 실수를 인정하거나 바람직하지 않게 행동할 때 이를 인정하도록 훈련하는 “confessions”라는 방법을 테스트하고 있으며, 이는 AI honesty를 향상시키는 데 도움이 됩니다, trans...
2020년 5월 어느 밤, 봉쇄가 절정에 이르던 시기에 Deep Ganguli는 걱정하고 있었습니다. 당시 Stanford Institute for Human-Centered AI의 연구 이사였던 Ganguli는…
개요 AI 산업은 2025년 12월에 역설에 직면했습니다: 수십억 달러 규모의 평가액과 축소된 판매 목표가 공존하고, 폭발적인 사용자 성장이 상업…
