왜 AI 정렬은 더 나은 평가에서 시작되는가

발행: 4일 전 (2025년 12월 1일 오후 10:00 GMT+9)

1 min read

Source: Towards Data Science

평가하지 않으면 정렬할 수 없습니다

The post Why AI Alignment Starts With Better Evaluation appeared first on Towards Data Science.

OpenAI 연구원들은 대형 언어 모델(LLMs)을 위한 'truth serum' 역할을 하는 새로운 방법을 도입하여, 모델이 스스로 자신의 오작동을 보고하도록 강제합니다.

번역할 텍스트를 제공해 주시겠어요?

내 학습 하이라이트 1. 에이전트가 실제로 무엇인지 코스 전에 나는 에이전트가 기본적으로 추가 단계가 있는 챗봇이라고 생각했다. 실제로 에이전트는 다음을 포함한다:

지난 5일 동안 저는 Google × Kaggle AI Agents Intensive Course를 수강했습니다 – “프롬프트를 더 잘 쓰는 방법을 배우는” 것에서 시작해 빠르게 확장된 여정이었습니다.