4일 전 · ai

왜 AI safety는 구조적으로 강제되어야 하고, 훈련으로는 안 되는가?

대부분의 현재 AI safety 작업은 unsafe system을 가정하고 그 안에 더 나은 행동을 train하려고 합니다. - 더 많은 data를 추가한다. - 더 많은 constraints를 추가한다. - 더 많은 features를 추가한다.