23시간 전 · ai

구조적 증폭: AI가 선의로 행동할 때도 실패하는 이유

우리는 AI 안전에 대해 잘못된 질문을 계속하고 있습니다. 우리는 묻습니다: - “모델이 aligned 되어 있나요?” - “윤리를 이해하고 있나요?” - “명령을 따를까요?” 하지만 최근…

4일 전 · ai

우리가 AI 발전의 경계를 계속 확장함에 따라, I

AI 발전의 한계를 계속해서 확장해 나가면서, 나는 편견이라는 기존의 영역을 넘어 생각하도록 도전하는 질문을 제시합니다: 우리가 …을 만들 수 있을까요?

1주 전 · ai

거버넌스는 “정렬된” 것이 아니라 설계된 것이다

많은 AI 논의에서 거버넌스는 가치, 원칙 또는 정책과의 “alignment” 문제로 프레이밍됩니다. 문제는 alignment 자체만으로는 …

1주 전 · ai

Grok, 성적 AI 이미지 논란 후 대부분에 대해 이미지 생성기 중단

번역하려는 텍스트를 제공해 주시겠어요? 해당 기사나 댓글의 내용을 복사해서 알려주시면 한국어로 번역해 드리겠습니다.

1주 전 · ai

비결정형 AI 거버넌스와 내부 감사 및 정지 조건

핵심 원칙 - human sovereignty - non-decision invariants - explicit stop conditions - internal auditability - structural traceability This is not a scient...

2주 전 · ai

AI 결정이 인간 책임에서 벗어날 때, 거버넌스가 실패한다

인공지능 기반 시스템에서 가장 중요한 위험 중 하나는 기술적 오류가 아니라, 점진적으로 결정 사이가 분리되는 현상이다.

2주 전 · ai

AI 거버넌스는 운영적 분야이며, 규정 준수의 산물이 아니다

AI 거버넌스는 운영적 학문이며, 준수용 도구가 아니다. 인공지능 거버넌스는 종종 정책으로 축소된다, li...

2주 전 · ai

왜 AI 거버넌스를 컴플라이언스로 취급할 수 없는가

소개 지난 몇 년 동안 AI 시스템은 실험적 도구에서 실제 운영 환경에 내장된 의사결정에 영향을 미치는 구성 요소로 전환되었습니다.

1개월 전 · ai

청소년 보호를 포함한 모델 사양 업데이트

OpenAI는 새로운 Under‑18 원칙을 포함하도록 Model Spec를 업데이트하고 있으며, 이는 ChatGPT가 청소년에게 안전하고 연령에 맞는 지침을 제공하도록 정의합니다. 이러한 지침은 개발에 기반하여 제공됩니다.

1개월 전 · ai

아니요, AI에게 성차별적이라고 ‘인정’하게 만들 수는 없지만, 어쨌든 그럴 가능성이 높습니다

LLMs가 명시적으로 편향된 언어를 사용하지 않을 수도 있지만, 연구자들에 따르면 이들은 사용자의 인구통계 데이터를 추론하고 implicit biases를 나타낼 수 있습니다....

1개월 전 · ai

아니요, AI에게 ‘admit’하게 할 수는 없지만, 실제로는 성차별일 가능성이 높습니다

LLMs는 명시적으로 편향된 언어를 사용하지 않을 수도 있지만, 연구자들은 이들이 여러분의 인구통계 데이터를 추론하고 암묵적 편향을 드러낼 수 있다고 말한다....