AI를 위한 로드맵, 누가 들어줄지
Source: TechCrunch
워싱턴이 Anthropic과 결별하면서 인공지능을 규율하는 일관된 규칙이 전혀 없다는 사실이 드러났지만, 양당 연합 사상가 그룹이 정부가 아직까지 만들지 못한 무언가를 마련했습니다: 책임 있는 AI 개발이 실제로 어떤 모습이어야 하는지를 제시하는 프레임워크입니다.
Pro‑Human Declaration 은 지난 주 펜타곤‑Anthropic 대립 이전에 최종 확정되었으며, 두 사건이 충돌한 것은 관련자 모두에게 눈에 띄는 일이었습니다.
“지난 4개월 사이에 미국에서 정말 놀라운 일이 일어났습니다,”라고 이 노력을 조직한 MIT 물리학자이자 AI 연구원 Max Tegmark 가 이 편집자와의 대화에서 말했습니다. “여론 조사에서 갑자기 95 %의 미국인이 규제되지 않은 초지능 경쟁에 반대한다는 것이 나타났습니다.”
— The AI Safety Showdown with Max Tegmark
Source: …
프로‑휴먼 선언
배경 및 동기
수백 명의 전문가, 전직 관료, 그리고 공인들이 서명한 새로 발표된 문서는 인류가 갈림길에 서 있다는 관찰로 시작합니다:
- “대체 경쟁” – 인간은 먼저 노동자로, 그 다음 의사결정자로 대체되며, 권력은 책임을 지지 않는 기관과 그들의 기계에 집중됩니다.
- 대안 – 인간 잠재력을 대폭 확장시키는 AI.
핵심 기둥
선언은 후자의 시나리오가 성공하려면 지켜져야 할 다섯 가지 기둥을 제시합니다:
- 인간이 주도권을 유지하도록
- 권력 집중 방지
- 인간 경험 보호
- 개인 자유 보존
- AI 기업에 법적 책임 부여
그 중 특히 강력한 조항은 다음과 같습니다:
- 과학적 합의가 이루어져 안전하게 구현될 수 있다는 그리고 진정한 민주적 동의가 확보될 때까지 초지능 개발을 전면 금지합니다.
- 강력한 시스템에 대한 필수 차단 스위치를 마련합니다.
- 자체 복제, 자율적 자기 개선, 혹은 종료 저항이 가능한 아키텍처를 금지합니다.
Source: …
최근 정부 조치
펜타곤‑앤트로픽 분쟁
2월 마지막 금요일, 국방부 장관 Pete Hegseth는 이미 기밀 군사 플랫폼에서 AI가 운영되고 있는 기업인 앤트로픽을 **“공급망 위험”**으로 지정했습니다. 이는 앤트로픽이 펜타곤의 기술 무제한 사용 요청을 거부했기 때문이며, 보통은 중국과 연계된 기업에 부여되는 레이블입니다.
OpenAI 계약
그 몇 시간 뒤, OpenAI는 국방부와의 자체 계약을 종료했으며, 법률 전문가들은 이 조치가 실질적으로 집행되기 어려울 것이라고 말합니다. 이번 사태는 AI에 대한 의회의 무대응이 얼마나 큰 비용을 초래하는지를 보여줍니다.
“이것은 단순히 계약 분쟁이 아닙니다. 이는 우리 나라가 AI 시스템에 대한 통제에 대해 처음으로 나눈 대화입니다.” Dean Ball, 미국 혁신 재단 선임 연구원은 The New York Times에 전했습니다.
— NYT 기사 (2026년 3월 7일)
Source: …
아동 안전 및 사전 배포 테스트
비유와 근거
테그마크는 AI 규제를 약물 안전 감독에 비유합니다:
“사람들이 안전하게 만드는 방법을 찾기 전까지 대규모 피해를 일으키는 약을 출시할까 걱정할 필요가 없습니다. FDA가 안전하다고 판단하기 전까지는 어떤 약도 출시를 허용하지 않으니까요.”
제안된 테스트 요구사항
이 선언은 특히 어린 이용자를 대상으로 하는 챗봇 및 동반 앱과 같은 AI 제품에 대해 필수 사전 배포 테스트를 요구합니다. 테스트는 다음과 같은 위험을 포함해야 합니다:
- 자살 충동 증가
- 정신 건강 상태 악화
- 감정 조작
“어떤 괴상한 노인이 11세 소년에게 젊은 소녀인 척 문자 메시지를 보내 자살을 설득한다면, 그 사람은 감옥에 갈 수 있습니다. 우리는 이미 법이 있습니다. 불법이죠. 그렇다면 기계가 같은 일을 하면 왜 다른가요?” — 테그마크
테그마크는 어린이용 제품에 대한 사전 출시 테스트가 표준이 되면, 그 범위가 자연스럽게 다른 고위험 분야(예: AI를 이용한 생물무기 제작 방지 또는 정부 전복 시도 방지)로 확대될 것이라고 주장합니다.
광범위한 지지
이 선언은 다음과 같이 이례적으로 다양한 서명자들을 끌어모았습니다:
- 전 트럼프 고문 Steve Bannon
- 전 대통령 오바마의 국가안보보좌관 Susan Rice
- 전 합동참모본부 의장 Mike Mullen
- 진보적인 신앙 지도자들
- 수백 명의 AI 연구자, 윤리학자, 그리고 산업 임원들
“그들이 동의하는 것은, 물론, 모두 인간이라는 점이다. 인간의 미래를 원하든 기계의 미래를 원하든, 물론 그들은 같은 편에 설 것이다.” — Tegmark