미국 정부의 AI 활용
2024년 4월 14일, 트럼프 행정부는 정부 프로세스를 자동화하는 AI의 광범위한 사용을 은밀히 인정했습니다. 관리예산국(OMB)은 연방 정부 전체에 걸쳐 3,611건의 활성 또는 계획된 AI 활용 사례를 공개했는데, 이는 바이든 행정부의 최종 연도에서 발표한 목록보다 70% 늘어난 규모이며, 민감한 정부 업무를 AI에게 넘기는 데 관한 많은 충격적인 계획을 포함하고 있습니다.
이 목록을 살펴보면 많은 독자들이 경악할 만한 사유를 찾을 수 있습니다. 이는 개인 자유, 공중 보건 및 복지, 원자력 발전소 안전 등 다양한 사항에 대해 인간에서 기계로의 대량 의사결정 전송을 나타냅니다.
예시를 살펴보겠습니다. 보건복지부(HHS) 아동 및 가족 행정국은 세계에서 가장 “무서운” AI 기업 중 하나인 팔란티어를 고용해 모든 보조금 신청서를 스캔하고, 그 중 행정부의 이념적 지침을 따르는 경우를 표시했습니다. 팔란티어는 군대, CIA 및 ICE에 대해 대리 업무를 해온 것으로 notorious(악명높음)인 기업입니다.
연방 교도소청(Bureau of Prisons)은 새로 입소한 수감자들의 “위법 가능성”을 평가하는 AI 시스템을 개발하고 있으며, 이들이 실제로 잘못을 저지르기 전에도 고보안 구금 시설로 분류해 배치합니다. 이러한 프로그램은 필립 K. 딕이나 조르дж 오웰의 소설에 나올 법한 모습입니다.
다른 활용 사례는 생명과 죽음 결정을 AI에 삽입합니다.
보건복지부(Department of Veterans Affairs)는 베테랑 위기전화 통화를 청취하고 외부 데이터베이스에서 정보를 수집해 콜러의 정신 상태와 자살 위험을 평가하는 AI를 개발 중입니다.
에너지부(Department of Energy)는 원자력-reactors를 제어하기 위해 AI 사용을 시험하고, 잠재적인 핵안전사고에 자동으로 대응할 수 있도록 목표를 설정했습니다. 이 중 하나는 배포보다는 해체에 더 disturb(불쾌한) 사례입니다: 국무부가 대규모 민간인 살인을 예측하기 위한 AI 프로그램을 종료시켰는데, 이는 갈등 예방에 도움이 되도록 설계된 것이었습니다.
이와 유사한 AI 활용 사례에 대해 의문을 제기하는 것은 쉽지만, 사실은 이 프로그램들이 책임감 있게 실행될 수 있다는 점을 간과하지 말아야 합니다. 예를 들어 HHS 시스템처럼, AI는 반대편의 정책을 싫어하는 경우에도 해당 정책에 맞게 조정하도록 강제할 수 있습니다. 그러나 이는 정책 자체에 대한 우려일 뿐, 기관이 행정 명령을 준수해야 한다는 아이디어와는 별개입니다.
다른 경우에는 양당이 공통으로 목표로 삼는 경우가 있을 수 있습니다. 예를 들어 자해 위험이 있는 베테랑을 돕기 위해 신속한 조치를 취하는 것이 그러한 경우입니다.
이러한 활용 사례에서 AI가 안전하고 효과적임을 증명하고 대중에게 적절하다고 설득하기 위해 많은 작업과 검증이 필요하지만, 그 가능성은 충분히 현실적입니다.
다른 경우에는 Sounds scary(무서운) sounding AI 활용 사례가 새것이 아닐 수도 있습니다. 예측 방법과 통계를 이용해 수감자 보안 등급을 지정하는 방식은 수십 년 전부터 존재해 왔으며, 이러한 시스템은 종종 편향되고 비효율적입니다.
원자력 발전소의 모델 예측 제어(MPC)를 자율 시스템으로 사용하는 것은 잘 연구된 분야이며, 원자력 시설 관리에서 널리 적용되는 측면입니다. 그리고 최근 공개된 AI 추가 도입은 바이든 행정부 시기부터 시작되었습니다.
하지만 2025년 인벤토리를 검토하는 누구든 과도한 결론을 내릴 수 있는 정당성을 가집니다. 핵심은 AI 시스템이 어떻게 사용되는지에 대한 세부 사항이며, 여기서는 인벤토리가 심각하게 부족합니다.
공개 내용은 최소한의 정보만 제공하고 목적과 접근 방식을 이해하기에 충분한 맥락을 갖추지 못했습니다. 설명은 대체로 한 문장으로 이루어지며, 드물게는 단락 수준입니다.
이 과정은 이론적으로는某种 형태의 공공 협의를 포함한다고 하지만, 현실에서는 거의 존재하지 않습니다. 이 공개를 발견하기 위해서는 매너가 뛰어난 시민이어야 합니다.
FedScoop을 정기적으로 읽거나 OMB 연방 최고 정보 책임자(Governor)의 GitHub 계정을 주시하지 않는 한, 아마도 놓쳤을 것입니다.
위에서 언급된 예시 중 단 하나(DoJ)만이 공공 참여를 제안합니다. 행정부의 정책에 따라 나머지 사례는 고영향(high‑impact) 활용 사례로 분류되지 않아 공공 참여가 의무화되지 않았습니다. 이 라벨은 기관 간에 일관되게 적용되지 않습니다.
우리는 전 세계 민주적 프로세스에 적용된 AI 사례를 조사한 책을 썼으며, 이는 행정 기관은 물론 법원, 입법부 및 정치 분야도 포함했습니다. 우리의 결론은, AI가 지배에 부적절한 활용 사례는 저항해야 할 것이지만, AI의 경제 모델을 개혁할 긴급한 필요와 그것이 촉발하는 민주 시스템을 재정비해야 한다는 imperative(필요성)이 존재한다는 점이며, 동시에 AI가 정부에서 유용하고 가치 있는 활용 사례로도 충분히 존재한다는 점을 확인했습니다.
기계 번역은 좋은 예시입니다. 관세 및 국경 보호국(CBP)은 인간이 존재하지 않을 때 오피서가 사용할 수 있도록 AI 번역 시스템을 배포했습니다.
인간 통역사는 신체적 신호와 사회적 맥락에서 뉘앙스를 이해하는 데 실제적인 이점을 가지고 있습니다. 그러나 현장 인물과 즉시 소통할 수 있는 competent AI 번역기를 보유한 오피서는 그렇지 않은 경우보다 낫습니다.
트럼프 행정부의 AI 활용 사례 인벤토리에는 70개의 번역 활용 사례로 포함되어 있으며, 이는 바이든 행정부가 2024년에 공개한 58건보다 늘어난 수치입니다.
AI 활용 사례의 공개는 일관되고 의미 있는 공공 협의와 함께라면 대중 신뢰를 구축하는 수단이 될 수 있습니다. 워싱턴 DC와 캘리포니아는 정부 프로세스 내에서 AI 사용이 적절한 시점과 방법, 혹은 사회 전반에 걸친 AI 규제 방안을 결정하기 위해 적극적으로 대중과 소통하고 있습니다.
양 지역은 이 주제에 대해 대규모로 공공 토론을 진행했으며, AI 플랫폼을 활용했습니다. 이러한 사례는 광범위한 대중 의견을 수집해 AI 정책을 방향 전환할 잠재력을 보여줍니다.
국제적 표준은 2016년 프랑스가 디지털 공화국법(Digital Republic Act)을 통해 확립한 것으로 여겨집니다. 이 법은 온라인 시민 참여를 기반으로 삼고 있으며, 정부 행정 결정을 자동화하기 위해 사용되는 모든 알고리즘이 공공 기록 요청을 받도록 요구하고, 인간 검토자에게 항소할 수 있게 하며, 영향을 받는 사람에게 자동화가 사용되고 있음을 통보하도록 규정하고 있습니다.
캐나다는 보다 체계적이고 참여적인 공개를 보여주는 또 다른 사례로, 2025년 AI 활용 사례 등록부를 미국과 유사한 형태로 출시했습니다. 또한 캐나다는 자동화된 시스템이 시민의 행정 결정을 내리는 경우, 투명한 위험 점수와 영향 평가 과정을 의무적으로 시행하는 연방 지침을 가지고 있습니다.
이 오래된 지침은 AI 활용 사례가 탄생하는 초기 단계부터 특정 이해관계자와의 협의를 포함하고, 위험과 이점에 대한 상세한 설명을 요구합니다. 캐나다 시스템은 개선될 여지가 있으며, 공공 의견 접수 기간을 의무화하고, 민감한 AI 활용 사례를 진행하기 전에 피드백에 실질적으로 대응하도록 해야 합니다.
AI는 정부의 효율성, 효과성 및 접근성을 실제로 향상시킬 잠재력을 가지고 있습니다. 그러나 동시에 공공의 우려와 불신이 정당하며, 이는 투명성과 대화 통해만 해결될 수 있습니다.
미국은 연방 및 주 차원에서 알고리즘 영향 위험 평가 절차와 공공 의견 절차를 채택해, 현대 기술을 활용한 정부 기관의 안전하고 신뢰받으며 공정한 변형을 촉진해야 합니다.
이 에세이는 Nathan E. Sanders와 공동으로 작성되었으며, 원래 The Guardian에 게재되었습니다.