AI ‘hallucinations’가 발견된 후 내무부 관료 두 명 정직
Source: Hacker News
AI 환각 이후 정직
보건부(DHA)는 정책 문서 중 하나에 인공지능(AI)이 사용된 사실을 발견한 최신 정부 부처입니다.
보건부는 최근 개정된 핵심 정책 문서와 관련된 두 명의 공무원에 대해 정직을 발표했습니다.
- 목요일에 정직된 공무원은 시민권 및 이민 부서의 수석 이사입니다.
- 문서 초안을 담당한 이사의 정직은 다음 주 초에 효력이 발생합니다.
보건부는 “초래된 당혹감”을 인정하며 이번 사건을 계기로 프로세스를 현대화하겠다고 밝혔습니다.
“앞으로 보건부는 내부 승인 절차의 일환으로 AI 검사 및 선언을 설계하고 구현할 것입니다,” 라고 부서는 밝혔습니다.
정책 검토 진행 중
보건부가 발견한 불일치는 개정된 백서인 시민권, 이민 및 난민 보호 부록에 첨부된 참고 문헌 목록과 관련됩니다.
이 참고 문헌들은 “환각(hallucinations)”이라고 불리는, 신뢰할 수 있는 데이터 부족으로 인해 발생하는 오류이거나 허구적인 대형 언어 모델 출력으로 판단되었습니다.
“이러한 참고 문헌은 본문에 인용되지 않았으며, 사후에 생성되어 문서에 첨부된 것으로 보입니다.”
예방적 정직 외에도, 보건부는 두 개의 독립 로펌을 지정했습니다:
- 징계 절차 관리, 그리고
- 2022년 11월 30일부터 현재까지 보건부가 만든 모든 정책 문서 검토.
검토 시작일은 최초의 대형 언어 모델인 ChatGPT가 대중에게 공개된 시점을 기준으로 선택되었습니다.
‘시대에 맞추어 적응하라’
이번 정직은 통신 및 디지털 기술부(DCDT)가 자체 AI 정책 문서를 [철회한 지 일주일 후]에 이루어졌습니다(https://www.citizen.co.za/news/ai-hallucination-forces-policy-withdrawal-but-expert-frames-it-as-governance-lesson/).
보건부와 마찬가지로, 초안 국가 AI 정책에서도 허구의 출처와 인용이 발견되었습니다.
“가장 설득력 있는 설명은 AI가 생성한 인용이 적절한 검증 없이 포함된 경우입니다. 이는 발생해서는 안 되는 일입니다,” 라고 솔리 말라츠 장관이 말했습니다.
초안 AI 정책은 재작성될 예정이며, 보건부도 문서에 첨부된 참고 문헌 목록을 철회하고 있습니다.
그럼에도 보건부는 시민권, 이민 및 난민에 관한 개정된 정책이 “정부 입장을 정확히 반영하고 있다”고 주장하며 내용에 대해 입장을 고수했습니다.
“이 조치는 부처 간 협업 및 공개 협의를 통한 광범위한 과정에서 도출된 것이며, 독립적인 참고 문헌 목록에 포함된 명백한 AI 환각에 의해 실질적으로 영향을 받지 않습니다,” 라고 보건부는 확인했습니다.
보건부는 사회에서 AI 사용이 증가하고 있음을 인정하고, 기관들이 그 혜택을 제대로 활용하기 위해 더 노력해야 한다고 말했습니다.
“이는 조직이 민간 및 공공 부문에서 운영 방식을 변화시키는 변혁적이면서도 파괴적인 기술입니다. 우리는 이제 따라잡기 위해 적응해야 합니다,” 라고 보건부는 결론지었습니다.