남아프리카공화국, AI 정책을 AI 생성이라서 철회

Source: Mashable Tech

Background

남아프리카공화국이 대륙 차원의 인공지능 리더가 되려는 야망은, 초안 국가 AI 정책의 참고문헌 목록에서 허구이며, 명백히 AI가 생성한 인용이 발견되면서 예상치 못한 난관에 봉착했습니다.

Withdrawal Announcement

솔리 말라츠(Solly Malatsi) 남아프리카 공화국 통신·디지털 기술부 장관은 4월 26일 X에 올린 성명에서 철회를 발표했습니다. 그는 이번 실수가 정책의 무결성을 직접적으로 훼손했다고 말했습니다.

“이 실패는 단순한 기술적 문제를 넘어 초안 정책의 무결성과 신뢰성을 손상시켰습니다.
가장 설득력 있는 설명은 AI가 생성한 인용이 적절한 검증 없이 포함되었다는 것입니다. 이는 절대 일어나서는 안 되는 일입니다. 실제로, 이와 같은 용납할 수 없는 실수는 인공지능 사용에 대한 인간의 감시가 왜 중요한지를 입증합니다.”

이 정책은 허위 참고문헌이 발견될 때쯤 의회에서 최종 확정 단계에 가까웠던 것으로 알려졌습니다. Reuters가 사건을 보도했습니다.

Content of the Draft Policy

철회된 문서에는 다음과 같은 내용이 포함되어 있었습니다:

• 국가 AI 위원회, 윤리 위원회, 그리고 규제 기관 설립
• 민간 부문의 투자를 촉진하기 위한 세제 혜택, 보조금, 그리고 지원금

Reuters에 따르면 남아프리카공화국의 목표는 자신을 아프리카 최고의 AI 혁신 허브로 자리매김하는 것이었습니다.

Wider Context

AI 환각(언어 모델이 만들어내는 허구이거나 부정확한 출력)은 여전히 끈질긴 문제입니다. 허위 인용은 법률 문서에서도 문제가 되고 있으며, 미국 변호사들 중 다수가 환각이 섞인 AI 생성 브리핑을 제출했다는 이유로 징계를 받았습니다. 변호사이자 데이터 과학자인 Damien Charlotin이 유지하는 온라인 법률 환각 데이터베이스에는 미국에서 900건 이상의 사례와 남아프리카공화국에서 4건(현재 정책 사태 제외)의 사례가 등재되어 있습니다.

Next Steps

말라츠 장관의 성명은 AI 정책의 수정 초안을 언제 제작할지에 대한 일정은 제시하지 않았습니다.