南非撤回其AI政策，因为它是AI生成的

Source: Mashable Tech

背景

南非希望成为非洲人工智能领袖的雄心在其国家人工智能草案政策因在参考文献列表中发现虚构、显然由 AI 生成的引用而被撤回时，遭遇了意外的阻碍。

撤回声明

南非通讯与数字技术部长 Solly Malatsi 于 4 月 26 日在 X 上发布声明，宣布撤回该政策。他表示，这一失误直接损害了政策的完整性。

“这并非单纯的技术问题，而是已经损害了草案政策的完整性和可信度。
最合理的解释是，未经适当核实就加入了 AI 生成的引用。这本不该发生。事实上，这一不可接受的失误正说明对人工智能使用进行严格人工监督的重要性。”

据报道，该政策在议会即将完成定稿时才被发现包含伪造的参考文献。 路透社报道了此事。

草案政策内容

被撤回的文件概述了：

• 建立国家人工智能委员会、伦理委员会和监管机构。
• 税收优惠、补助金和补贴，以刺激私营部门投资。

据路透社报道，南非的声明目标是将自己定位为非洲人工智能创新的领先中心。

更广泛的背景

AI 幻觉——语言模型产生的虚构或不准确输出——仍是顽固的问题。伪造引用同样困扰着法律文件，许多美国律师因提交充斥幻觉的 AI 生成简报而受到训斥。由律师兼数据科学家 Damien Charlotin 维护的在线法律幻觉数据库列出了美国超过 900 起此类案例，以及南非的四起（不包括当前的政策事件）。

下一步

Malatsi 的声明未说明何时会推出修订后的人工智能政策草案。