两名内政部官员因发现 AI “幻觉” 被停职

Source: Hacker News

AI 幻觉导致的停职

内政部（DHA）是最新发现其政策文件中使用了人工智能（AI）的政府部门。

该部门宣布暂停两名与最近修订的关键政策文件有关的官员。

• 周四被停职的官员是公民身份与移民单位的首席主任。
• 负责起草该文件的主任的停职将在新的一周开始生效。

DHA 承认“造成的尴尬”，并表示将利用此事件来现代化其流程。

“展望未来，部门还将把 AI 检查和声明纳入内部批准流程的设计与实施中，”部门声明。

政策审查即将到来

部门发现的差异涉及附在修订版《公民身份、移民与难民保护》白皮书（citizenship, immigration and refugee protection）后的参考文献列表。

这些参考文献被认定为“幻觉”，即由于缺乏可信数据而产生的错误或虚构的大语言模型输出。

“看起来这些参考文献是在事后生成并附加到文件中的，因为正文中并未引用它们。”

除了预防性停职外，部门已委托两家独立律所：

1. 管理纪律程序，
2. 审查部门自 2022 年 11 月 30 日以来所有政策文件。

选择该审查日期是因为它标志着首个大语言模型——ChatGPT——向公众开放使用的时期。

“适应以跟上”

停职发生在通信与数字技术部（DCDT）被迫撤回其 AI 政策文件一周后。

与 DHA 类似，草案《国家 AI 政策》中也发现了虚构的来源和引用。

“最合理的解释是 AI 生成的引用未经过适当核实就被纳入。这本不该发生，”部长 Solly Malatsi 说。

草案 AI 政策将重新修订，DHA 也在撤回其文件附带的参考文献列表。

然而，DHA 坚持修订后的公民身份、移民和难民政策“仍准确反映政府立场”，并对其内容保持信心。

“这些措施是通过跨部门合作和公众咨询的广泛过程形成的，单独参考文献列表中出现的 AI 幻觉并未实质性影响其内容，”DHA 确认。

该部门接受 AI 在社会中的日益使用，并表示机构应更加努力地正确利用其益处。

“这是一项变革性但具破坏性的技术，正在改变私营和公共部门组织的运作方式。我们必须现在就适应以跟上，”DHA 总结。