印度最高法院因初级法官引用假冒 AI 生成的命令而愤怒

Source: Hacker News

背景

印度最高法院警告称，若初级民事法官在安得拉邦的一起产权纠纷案中依赖 AI 生成的判决，将会面临法律后果。最高法院将此事件描述为“制度性关注”事项，强调虚假 AI 生成的判决会威胁裁判过程的完整性。

初级法官使用 AI

• 2022 年 8 月，维贾瓦达的一名初级民事法官对一块有争议的土地作出裁决。
• 法官引用了四个过去的法律判例，后来被发现是由 AI 工具伪造的。
• 生成式 AI 系统可能会“幻觉”，把虚假信息当作事实呈现，甚至捏造来源。

高等法院的回应

被告在安得拉邦高等法院对该裁决提出质疑，指出引用的判例是伪造的。高等法院：

1. 认定法官的错误是出于“善意”。
2. 判定即使正确的法律原则被适用，虚构的引用本身也不足以推翻裁决。
3. 要求法官提交报告，法官解释称这是她首次使用 AI 工具，且她相信这些引用是真实的。
4. 强调需要“实际智能而非人工智能的运用”。

最高法院介入

最高法院态度更为严厉，暂停了下级法院的裁决，并将使用 AI 生成判决的行为定性为不仅是“决策错误”，更是“行为不端”。最高法院命令的要点：

• 此案因裁判过程本身而引发“相当大的制度性关注”，而非仅仅是案件本身的实质。
• 已向总检察长、司法部长以及印度律师协会发出通知，要求进一步审查。
• 最高法院重申其在近期案件中的立场，批评律师使用 AI 生成的请愿书，称此做法“绝对不应出现”。

国际背景

• 美国（2024 年 10 月）： 两名联邦法官因在裁决中出现 AI 生成的错误而受到指责。 Bloomberg Law
• 英格兰和威尔士（2025 年 6 月）： 高等法院警告律师不要使用 AI 生成的案件材料，因为出现了多起虚构引用。 The New York Times

印度的监管进展

• 2023 年，最高法院发布了关于印度司法系统中 AI 的白皮书，概述了法官、律师和法院工作人员的最佳实践和指南。
• 该文件强调人工监督，并指出在整合 AI 工具时必须保持强有力的制度保障。

欲了解更多，请参阅 LiveLaw 报道的最高法院对律师使用 AI 生成的虚假引用的担忧：https://www.livelaw.in/top-stories/supreme-court-raises-concerns-over-lawyers-using-ai-generated-fake-citations-523441