印度最高法院对一起AI"幻觉"引发的司法丑闻发出严厉警告。事件起因于去年8月：安得拉邦维贾亚瓦达市一名初级民事法官在裁决一起房产纠纷时，引用了四份此前的判决作为依据，结果这四份判决全是AI生成的虚假文件，根本不存在。被告随即向该邦高等法院上诉，高等法院虽然承认了这一错误，却认定法官系"善意行事"，并以"引用不存在的判决不足以推翻裁决"为由维持原判。那名法官辩称这是她第一次使用AI工具，以为引用内容是真实的，"错误完全源于对自动化工具的依赖"。被告不服，再次上诉至最高法院。最高法院态度截然不同：上周五裁定中止下级法院的裁决，并指出引用AI虚假判决不只是"决策错误"，而是性质严重的"不当行为"，"直接关乎司法程序的完整性"，属于重大的"体制性问题"。最高法院随即向印度总检察长、首席检察官及印度律师协会发出通知，表示将深入审查此案，并对法官展开调查。这不是孤例——印度最高法院上月刚就律师使用AI起草诉状的趋势提出批评；美国、英格兰和威尔士也相继出现法官或律师引用AI捏造判例的案例。印度最高法院去年发布的AI使用白皮书已明确强调：必须保留人工审核，不能让AI绕过司法体系的安全屏障。
