AI 幻觉让法官头疼，韩国计划向滥用 AI 的律师开罚单
阅读原文· ithome.com韩国法院行政处推动修订法案，计划对提交虚假法条和判例的律师处以罚款。因 AI 大模型产生幻觉，律师在法律文书中引用不存在的“虚假判例”现象激增，首尔、大邱、蔚山等多地法院出现典型案例，有律师承认使用谷歌 Gemini 检索后未核对内容。今年 2 月，韩国司法信息公开门户新增案例编号核验功能，并向法官发放含专用提示词的虚假判例甄别指南。法院行政处获批 161 亿韩元专项资金，用于搭建司法专属 AI 平台，已上线 AI 庭审辅助系统试点版本，未来计划接入生成式 AI。
IT之家 6 月 15 日消息，据《韩国先驱报》报道，韩国法院行政处表示，由于人工智能出现幻觉问题，导致律师在法律文书中引用根本不存在的“虚假判例”，韩国司法部门正加大力度应对庭审环节中的人工智能滥用乱象。
韩国法院行政机构目前正在研究修订相关法案、完善庭审流程，计划通过罚款等方式，杜绝借助人工智能编造虚假法律证据的行为。
越来越多法官反映，原告与律师在庭审中频频援引不存在的案件与法律条文。首尔某法院一名法官称：“以往我只会在判决书脚注里指出律师引用的不实案例，如今这类问题泛滥，我不得不直接在正文括号中逐一标注。”
这位法官补充道：“现在我的工作量大幅增加，每一条引用案例都必须逐一核查。”
另据韩国《中央日报》报道，大邱高等法院曾出现一起典型案例：一名代理律师在法律文件中引用了一则不存在的最高法院判例。法院要求其作出解释后，该律师又举出了另一则同样子虚乌有的案例。
另有一名光州律师引用《民事诉讼法》第 451 条，但其阐述的内容却与该法条毫无关联。蔚山地方法院的一名律师援引了不相干的最高法院判例，事后承认自己借助谷歌 Gemini 大模型检索判例后，并未仔细核对内容。
韩国各地法院也开始公开指出这类不实引用。首尔南部地方法院在一起投资纠纷案件的判决书中，判决原告胜诉，并明确写明：“被告的主张所依据的判例均不存在。”
另一名法官表示：“法官核查案例要耗费大量时间，还要考虑到律师可能只是单纯输入失误，不敢直接下定论。”