虚假判例、提示词也原样提交…80%的法官称“遇到过AI幻觉”
连仿照韩国大法院格式伪造的判决书都出现了
80%的法官称“遇到过人工智能幻觉”
律师提交的诉讼文书“未经核实便贸然递交”
占比超过一半，令人错愕
91.7%的法官称“有必要采取制度性制裁”
法院行政处预告将严厉处置，包括罚款、纪律处分等
随着人工智能（AI）在司法程序中的应用日益增多，向法庭提交不存在的“虚假判例”或法律条文的案例接连出现。调查显示，负责审理案件的法官中，10人有8人遇到过此类情况。法院行政处着手制定包括处以罚款在内的严厉制裁措施。
法院行政处公布了于10月6日至16日面向全国各级法院360名法官开展的“关于引用因人工智能幻觉而产生的虚假或不存在判例等情况的问卷调查”结果。
调查结果显示，负责审理民事、家事和行政案件的受访法官中，约80%表示曾遇到诉讼文书引用虚假或不存在判例等情况。具体类型（可多选）中，“引用不存在的判例”最多，为196人（80.7%）；其次是“引用虚假判例”，159人（65.4%）；“引用虚假或不存在的法律条文”，41人（16.9%）；“引用文献等其他资料”，10人（4.1%）。
问题在于，这些错误未经核实便被提交给审判庭。对于提交虚假判例等材料的主体，164人（69.5%）回答是“当事人本人（独自诉讼）”，占比最高；而指出是“作为诉讼代理人或辩护人的律师”的也达到136人（57.6%）。
调查还报告了多起令人错愕的案例。有人照搬韩国大法院判决书的格式，用人工智能仿制并提交“虚假判决书”；也有人写上陌生的法理和大法院案件编号，提交实际上根本无法检索到的幽灵判例。此外，还有人将与人工智能的对话内容，或询问诉讼策略的提示词原封不动地复制进诉讼文书。
提交这类“虚假资料”会拖延审判庭审理案件，最终侵害国民接受审判的权利。91.7%的法官一致认为“有必要制定制度性应对措施”。其中，64.8%认为“非常有必要”，反映出问题的严重性。受访者提出的具体制裁措施（可多选）包括：制定处以罚款的依据（61.4%）、要求核实所引用判例等资料（61.1%）、强制注明是否使用人工智能（60.6%），以及对反复虚假引用的律师移交纪律处分（55.4%）等。
法院行政处一名负责人表示：“引用虚假判例会给对方当事人和审判庭都带来负担，并拖延审判，是个严重问题。”该负责人还表示：“我们将与法务部等相关机构协商，推动修订民事诉讼法和刑事诉讼法，制定处以罚款的依据，并向国会提交意见。”此外，法院计划在电子诉讼网站增设“使用人工智能时的注意事项”等说明，引导诉讼相关人员自行核实所引用资料的准确性。
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
