佛州高院出台新规重惩 AI 幻觉:律师必须强制核实 AI 生成引用

AI资讯

佛罗里达州最高法院 5 月 30 日发布修订版《职业行为准则》第 4-1.1 条,正式把「核实 AI 生成的法律引用」列入律师强制义务。新规 8 月 1 日生效,违规者面临法庭警告、罚款最高 5 万美元、严重情节直接吊销执照。这是美国第一个把 AI 幻觉问题写进硬性条款的州级司法系统。

条文写得很直白:律师在向法庭提交文件前,必须对每一条 AI 生成的判例、引文、法条编号「逐项独立核实」。如果引用的判例不存在或者法条编号造假,无论这位律师本人是否知情,一律视为执业失误。佛州最高法院首席大法官 Carlos Muñiz 在新闻发布会上直接说:「我们已经看到太多 ChatGPT 给律师编出来的假判例了,再不出规矩,整个司法体系的可信度都会被这种廉价错误拖垮。」

佛州 AI 幻觉新规示意
佛州把 AI 幻觉写进职业行为准则,律师再不能把锅甩给「机器幻觉」

不是空穴来风

佛州法院系统过去 18 个月里据当地律协通报至少处理了数十起涉及 AI 幻觉引文的案件。最受关注的一起发生在 Pinellas 县:一位律师用 ChatGPT 起草动议,里面引用了 11 条判例,事后法庭书记员核查发现其中 6 条根本不存在,4 条编号是真的但内容被改写。这位律师在听证会上辩解「我以为 AI 不会编」,最后被判罚 1.2 万美元加强制 40 小时伦理课。这类乌龙的鼻祖是 2023 年纽约的 Mata v. Avianca 案——两名律师因提交 ChatGPT 编造的判例被联邦法官制裁,自那以后全美法院对 AI 幻觉的警觉一路升级,佛州这次是把零散判例固化成了成文规则。

美国律师协会(ABA)AI 伦理委员会主席 Andrew Perlman 给佛州站台:「这一步晚了至少一年。律师把核实义务外包给 AI,本质是把法庭注意力当成廉价的 debug 工具,对法官也是不公平的。」

大型律所反应不一

纽约 Wall Street 顶级律所一类大所早就建立了「AI 输出二次核验」流程,新规对它们影响有限。Latham & Watkins 5 月 31 日内部 memo 直接说「我们的工作流早已合规」。

真正紧张的是中小律所和单兵律师。佛州律师协会调研显示,州内 6.4 万执业律师里有 38% 每周用 ChatGPT/Claude 起草文件,但只有 9% 设有书面核验流程。新规生效后这部分人要么花钱买 LexisNexis 等专业引文核查工具(年费 4000-9000 美元),要么自己花时间手动查,怎么算都贵。

下一站可能是德州和加州

佛州不是一个人在冲。德州最高法院 5 月 28 日已经放风「正在评估类似条款」;加州律师协会也在 6 月理事会议程上排了类似议题。一旦三大州都跟进,全美范围会很快出现统一标准。AI 厂商也开始紧张,OpenAI 和 Anthropic 两家在过去两周分别上线了「法律引用核验插件」,但能不能扛住法庭审视还要时间观察。

核实责任被钉死在律师身上

这条新规真正的分量在于它划清了一条「AI 输出谁负责」的边界——以后任何把锅甩给「AI 幻觉」的律师,都得自己掏腰包。处罚金额多重反而是次要的。AI 工具进入专业行业的速度从 2022 年至今涨得太快,监管补课的速度也终于开始追上来。律师这个行当向来以谨慎著称,连他们都被 AI 的便利冲昏到批量提交假判例,其他行业的从业者更该把佛州这条规矩当成一面镜子。