AI有风险，使用需谨慎

          使用AI虚假案例的法律责任

在普通法法域，律师通常需要援引先前相同判例来支持自己的观点，以求得到有利己方的法院裁决。近年，由于AI技术的被广泛应用，大大减低了律师的检索案例工作量，成为律师的案头必备工具。然而，AI本身也会根据需要，自创案例，成为律师不得不防的陷阱。

最近，加拿大安省律師協會（Law Society of Ontario，LSO）下屬的律師協會審裁處（Law Society Tribunal）裁定，暫時禁止一名多倫多律師執業。這起案件是加拿大首宗因依賴 AI “幻覺”生成的虛假判例，而導致律師執照被暫停的案例。

根據審裁處發布的裁定，该律师違反了 LSO 多項《律師職業操守規則》。審裁處認定，她在一份書面法律陳詞（factum）中引用了完全不存在或與案件無關、由人工智能工具生成的判例，隨後又向法院謊稱自己並未使用該工具。

審裁處表示，這些行為導致她未能維護客戶利益、故意誤導法院，並未能以誠實和正直的方式履行律師職責。

从案情来看，这个案件的法律责任其实并不是因为**“使用AI”，而是因为违反律师职业伦理（professional misconduct）**。AI只是导致违规行为发生的工具，而不是违法本身。

下面分别分析。

一、本案涉及的法律依据

加拿大（尤其安大略省）律师并非主要依据《刑法》处分，而是依据律师协会的职业监管制度。

主要法律依据包括：

• 《Law Society Act》（Ontario）

• Law Society of Ontario Rules of Professional Conduct（律师职业操守规则）

• Law Society Tribunal 的纪律处分权

LSO监管所有律师，其核心原则包括：

律师必须诚信（integrity）、胜任（competence）、忠诚（loyalty）、诚实（honesty），不得误导法院。

因此，本案属于Professional Misconduct（职业失当）。

?

二、AI幻觉为什么会构成违规？

第一层：引用虚假判例

根据案情：

在factum中引用不存在或者与案件无关的判例。

这已经违反律师最基本义务。

因为律师提交给法院的每一个案例，都必须：

• 自己查阅过

• 确认真实存在

• 确认引用准确

• 确认支持自己的法律观点

AI不能代替这一职责。

如果ChatGPT、Copilot、Claude生成了一个：

Smith v Jones, 2022 ONCA 123

律师必须：

• 去CanLII

• 去Westlaw

• 去Lexis

• 去法院数据库

确认：

• 是否真的存在

• 是否引用正确

否则就是没有履行律师的**competence（专业能力）**义务。

?

第二层：误导法院

更严重的是：

根据裁决，

她后来向法院表示自己没有使用AI。

这已经不是能力问题，而是：

故意作出虚假陈述（false representation）。

律师对法院负有：

Duty of Candour

即：对法院必须诚实。

很多普通民事案件：

律师可以为客户争取利益；

但是：不能欺骗法院。

这是普通诉讼和律师伦理最大的区别。

因此：

引用假案例 + 否认来源

性质远比单纯AI幻觉严重。

?

第三层：没有维护客户利益

LSO认为：

律师没有保护客户利益。

原因很简单。客户聘请律师：不是购买AI输出。而是购买：律师自己的专业判断。如果律师直接把AI生成内容交给法院：

实际上：

没有提供符合专业标准（standard of care）的法律服务。

因此违反：

Duty to the Client。

?

三、为什么处分不是法院，而是LSO？

很多人容易混淆。

这里有两个体系。

（一）法院

法院可以：例如：

• 驳回factum

• 删除引用

• 判败诉

• 判costs

• 藐视法庭（极端情况）

这是司法程序。

?

（二）律师协会（LSO）

LSO监管的是：

律师有没有资格继续执业。

它可以：

• 警告

• reprimand

• suspension（停牌）

• revoke licence（吊销执照）

本案属于：

职业纪律处分。

不是刑事处罚。

?

四、本案违反了哪些职业义务？

虽然目前公布的是简短裁定，但根据LSO Rules，大概率涉及以下几项。

1. Competence（专业能力）

律师必须：提供称职法律服务。

包括：

• 核实法律依据

• 核实案例

• 核实引用

AI不能成为借口。

?

2. Integrity（诚信）

律师必须：

保持诚信。而提交虚假案例违反诚信。

?

3. Honesty（诚实）

向法院否认使用AI：属于不诚实行为。

?

4. Duty to the Court（对法院义务）

加拿大律师：

首先是法院的官员（Officer of the Court）。

必须：不能误导法院。即使客户因此受益，也不能。

?

5. Duty to Client（客户义务）

错误法律意见：

可能损害客户利益。

因此违反：对客户应尽职责。

?

五、AI是否承担责任？

法律上：不会。

责任全部属于律师。

原因是：

AI不是法律主体。

加拿大目前没有：

AI律师资格。

AI不能：

• 出庭

• 签factum

• 对法院负责

最终签字的是：

律师本人。

因此：

AI可以写，

律师必须审核。

这一原则已经成为：

加拿大、美国、英国、澳大利亚等普通法国家的共同要求。

?

六、为什么停牌六个月？

纪律处分通常考虑几个因素。

包括：

（1）行为严重程度

引用不存在判例。属于严重行为。

?

（2）是否故意

如果只是：

AI hallucination

很多案件可能：

• 更正

• 道歉

处分不会特别重。

但是这里：又向法院否认使用AI。性质明显升级。

?

（3）是否损害司法制度

法院必须相信：

律师提交的判例是真实的。

如果律师可以随便引用AI捏造案例：

整个判例制度都会受到影响。

因此LSO特别强调：

维护公众对司法制度的信任。

?

七、与美国类似案例的比较

近两年，多个普通法司法辖区都出现了类似事件：

• 在美国纽约，律师因向法院提交由生成式AI虚构的判例，被法院处罚并处以制裁（sanctions）。

• 美国多个联邦法院随后要求律师确认其提交材料已经过人工核实，不能直接依赖AI生成内容。

• 英国、澳大利亚等地的法院和律师监管机构也陆续发布指引，明确允许律师使用AI辅助研究，但要求对所有法律引用进行独立验证。

这些案例反映出一个共同原则：问题不在于使用AI，而在于未经核实地依赖AI输出，或向法院作出不实陈述。

八、本案最大的法律意义

这起案件的重要意义在于，它标志着加拿大律师监管机构明确传递了一个原则：

1. **使用AI本身并不违规。**律师可以利用AI进行法律检索、起草文书或整理思路。

2. **律师对所有提交给法院的内容承担不可转移的责任。**AI生成的判例、引文和法律分析必须经过人工核实。

3. **对法院的诚实义务高于一切。**如果律师提交了错误材料，应及时更正；若故意隐瞒或作出虚假陈述，则可能构成严重职业失当。

4. **AI不会成为免责理由。**在职业责任上，法院和律师协会只会追究签署文件、代表当事人执业的律师，而不会将责任归于AI工具。

因此，本案真正受到处分的法律依据，不是《Law Society of Ontario》或职业操守规则中存在一条专门针对AI的规定，而是传统的律师职业伦理规范在AI时代的适用：律师必须保持专业能力、诚信、诚实，并履行对客户和法院的职责；AI只是新的工作工具，并不改变这些基本法律义务。