Air Canada 聊天机器人赔偿案:AI 回答的法律责任标杆
这是全球第一起企业因自家 AI 聊天机器人错误回答而被裁决赔偿的知名案件:加拿大航空官网的客服机器人向乘客 Jake Moffatt 给出了与公司退票政策相悖的答复,乘客据此购票后被拒绝退款,不列颠哥伦比亚民事解决审裁处(Civil Resolution Tribunal)认定企业构成过失性不实陈述(negligent misrepresentation),判赔 812.02 加元。一句话结论:企业要为自家网站上的 AI 回答承担与人类客服相同的法律责任,“聊天机器人是独立法律实体”这类抗辩不成立——这是 AI 答案第一次拿到明确的法律价格标签。
先做一处机构名勘误:此案常被中文材料写作“不列颠哥伦比亚最高法院判决”,实际裁判机构是民事解决审裁处(a tribunal,非法院),裁决编号 2024 BCCRT 149,本卡以裁决原文为准。
事件时间线:一次错误回答如何变成生效裁决
2022 年 11 月,Moffatt 的祖母去世,他在加航官网购买紧急机票,购票前向官网聊天机器人确认:能否先买全价票、事后按丧亲关怀票价(bereavement fare)申请追溯差额退款。机器人给出了肯定答复。他购票后提交退款申请,加航拒绝,理由是公司政策不允许对已完成购票追溯适用丧亲票价——官网政策的完整条款里确实不支持追溯,但机器人没有说对。
Moffatt 向不列颠哥伦比亚民事解决审裁处提起申诉。2024 年 2 月,审裁处裁决:加航对官网聊天机器人提供的不实信息负全责,构成过失性不实陈述;加航“机器人是独立法律实体、公司无需为其负责”的抗辩被明确驳回——审裁处的理由朴素而彻底:机器人是加航放在自家网站上的工具,公司为网站上的所有信息负责,无论信息来自静态页面还是聊天机器人。裁决金额为票价差 650.88 加元,加上审裁处费用与利息合计 812.02 加元。此后未发现加航提起司法复核的公开记录,裁决生效,公司照判赔付。
机制拆解:品牌为什么必须为自家 AI 的错误买单
从 GEO 的视角看,这起案件的机制层有三块。第一块是错误从哪来:聊天机器人检索了公司政策页面,却对“已购票后能否追溯”这一关键细节给出了超出政策原文的宽泛答复——典型的检索到素材、合成时失真的模式,与站内RAG 幻觉术语卡描述的生成侧故障同构。政策页面本身没有错,错的是“检索材料”与“回答口径”之间那一步没有对齐,这提醒所有部署客服机器人的企业:答案口径要以政策原文为准绳做约束,而不是指望模型自己读懂细则。
第二块是责任为什么归品牌:审裁处否定了把 AI 当“第三方”的切割逻辑。这个逻辑上的重要性远超赔偿金额——它把“AI 说了什么”与“公司说了什么”在法律上划了等号,至少在其司法辖区内的官网场景如此。网站上的 AI 是品牌的数字化身,不是免责工具。
第三块是响应成本的对比:加航最初拒绝的退款差额是数百加元级,诉讼与声誉层面的总代价远高于此——案件成为全球法务与客服部门的必修案例,“为几百元与乘客对簿公堂”的叙事本身成了品牌伤害。错误回答的直接损失小、放大损失大,这是绝大多数 AI 错误的成本结构。
还有一层责任不对称值得点出:官网自有机器人与第三方引擎的错误,在责任结构上完全不同。官网机器人是品牌自己的代理,说了错话由品牌直接担责;第三方生成式引擎对品牌的错误描述,品牌既无合同关系也无直接控制手段,只能走监测、反馈与证据留存路线。这个不对称决定了两套完全不同的应对预案——前者重在内部治理(口径清单、日志、版本管理),后者重在外部监测(问题集、打标、纠错反馈),预算与责任部门都应该分开设。
对本站用户的含义:纠错监测是法务卫生
对在自己的网站或服务里部署 AI 回答的企业,这个案例把一件事从“最佳实践”升级为“风险控制”:AI 回答的事实核查要有流程与责任人。可执行的动作有三条。其一,给客服类机器人划定答不上来的边界——检索不到明确依据时引导转人工,比生成一个看起来合理的答案安全得多。其二,把品牌核心政策(退改规则、价格承诺、服务范围)做成机器人必须遵守的口径清单,任何回答不得超出清单给出承诺。其三,建立用户反馈回路,错误回答能在第一时间被标记与修复,修复流程参照负面提及与错误陈述应对方法页的发现-定性-纠正-复盘框架。
对不自己部署机器人、只关心第三方引擎怎么说自己的一般品牌方,这个案例同样有含义:它提供了一个“AI 错误陈述有真实代价”的最有力内部沟通样本——向管理层申请纠错监测预算时,这是最容易被听懂的一个案例(监测对象的定义见AI 品牌描述术语卡)。第三方引擎的错误暂无对等的判例传导路径,但“发现-保留证据-通过官方渠道请求修正”的动作清单已经成立,测量方法论可参照HalluEval 文献卡。
此外还有一层常被忽略的治理面:聊天机器人的历史回答属于可被调取的证据。此案的裁决正是以机器人答复内容为核心证据,企业若对客服机器人的对话没有留存与审计机制,争议发生时既无法自证口径、也无法定位故障。给客服机器人配对话日志与版本记录——哪个版本的模型、检索了哪些政策页、给出过哪些答复——是案后多家企业法务新增的标配动作。部署侧的透明度同样要跟上:机器人应明示自己的 AI 身份与能力边界,口径清单的更新要有版本管理,让“机器人当时说了什么、依据的是哪版政策”在任意时点都可回溯。
置信度标注与适用边界
高置信部分:事件经过、裁决日期、机构、“独立法律实体”抗辩被驳回、812.02 加元合计金额,均出自公开的裁决原文与多家律所评析,本站已核对 CanLII 收录的原文口径。中置信部分:机器人错误回答的完整原文以裁决书转述为准,我们未见官方答复原始截图的独立公开版本。适用边界有三条:审裁处裁决的拘束力限于其司法辖区与个案,不自动外推为普遍法律规则,其他法域的责任认定路径不同;本案针对企业自建客服机器人,不直接约束第三方生成式引擎对品牌的描述;裁决金额极小,把它读成“赔偿数额”的标杆是误读,真正的标杆是责任归属原则——金额小、原则大,引用时两者都要带上。
引用来源
- 裁决原文(CanLII 收录:2024 BCCRT 149)
- McCarthy Tétrault 律所评析