聊天机器人向悲伤的乘客谎报折扣后，加航必须赔偿损失

加拿大航空公司必须向一名乘客支付数百美元的赔偿金，因为其在线聊天机器人在乘客预订航班之前向他提供了错误的信息。

去年 11 月，杰克·莫法特 (Jake Moffatt) 的祖母去世后，航空公司拒绝为他预订的从温哥华飞往多伦多的航班退款，随后航空公司将航空公司告上小额索赔法庭。在购买机票之前，他通过查询加拿大航空公司的网站聊天机器人，研究了加拿大航空的丧亲票价——针对那些因失去直系亲属而旅行的人的特别低票价。

虚拟助理告诉他，如果他购买正常价格的机票，他将有长达 90 天的时间来索取丧亲折扣。根据这一建议，莫法特预订了一张 794.98 加元飞往多伦多的单程机票，大概是为了参加葬礼或照顾家人，后来又订了一张 845.38 加元的航班返回温哥华。

他还与加拿大航空公司的一名代表进行了交谈，后者确认他将能够在乘坐航班时获得丧亲折扣，并且预计往返多伦多的费用约为 380 美元。至关重要的是，该代表没有透露购买机票后是否可以将折扣作为退款。

当莫法特后来在 90 天的期限内提交退款申请并附上他祖母的死亡证明副本时，加拿大航空拒绝了他。

该航空公司的工作人员告诉他，在购买航班后无法索回丧亲票价，这一政策与支持聊天机器人告诉莫法特的内容不一致。据了解，虚拟助手是自动化的，没有人坐在几英里外的键盘前。

莫法特对这种情况感到不满——支持机器人告诉他错误的信息——将航空公司告上了法庭，声称该公司疏忽大意，歪曲了信息，让他损失惨重。

人工智能是一种责任 谷歌起诉诈骗者兜售假冒恶意软件的 Bard 聊天机器人下载 幻觉ChatGPT找到了龙与地下城的角色扮演 饮食失调非营利组织因发出“有害建议”而撤回聊天机器人

然而，加拿大航空公司辩称，它不应该对聊天机器人的错误输出承担责任，但没有解释原因，这让法庭成员克里斯托弗·里弗斯感到困惑。

“加拿大航空公司辩称，它不能对其代理人、仆人或代表（包括聊天机器人）提供的信息承担责任。它没有解释为什么它认为情况如此，”他在周三的决定中写道。

“实际上，加拿大航空认为聊天机器人是一个独立的法律实体，对其自身行为负责。虽然聊天机器人具有互动组件，但它仍然只是加拿大航空网站的一部分。对加拿大航空来说，显而易见的是，它对其网站上的所有信息负责。无论信息来自静态页面还是聊天机器人，都没有区别。”

信息来自静态页面还是聊天机器人都没有区别

加拿大航空表示，其聊天机器人在其网站上提供了一个页面链接，解释折扣票价退款不能追溯，莫法特应该点击该链接。但里弗斯并不同意。

“它没有解释为什么标题为‘丧亲旅行’的网页本质上比它的聊天机器人更值得信赖。它也没有解释为什么客户必须在其网站的一个部分和另一部分仔细检查在其网站的一个部分中找到的信息，”他写了。

里弗斯表示，加拿大航空没有采取“合理的措施来确保其聊天机器人的准确性”，而且像莫法特这样的客户不会知道为什么加拿大航空网页上的信息应该比其聊天机器人更正确。加拿大航空被责令向莫法特支付总计 812.02 加元，其中包括 650.88 加元的损害赔偿金。

加拿大航空发言人告诉The Register，该航空公司将遵守里弗斯的裁决，并认为此事现已结束。

这场纠纷是一个完美的案例，它提醒我们自己，自动聊天机器人会反刍虚假信息，因此使用它们的风险由您自己承担——当然，除非您乐意并能够获得损害赔偿。