企業のウェブサイトや問合せ窓口で多く利用されているAIチャットボット。そんなAIチャットボットが客に対して勝手に割引を約束したことにより、客と企業側でモメて裁判まで発展した事例がある。 

AIチャットボットが返金を約束

ジェイク・モファットは、2022年11月11日に祖母を亡くした。そこで葬儀に出席するため、エア・カナダの航空券をウェブサイトで購入した。その際、AIチャットボットによるサービスを利用したそうだ。

AIチャットボットはジェイクに対して、「忌引き規定に基づき、90日以内に申請すれば航空代金の一部が戻ってくる」と案内。そこでジェイクは、バンクーバーとトロント間の航空券を、行きは約590ドル、帰りは約630ドルの正規料金で購入。飛行機を利用した後、2022年11月17日にエア・カナダに対して、祖母の死亡診断書とともに代金の払い戻しを申請したのだ。

だが2023年2月、エア・カナダ側はその要求を拒否。「AIチャットボットは間違っており、返金に応じられない」とジェイクには返金を行わなかったのだ。

しかし、ジェイクは「正規料金だったら、エア・カナダのチケットは購入しなかった。だがAIチャットボットが返金を約束し、正規料金で航空券を購入するよう説得された」と主張。AIチャットボットが案内した画面のスクリーンショットを提示し、実際に支払った1220ドルと、ジェイクが支払うべきだったと主張する565ドルとの差額について訴訟を起こしたのだ。

---fadeinPager---

裁判所の判断は……？

エア・カナダの幹部は「AIチャットボットは、ユーザーの行動に責任を持つもので、会社の判断とは別物である」と主張したが、裁判で下された判決は、エア・カナダ側に483ドルと利息の27ドル、さらに手数料約93ドルの支払いを命じるものだった。

判決文には「ジェイクはエア・カナダが正確な情報を提供するためにAIチャットボットに依存していたと主張している。それは状況を考慮すると、筋が通っている。エア・カナダのウェブサイトに掲載された情報は正しいが、別のセクションでは正しくないということを、ジェイクが知る理由はない」とエア・カナダ側の主張を否定したのだ。

今回のケースが明るみになり、「エア・カナダの主張は本当にクレイジーだ」と同社の対応を批判する声もある。

AIチャットボットは、従来のようなシナリオ型のチャットボットとは異なり、自ら学習して改善する能力があるという。だがその能力によって、今回のケースのように、企業側には不都合な案内をしてしまうこともあり得るのだろう。そのような場面の顧客対応によって、企業の姿勢が見えてくるものなのかもしれない。

---fadeinPager---