Ne oldu?
Kasım 2022'de büyükannesini kaybeden Jake Moffatt, cenazeye gitmek için bilet almadan önce Air Canada'nın web sitesindeki sohbet botuna yas indirimini sordu. Bot, bileti tam fiyatla alıp bilet tarihinden itibaren 90 gün içinde fark için başvurabileceğini söyledi. Moffatt bu cevaba güvenerek bileti aldı, ama başvurusu reddedildi. Havayolunun politikasına göre indirim, yolculuktan sonra talep edilemiyordu.
Kurum nasıl savundu?
Uyuşmazlık, Britanya Kolumbiyası'nın Civil Resolution Tribunal adlı uyuşmazlık çözüm kuruluna taşındı. Air Canada savunmasında sohbet botunun kendi eylemlerinden sorumlu, ayrı bir varlık sayılması gerektiğini ileri sürdü. Kurul bu görüşü dikkat çekici bulduğunu belirterek reddetti. 14 Şubat 2024'te açıklanan kararda, şirketin web sitesindeki bütün bilgilerden sorumlu olduğu vurgulandı ve Air Canada'nın Moffatt'a yaklaşık 812 Kanada doları ödemesine hükmedildi.
Müşterinin gözünde sohbet botu, çağrı merkezindeki çalışan ve web sitesindeki bir paragraf aynı kurumun sesi.
Benim okumam
Davanın parasal karşılığı küçüktü, ama kararın kendisi dünya basınında uzun süre konuşuldu. Bence bu vakayı önemli kılan, bir kurumun kendi aracını kendinden ayırmaya çalışması. Kurumun adıyla konuşan bir araç, ister bir insan ister bir yazılım olsun, kurumun sözünü taşıyor.
Yapay zekayı iletişim süreçlerine katan kurumlarla konuşurken hep aynı soruyu sormaya çalışıyorum. Bu aracın verdiği cevabın arkasında durabilecek miyiz? Cevap henüz evet değilse, araç müşteriyle konuşmaya da hazır sayılmaz. Yapay zekanın hangi bilgiyle beslendiğini, cevaplarını kimin ve ne sıklıkla denetlediğini, bir hata olduğunda özrü kimin dileyeceğini yayına almadan önce belirlemek gerektiğine inanıyorum.
Kurumlar için üç ders
- Kurumun adıyla konuşan her araç, kurumun sözünü taşır. Sorumluluk bir yazılıma devredilemiyor.
- Yapay zekanın cevaplarını kimin ve hangi sıklıkla denetleyeceğini yazılı olarak belirleyin.
- Hata ortaya çıktığında çözümle başlayın. Bu vakada talep edilen tutar, savunmanın yarattığı itibar maliyetinin yanında çok küçük kaldı.