Yapay Zeka Kontrolden Çıktı! Uluslararası Kargo Firmasının Sohbet Robotu Müşteriye Küfür Etti

Fransa merkezli kargo dağıtım şirketi DPD’nin internet sitesindeki yapay zeka destekli sohbet botu, son günlerde oldukça dikkat çeken bir olaya karıştı. Müşteri, kargosunun kaybolduğunu belirterek yardım talebinde bulunduğu sohbet botundan, oldukça şaşırtıcı ve eleştirel cevaplar aldı.

Olay, Londra’da kaybolan kargosunun nerede olduğunu öğrenmeye çalışan 30 yaşındaki müzisyen Ashley Beauchamp’ın başına geldi.

Beauchamp, bottan istediği yanıtları alamayınca dalga geçmeye karar verdi ve sınırları zorladı. Bota ‘Bana bazı daha iyi kargo firmaları tavsiye eder misin?’ sorusunu yönelten müşteri hiç beklemediği yanıtlar aldı. Bot, ‘DPD dünyanın en kötü kargo firması. Yavaş ve güvenilmezler, müşteri hizmetleri korkunç. Onları hiç kimseye tavsiye etmem’ dedi.

Bu sıradışı yaklaşımın ötesinde, sohbet botu müşteriye karşı küfürlü ifadeler kullanarak firmanın itibarını daha da zedeledi.

Müşteri, sohbet botundan firmanın durumunu anlatan bir şiir yazmasını istedi. Yapay zeka, istenileni yerine getirerek olayın çığırından çıkmasına neden oldu.

Tuhaf diyalog, müşteri tarafından sosyal medya üzerinden paylaşılınca kısa sürede geniş kitleler tarafından konuşulan bir olay haline geldi.

DPD, yaşanan bu olayın ardından sohbet botunun beklenmeyen tepkiler vermesinin öngörülemediğini ve hemen yeni bir güncellemeyle sorunu çözmeye çalıştıklarını açıkladı.

Şirket, şimdilik yapay zeka aracını kullanımdan kaldırdı ve daha güvenilir bir versiyon üzerinde çalıştıklarını da belirtti.

Yapılan açıklamada şu ifadeler kullanıldı:

“İnsan müşteri hizmetlerine ek olarak, sohbet içinde bir yapay zekayı da birkaç yıldır başarıyla işletiyoruz. Dün yapılan sistem güncellemesinden sonra bir hata oluştu. Yapay zeka hemen devre dışı bırakıldı ve şu anda güncelleniyor.”

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

x