Yapay zeka hatalarına karşı sigorta

FİNANSİNGUNDEMİ.COM – DIŞ HABERLER SERVİSİ

Lloyd’s of London, yapay zekâ (YZ) tabanlı sohbet robotlarının (chatbot) yol açtığı hatalı veya yanıltıcı bilgi iletiminden kaynaklanan maddi zararlar için yeni bir sigorta ürünü geliştirdi. Sektörün YZ kaynaklı hatalarına yönelik artan endişeleri, sigorta devinin bu alandan kâr elde etme arayışını hızlandırdı.

Y Combinator destekli girişim Armilla tarafından geliştirilen poliçeler, bir YZ aracının düşük performansı veya hatalı bilgi üretmesi durumunda, şirketlerin karşılaşabileceği dava ve zarar taleplerini teminat altına alacak. Lloyd’s of London bünyesindeki farklı sigorta şirketleri tarafından sunulan bu yeni ürün, hem tazminat ödemelerini hem de dava masraflarını karşılamayı hedefliyor.

KULLANIM ARTTIKÇA SORUNLAR DA ARTIYOR

Şirketler verimliliklerini artırmak adına hızla YZ tabanlı çözümleri hayata geçirirken, başta müşteri hizmetleri chatbot’ları olmak üzere birçok aracın zaman zaman kamuoyunda yankı bulan ve maliyet yaratan hatalara imza attığı biliniyor. YZ dil modellerinin “halüsinasyon” olarak adlandırılan, olmayan bilgi üretme eğilimi de özelikle öne çıkan bir sorun olarak ele alınıyor.

Geçtiğimiz aylarda Virgin Money, sohbet robotunun bir müşteriye “bakir” kelimesini kullanması nedeniyle azarlama yapmasından ötürü özür dilemek zorunda kalmış, dağıtım devi DPD ise yapay zekâ destekli müşteri temsilcisinin müşterilere hakaret etmesi üzerine sistemi kısmen devre dışı bırakmıştı. Benzer şekilde, geçen yıl Kanada’da bir mahkeme, Air Canada’nın müşteri hizmetleri chatbot’unun yarattığı bir indirim sözü nedeniyle havayolu şirketini tazminat ödemeye mahkûm etti.
Armilla’dan yapılan açıklamada, böyle bir olayın kendi ürünleri kapsamında olması halinde oluşacak maliyetin sigorta poliçesiyle karşılanabileceği belirtildi. CEO Karthik Ramakrishnan, ürünün şirketlerin YZ tabanlı uygulamaları daha rahat şekilde benimsemelerine olanak sağlayacağını, zira birçok kurumun chatbot’ların hatalarından endişe duyarak bu teknolojilerden kaçındığını söyledi.

TAZMİNAT LİMİTLERİ DÜŞÜK TUTULUYOR

Standard teknoloji sigortaları, zaman zaman YZ ile ilgili kayıpları da kapsıyor, ancak tazminat limitleri genellikle düşük tutuluyor. Sigorta brokeri Lockton’dan Preet Gill, örneğin 5 milyon dolara kadar olan standart poliçelerde, YZ yükümlülükleri için alt sınırın sadece 25 bin dolar olduğuna dikkat çekti. Daha spesifik olarak, YZ dil modellerin dinamik şekilde kendini geliştirmesinin oluşturduğu riskler ise çoğu zaman klasik teknoloji sigorta poliçelerinde yer almıyor.

Yeni üründe ise, bir YZ aracının tek seferlik hatası ödeme için yeterli olmayacak; sigortacı, sistemin genel performansının ilk tahminlerin altında seyrettiğine kanaat getirirse teminat devreye sokulacak. Armilla’dan yapılan açıklamaya göre, poliçe başlangıçta %95 doğruluk oranı vadeden bir chatbot’un doğruluğu %85’e gerilerse, poliçe kapsamında ödeme yapılabilecek.

Chaucer’da ortaklık başkanı Tom Graham ise, aşırı bozulmaya yatkın sistemleri kapsayan poliçeleri imzalamayacaklarını ifade etti. “Diğer tüm sigorta şirketleri gibi seçici davranacağız,” dedi.

CEO'su öldürülmüştü, sigorta şirketine milyarlarca dolarlık dava

ABD sağlık sigortası sisteminde büyük skandal!

Norveç Varlık Fonu yapay zekaya geçiyor