Yapay Zekâ Yargılarına Neden Güveniyoruz?

Bir işe alım ekranı düşünün. Sistem beş adayı sıralıyor, her biri için kısa bir gerekçe gösteriyor ve yanına bir uygunluk puanı koyuyor. Yönetici önerileri tek tek onaylıyor. Kayıtlarda her kararın bir insan tarafından verildiği görünüyor.

Yöneticinin yaptığı bağımsız bir değerlendirme de olabilir, makinenin sıralamasını hızla imzalamak da. Onay düğmesi bu ikisini ayıramaz.

Şirketler AI destekli kararları çoğu zaman iki zayıf göstergeyle izliyor: Kullanıcı sisteme güveniyor mu ve önerileri ne sıklıkta kabul ediyor? İkisi de yararlı olabilir. Fakat hiçbiri karar kalitesini tek başına açıklamaz. Doğru öneri reddedilebilir, yanlış öneri kabul edilebilir. İnsan süreçte bulunur ve yine de gerçek bir kontrol yapmayabilir.

İyi tasarlanmış bir karar akışının amacı, AI’a mümkün olduğunca çok güvenilmesini sağlamak değildir. Doğru tavsiyenin kabul edildiği, yanlış tavsiyenin reddedildiği ve nihai kararın dayanağının görülebildiği bir düzen kurmaktır.

Kaynak hakkındaki inanç, yargıyı değiştiriyor

Google DeepMind araştırmacılarının PLOS ONE’da yayımladığı A moral Turing test çalışmasında katılımcılar, bir gerekçeyi insanın mı yoksa dil modelinin mi yazdığını tahmin etti. Kaynağı rastgele tahminden daha iyi buldular, ama yine de sık sık yanıldılar. Bir yargıya ne kadar katıldıkları da metni kimin yazdığını düşündüklerine göre değişebiliyordu.

Burada iki ayrı değişken var. Metni gerçekten kimin ürettiği bir olgu. Okurun metni kimin ürettiğine inandığı ise algı. Aynı metin, “insan yazdı” veya “AI yazdı” düşüncesiyle farklı karşılanabiliyor.

Çalışma ahlaki ve ahlaki olmayan yargı gerekçelerini, kontrollü deneyleri ve eski bir model ailesinin çıktılarını kullanıyor. Sonuçları işe alım, kredi veya yatırım kararlarına doğrudan taşıyamayız. Yine de işletmeler için önemli bir ayrımı görünür kılıyor: Kaynağa duyulan güven ile çıktının kalitesi aynı ölçüm değildir.

Bu bulgu, AI çıktısına peşinen güvenmenin de peşinen karşı çıkmanın da değerlendirmeyi bozabileceğini gösteriyor. Kaynağa dair inancımız, metnin kendisini nasıl tarttığımızı etkileyebiliyor. Bu yüzden bir sonraki ayrımı yapmak gerekiyor: Bir tavsiyeye güvenmek, onu dikkate almak ve onunla doğru karara ulaşmak aynı şey değil.

Güven, tercih ve karar kalitesi ayrı şeyler

“AI’a güveniyor musunuz?” sorusu tek bir duygu varmış gibi davranıyor. Oysa karar akışında en az beş farklı davranış bulunuyor:

1. Kullanıcı kaynağı güvenilir bulabilir.
2. AI tavsiyesini insan tavsiyesine tercih edebilir.
3. Tavsiyeyi okuyup dikkate alabilir.
4. Doğru tavsiyeyi kabul edip yanlış tavsiyeyi reddedebilir.
5. Sonunda doğru kararı verebilir.

Bu adımlar her zaman birlikte ilerlemiyor. İnsan ve AI tavsiyesini karşılaştıran deneyler, kaynağın insanların tavsiyeye bakma kararını etkileyebildiğini gösteriyor. Tavsiyeyi okuyan kişinin onu ne ölçüde kullandığı ise göreve ve önceden taşıdığı inançlara göre değişebiliyor.

Deneylerde ağırlık çevrim içi katılımcılardaydı. Uzmanlardan oluşan örneklem küçüktü. Bu nedenle sonuçlar kurumsal sorumluluğu veya uzun vadeli iş sonuçlarını açıklamıyor.

Bir öneri sisteminin başarı tablosunda yalnızca kullanım ve kabul oranı varsa, sistemin en önemli davranışı görünmez kalır. İnsanlar yanlış öneriyi ne sıklıkta yakalıyor? Doğru öneriyi hangi gerekçeyle reddediyor? Nihai sonuç ne zaman ve hangi kayıttan doğrulanıyor?

Kaynakça kanıtın yerini tutmaz

Bir AI metninin sonunda uzun bir kaynakça görmek, metnin sağlam olduğunu göstermiyor. Her kaynağın gerçekten ilgili iddiayı destekleyip desteklemediğini kontrol etmek gerekiyor. Bazen atıf yapılan yerde iddia bulunmuyor; bazen de kaynaktaki dar bir cümle, çalışmanın ana fikriymiş gibi sunulabiliyor.

Bu yüzden kaynak sayısı tek başına kanıt değildir. Her bağlantı için şu soruyu sormak gerekir: Kaynak, bu cümleyi gerçekten destekliyor mu? Bu kontrol yapılmadan hazırlanan bir kaynakça, doğrulama yerine sahte güven üretebilir.

Etiket ve güven puanı kanıt değildir

AI kullanıldığını belirtmek veya ekranda bir güven puanı göstermek, çıktının doğru olduğunu kanıtlamaz. Bu işaretler insanların tercihini etkileyebilir; fakat anlık tercih, gerçek iş kararının kalitesini ölçmez. Güven puanı da kendi kullanım alanındaki doğrulukla sınanmadıkça yalnızca ikna edici bir sayı olur.

Bir AI tavsiyesi ikna edici görünebilir; kaynağı açıklanmış, güven puanı yüksek veya insan tarafından onaylanmış olabilir. Bunların hiçbiri kararın iyi olduğunu tek başına göstermez. Asıl soru, doğru tavsiyenin kabulü ile yanlış tavsiyenin reddini ayırt edip edemediğimizdir. Cevap hayırsa güven ölçülmüyordur; yalnızca davranış sayılıyordur.