Yapay Zekâ Şeffaflığı ve Açıklanabilirlik

Bir müşteri talebi reddedilir. Müşteri sorar: "Neden?"

Cevap "sistem öyle değerlendirdi" olamaz. Şeffaflık, kurumsal yapay zekâ kullanımının tercih edilir bir özelliği değil, çalışabilirlik koşuludur.

İki ayrı kavram

Bir sistem şeffaf olup açıklanabilir olmayabilir; kurumsal olarak ikisi de gerekir.

Kimlere karşı şeffaflık?

Çalışanlara

• Hangi süreçlerde kullanıldığı
• Kendi işlerini nasıl etkilediği
• Verilerinin nasıl kullanıldığı
• Performanslarının değerlendirilmesinde rolü olup olmadığı

Müşterilere

• İletişimde kullanılıyorsa bilinmesi
• Kararlarında rolü varsa açıklanması
• Verilerinin nasıl işlendiği
• İnsana ulaşma imkânı

İş ortaklarına

• Teslim edilen işte kullanılıp kullanılmadığı
• Paylaşılan verinin nasıl işlendiği

Denetleyicilere

• Kullanım envanteri
• Karar kayıtları
• Kontrol mekanizmaları

Açıklanabilirlik nasıl sağlanır?

1. Kriterleri önceden yazın. Hangi ölçütler dikkate alınıyor?
2. Ağırlıkları belirleyin. Hangisi ne kadar önemli?
3. Sonucu değil gerekçeyi kaydedin.
4. Ara adımları görünür kılın.
5. Kaynak gösterin. Hangi bilgiye dayandı?
6. Güven düzeyini gösterin.

Beşinci madde kurumsal bilgiyle çalışan sistemlerde en değerli özelliktir: kaynağa tıklayıp doğrulayabilmek, güveni doğrulanabilir kılar.

Açıklanamayan çıktı ne yapılır?

• Kritik kararlarda kullanmayın.
• Öneri düzeyinde tutun, karar düzeyine çıkarmayın.
• İnsan değerlendirmesini zorunlu kılın.
• Kişiyi etkileyen sonuçlarda dayanak yapmayın.

Karar ne kadar ciddiyse, açıklanabilirlik beklentisi o kadar yüksek olmalıdır.

Müşteri bilgilendirmesi ölçüsü

Her kullanımı duyurmak gerekmez; ölçü şudur:

Aşırı şeffaflık tuzağı

Her ekrana uyarı koymak, bilgilendirmenin okunmamasına yol açar. Etkili bilgilendirme:

• İlgili anda gösterilir
• Sade dilde yazılır
• Ne yapılabileceğini söyler (itiraz, insana ulaşma)
• Teknik ayrıntıya boğmaz

İç şeffaflık: envanter

Kurumsal şeffaflığın temeli, kullanımın kayıt altında olmasıdır:

• Hangi araç, hangi departmanda
• Hangi amaçla
• Hangi veriyle
• Kim sorumlu
• Hangi kontroller var
• Risk düzeyi

Bu envanter olmadan ne denetim yapılabilir ne soruya cevap verilebilir. Gölge kullanımın en büyük zararı da burada ortaya çıkar.

Kayıt tutma

• Kim, ne zaman, ne için kullandı
• Hangi girdi verildi (hassas veri hariç)
• Hangi çıktı üretildi
• İnsan müdahalesi oldu mu
• Nihai karar ne oldu

Kayıtların saklama süresi ve erişim yetkisi de politikada tanımlanmalıdır.

Özet

Şeffaflık kullanıldığının bilinmesi, açıklanabilirlik sonucun gerekçesinin anlaşılmasıdır; ikisi de gerekir. Kriterleri önceden yazın, sonucu değil gerekçeyi kaydedin ve kaynak gösterin. Açıklanamayan çıktıyı kritik kararlarda dayanak yapmayın; envanter tutmadan ne denetim yapılabilir ne de soruya cevap verilebilir.