Kurumsal Yapay Zekâ Etiği: Uygulanabilir Bir Çerçeve

Çoğu şirketin yapay zekâ etiği belgesi, kimsenin itiraz edemeyeceği cümlelerden oluşur: "adil olacağız", "şeffaf olacağız", "insan odaklı olacağız".

Bu belgeler karar anında hiçbir işe yaramaz. Uygulanabilir bir çerçeve, soru ve sınır içerir.

Karar anında sorulacak sorular

Yeni bir kullanım önerildiğinde sorulacak altı soru:

1. Kim etkileniyor? Çalışan, müşteri, aday, tedarikçi?
2. Etki ne kadar ciddi? Kolaylık mı, yoksa kişinin hayatını etkileyen bir sonuç mu?
3. Kişi bunu bilse rahatsız olur mu?
4. Hata olursa ne olur? Kim zarar görür, geri döndürülebilir mi?
5. İtiraz yolu var mı?
6. Bunu kamuya açıklamaktan çekinir miyiz?

Altıncı soru en pratik testtir: cevap "evet" ise, sorun etikte değil kararın kendisindedir.

Etki düzeyine göre kural

Bu tablo, soyut ilkeleri uygulanabilir kurala çevirir.

Kırmızı çizgiler

Her şirketin açıkça yazması gereken yasaklar:

• İşe alım, terfi ya da işten çıkarma kararının otomatik verilmesi
• Performans değerlendirmesinin tek başına otomatik yapılması
• Müşteriye insan sanılacak biçimde otomatik iletişim kurulması
• Kişileri gizlice izleme ve profilleme
• Yanıltıcı içerik üretimi
• Gerçek kişilerin sesini ya da görüntüsünü izinsiz taklit etme
• Fiyatlandırmada kişiye özel ayrımcılık

Üçüncü madde giderek daha çok tartışılıyor: otomatik yanıt veren bir kanalda karşı tarafın bunu bilme hakkı vardır.

Şirket dışına yansıyan kullanımlar

İç kullanımda hata maliyeti düşüktür; dışa yansıyan kullanımlarda değil. Ek kontrol gerekenler:

• Müşteriyle doğrudan iletişim
• Pazarlama içeriği
• Fiyat ve teklif oluşturma
• Aday değerlendirme
• Kredi, risk ya da uygunluk değerlendirmesi
• Kamuya açık beyanlar

Sorumluluk kimde?

Etik çerçevenin en net maddesi bu olmalıdır: çıktının sorumluluğu onu kullanan kişidedir.

• "Sistem öyle söyledi" bir savunma değildir.
• Onaylayan kişi sonuçtan sorumludur.
• Kritik kararlarda karar verici insan olmalıdır.
• Sorumluluk zinciri belgelenmelidir.

Çerçeveyi nasıl yazmalı?

• En fazla iki sayfa olsun.
• Soyut ilke değil somut kural içersin.
• Örnekler barındırsın.
• Yasakları açıkça saysın.
• Şüphe hâlinde kime danışılacağını söylesin.
• Politikayla çelişmesin.

Beşinci madde çoğu belgede eksiktir ve en çok ihtiyaç duyulan bilgidir.

Kim karar verir?

Sınırda kalan durumlar için küçük bir değerlendirme mekanizması kurun:

• Yapay zekâ sorumlusu
• Hukuk/uyum temsilcisi
• İlgili departman yöneticisi
• Gerekirse bilgi güvenliği

Bu grup ayda bir toplanıp yeni kullanım önerilerini ve gelen soruları değerlendirebilir. Ağır bir komite kurmayın; hız kaybı en büyük uyum düşmanıdır.

Etik ve ticari çıkar çeliştiğinde

Gerçek sınav burada verilir. Çerçeveniz şunu netleştirmelidir: hangi durumlarda kısa vadeli kazançtan vazgeçilir? Örneğin daha yüksek dönüşüm getirecek ama yanıltıcı olacak bir uygulama, çerçeve gereği reddedilmelidir.

Bu kararlar bir kez verildiğinde kültürü belirler.

Özet

İlke listesi değil, karar anında sorulacak sorular ve açık yasaklar yazın. "Kamuya açıklamaktan çekinir miyiz?" en pratik testtir. Etki düzeyine göre kademeli kontrol kurun, kişi hakkında karar üretimini kırmızı çizgi yapın ve çıktının sorumluluğunun kullanıcıda olduğunu açıkça yazın.