Yapay Zekâda Önyargı Riski ve Kurumsal Önlemler

Önyargı, yapay zekâ tartışmalarının en soyut başlığı gibi görünür. Oysa kurumsal etkisi çok somuttur: yanlış kişiyi elemek, bir müşteri grubuna sistematik olarak daha kötü hizmet vermek, bir bölgeyi görmezden gelmek.

Önyargı nereden gelir?

Üçüncü satır kurumsal projelerde en sık gözden kaçandır: geçmişte kimi işe aldıysanız, sistem onu "başarı" saymayı öğrenir.

Kurumsal risk alanları

• İşe alım: özgeçmiş eleme, aday sıralama
• Performans: değerlendirme desteği
• Müşteri: önceliklendirme, risk skorlama
• Fiyatlandırma: kişiye özel fiyat
• Kredi/uygunluk: onay değerlendirmesi
• Hizmet: talep önceliklendirme
• Pazarlama: hedefleme ve dışlama

Son madde dolaylı işler: belirli grupları hiç hedeflememek de bir ayrım biçimidir.

Dolaylı ayrım tuzağı

Cinsiyet, yaş ya da köken bilgisini veriden çıkarmak yeterli değildir. Şu bilgiler bunların yerine geçebilir:

• Posta kodu ve semt
• Okul adı
• Mezuniyet yılı (yaş göstergesi)
• Kariyer boşlukları
• İsim yapısı
• Kullanılan cihaz ya da kanal

"Hassas alanı çıkardık" demek, önyargının çıkarıldığı anlamına gelmez.

Tespit yöntemleri

1. Grup bazlı sonuç karşılaştırması: farklı gruplar için sonuç oranları eşit mi?
2. Test senaryoları: yalnız bir değişkeni değiştirip sonucu karşılaştırma
3. Örneklem incelemesi: insan gözüyle düzenli inceleme
4. Sapma izleme: zaman içinde değişimi takip
5. Şikâyet analizi: gelen itirazlarda örüntü arama

İkinci yöntem en pratik olanıdır ve teknik uzmanlık gerektirmez: aynı özgeçmişin farklı adla değerlendirilmesi gibi.

Azaltma önlemleri

• Kritik kararlarda insanın karar verici olması
• Sonuç değil sıralama üretmek ve seçimi insana bırakmak
• Karar gerekçesinin görünür olması
• Değerlendirme kriterlerinin açık yazılması
• Veride temsil dengesinin gözden geçirilmesi
• Düzenli denetim
• İtiraz mekanizması

Genel amaçlı araçlarda önyargı

Kendi sisteminizi kurmasanız bile risk sürer. Genel amaçlı araçlar:

• Kalıplaşmış rol tanımları üretebilir
• Belirli kültürel varsayımlar taşıyabilir
• İş ilanlarında dışlayıcı dil kullanabilir
• Örnek isimlerde tek bir kalıba yönelebilir
• Türkçe içerikte yabancı bağlam varsayabilir

Bu nedenle dışa giden içerikte insan gözden geçirmesi zorunlu tutulmalıdır.

İşe alımda özel dikkat

Bu alan hem etik hem hukuki açıdan en hassas olanıdır:

• Otomatik eleme yapmayın; sıralama ve destek düzeyinde kalın.
• Kriterleri açıkça tanımlayın.
• Karar gerekçesini kayıt altına alın.
• Aday itirazına yol açın.
• Sonuçları grup bazında düzenli inceleyin.
• Adayları bilgilendirin.

Belgeleme

Denetlenebilirlik için kaydedilmesi gerekenler:

• Hangi kararlarda kullanıldığı
• Hangi kriterlerin kullanıldığı
• Yapılan kontroller ve sonuçları
• Tespit edilen sorunlar ve alınan önlemler
• İnsan müdahalesi kayıtları

Özet

Önyargı, geçmiş kararlarınızı "doğru" kabul eden veriden doğar. Hassas alanı çıkarmak yetmez; posta kodu, okul ve mezuniyet yılı gibi dolaylı göstergeler aynı ayrımı üretir. Kritik kararlarda insanı karar verici tutun, aynı girdinin tek değişkenini değiştirerek test edin ve sonuçları grup bazında düzenli inceleyin.