Yapay Zekâda Sorumluluk ve Hesap Verebilirlik

Bir yapay zekâ çıktısı yanlış bir sonuca yol açtığında ilk soru şu olur: kim sorumlu?

Kurumsal açıdan cevap nettir: sorumluluk şirkettedir. "Sistem böyle üretti" ifadesi ne müşteri ne denetim karşısında geçerli bir savunmadır.

Sorumluluk katmanları

Tedarikçi sorumluluğu genelde sınırlıdır: çoğu hizmet sözleşmesi çıktının doğruluğunu garanti etmez. Bu yüzden iç kontrol katmanları kritiktir.

Sorumluluğu netleştirmek

Her kullanım senaryosu için şunlar yazılı olmalı:

• Kim kullanıyor?
• Çıktıyı kim doğruluyor?
• Kim onaylıyor?
• Hata durumunda kim müdahale ediyor?
• Süreç sahibi kim?

Bu beş soru cevapsızsa, bir sorun yaşandığında sorumluluk kimsede olmaz — ki bu en kötü durumdur.

Kayıt tutma: hesap verebilirliğin temeli

Sorunun sonradan incelenebilmesi için kayıt gerekir:

• Hangi araç kullanıldı
• Hangi girdi verildi
• Ne çıktı üretildi
• Kim doğruladı/onayladı
• Ne zaman
• Nihai çıktı ne oldu

Yüksek riskli süreçlerde bu kayıt zorunlu olmalıdır. Kayıt yoksa ne öğrenme ne savunma mümkündür.

Sözleşmesel koruma

Tedarikçi sözleşmesinde aranacaklar:

1. Verinin model eğitiminde kullanılmayacağı taahhüdü
2. Veri konumu ve saklama süresi
3. Gizlilik ve veri işleyen yükümlülükleri
4. Hizmet seviyesi taahhüdü
5. Güvenlik olayı bildirim yükümlülüğü
6. Fikri mülkiyet ve çıktı sahipliği
7. Sorumluluk sınırları
8. Sözleşme sonunda veri teslimi ve silinmesi
9. Alt yüklenici kullanımı
10. Denetim hakkı

Altıncı madde ticari açıdan önemlidir: ürettiğiniz içeriğin kime ait olduğu ve nasıl kullanılabileceği net olmalıdır.

Müşteriye karşı sorumluluk

• Müşteriye giden içerikten şirket sorumludur.
• Hizmet sözleşmelerinizdeki taahhütler geçerliliğini korur.
• Gizlilik yükümlülükleriniz yapay zekâ kullanımıyla ortadan kalkmaz.
• Müşteri verisini üçüncü taraf araçlara vermek, sözleşme ihlali olabilir.

Son madde sıklıkla gözden kaçar: müşterinizle imzaladığınız gizlilik sözleşmesi, o veriyi bir yapay zekâ hizmetine girmenizi de kapsıyor olabilir.

Çalışan sorumluluğu

Çalışana açıkça anlatılması gerekenler:

• Çıktının sorumluluğu kullanan kişidedir.
• Doğrulama yükümlülüğü vardır.
• Kural ihlali disiplin konusudur.
• Şüphede kalınca sormak beklenir.

Ancak bu sorumluluk, şirketin gerekli araç, eğitim ve kuralı sağlamış olmasını gerektirir. Eğitimsiz ve kuralsız bırakılan çalışana sorumluluk yüklemek adil değildir.

Hesap verebilirlik yapısı

• Süreç sahibi: her kullanım senaryosunun bir sahibi olmalı.
• Karar kaydı: önemli kararlar gerekçesiyle kaydedilmeli.
• Olay yönetimi: hatalar kaydedilmeli ve incelenmeli.
• Düzenli raporlama: yönetim durumu görebilmeli.
• Bağımsız gözden geçirme: dönemsel iç denetim.

Olay sonrası yaklaşım

Bir hata yaşandığında:

1. Etkiyi tespit edin ve sınırlayın.
2. Etkilenen tarafları bilgilendirin.
3. Kök nedeni analiz edin (kişiyi değil süreci).
4. Kontrolü güçlendirin.
5. Öğrenilenleri paylaşın.
6. Kaydedin.

Üçüncü madde kültürel olarak belirleyicidir: hataları kişiselleştiren bir yaklaşım, hataların gizlenmesine yol açar ve riski büyütür.

Özet

Yapay zekâ çıktısından şirket sorumludur; "sistem böyle yaptı" savunma değildir. Her kullanım senaryosu için kullanan, doğrulayan, onaylayan ve süreç sahibini yazılı tanımlayın. Yüksek riskli süreçlerde kayıt tutun, sözleşmelerde veri ve sorumluluk maddelerini netleştirin ve hataları kişiselleştirmeden süreç üzerinden ele alın.