Her karar otomatikleştirilemez. İnsan onayının zorunlu olduğu alanları ve denetim seviyelerini anlatıyoruz.
Otomasyonun cazibesi, insan müdahalesini azaltmaktır. Ancak bazı kararlarda insan onayını kaldırmak yalnız riskli değil, bazı durumlarda hukuka da aykırıdır.
Doğru tasarım, "otomatikleştir ya da etme" ikilemi değil, doğru denetim seviyesini seçmektir.
Denetim seviyeleri
| Seviye | Tanım | Uygun olduğu yer |
|---|---|---|
| Tam otomatik | İnsan yok | Düşük riskli, geri alınabilir işlemler |
| İnsan izlemede | Sistem yapar, insan sonradan denetler | Yüksek hacimli, orta riskli |
| İnsan onayında | Sistem önerir, insan onaylar | Müşteriye dokunan, mali etkili |
| İnsan kararında | Sistem bilgi verir, insan karar verir | Kişi hakkında karar, kritik konular |
| Kullanılmaz | Yapay zekâ devrede değil | Yasal olarak insan kararı zorunlu alanlar |
İnsan onayı zorunlu olması gerekenler
1. Kişi hakkında kararlar
- İşe alım ve işten çıkarma
- Performans değerlendirme
- Terfi ve ücret kararları
- Disiplin süreçleri
Bu alanlarda otomatik karar hem hukuki risk hem ciddi adalet sorunu üretir. Sistem en fazla bilgi derleyebilir; kararı insan verir.
2. Müşteriye dokunan kararlar
- Sözleşme feshi
- Hizmet kısıtlama
- Kredi/limit kararları
- Şikâyet sonuçlandırma
- Fiyat ve indirim taahhüdü
3. Mali işlemler
- Ödeme onayı
- Fiyat değişikliği
- İndirim ve iskonto
- Bütçe aşımı
4. Hukuki bağlayıcılık
- Sözleşme metni ve maddeleri
- Resmî yazışma
- Taahhüt içeren beyanlar
- Mevzuat yorumu
5. Güvenlik ve sağlık
- İş güvenliği kararları
- Ürün güvenliği
- Acil durum yönetimi
6. Geri dönüşü olmayan işlemler
- Veri silme
- Kalıcı hesap kapatma
- Üretim durdurma
- Kamuya açık yayın
Karar sınıflandırma yöntemi
Her kararı üç soruyla değerlendirin:
- Geri alınabilir mi? Alınamıyorsa insan onayı gerekir.
- Kimi etkiliyor? Kişiyi etkiliyorsa insan kararı gerekir.
- Hata maliyeti ne? Yüksekse denetim seviyesi yükselir.
| Geri alınabilir? | Etki | Öneri |
|---|---|---|
| Evet | Düşük | Tam otomatik olabilir |
| Evet | Orta | İnsan izlemede |
| Hayır | Düşük | İnsan onayında |
| Hayır | Yüksek | İnsan kararında |
| Herhangi | Kişi hakkında | İnsan kararında |
Anlamlı insan denetimi
Onay adımı koymak yetmez; anlamlı olması gerekir. Onaylayan kişi:
- Kararı anlayacak bilgiye sahip olmalı
- Değiştirme ve reddetme yetkisine sahip olmalı
- Gerçekten inceleyecek zamanı olmalı
- Gerekçeyi görebilmeli
- Reddetme sonucunda olumsuz etkilenmemeli
Üçüncü madde en sık ihlal edilenidir: günde yüzlerce öneriyi onaylaması beklenen kişi, gerçekte incelemeden onaylar. Bu, denetim değil formalitedir.
Sözde denetim tuzağı
Şu durumlarda insan denetimi yalnız kâğıt üzerindedir:
- Onay sayısı incelenemeyecek kadar fazla
- Onaylayan kişi konuyu bilmiyor
- Reddetme pratikte mümkün değil
- Gerekçe görünmüyor
- Onay tek tıkla, toplu yapılıyor
Bu tasarım, sorumluluğu insana yükler ama gerçek koruma sağlamaz — hem riskli hem etik olarak sorunludur.
Denetimi uygulanabilir kılma
- Onay sayısını azaltın: yalnız eşik üstü ve şüpheli durumlar insana gelsin.
- Gerekçe ve güven seviyesi gösterilsin.
- Şüpheli olanlar öne çıkarılsın.
- Toplu onay yerine öncelikli kuyruk kullanın.
- Onaylayana yeterli zaman tanıyın.
- Rastgele denetimle onay kalitesini ölçün.
Birinci madde en etkili tasarımdır: her şeyi insana göstermek yerine, sistemin emin olmadıklarını göstermek.
Kayıt tutma
Denetimli süreçlerde kaydedilmesi gerekenler:
- Sistemin önerisi
- İnsanın kararı
- Farklıysa gerekçe
- Karar veren kişi ve zaman
Bu kayıt hem denetim hem iyileştirme sağlar: insanın sık düzelttiği alanlar, sistemin zayıf olduğu alanlardır.
Özet
Kararları geri alınabilirlik, etkilenen taraf ve hata maliyetine göre sınıflandırıp denetim seviyesini seçin. Kişi hakkındaki kararlarda insan kararı zorunludur. Denetimin anlamlı olması için onay sayısını azaltın, gerekçe gösterin ve onaylayana gerçekten inceleyecek zaman tanıyın — aksi hâlde denetim formaliteye dönüşür.
Yorumlar (0)
Henüz yorum yok — ilk yorumu siz yazın.
Yorum yaz