Kurumsal Yapay Zekâ Ajanları Nasıl Kullanılır?

Yapay zekâ ajanları, tek bir soruya cevap vermek yerine çok adımlı görevleri yürütebilen yapılardır: bilgi arar, sistemlerle konuşur, işlem yapar, sonucu raporlar.

Kurumsal açıdan bu güçlü bir imkândır — ve aynı oranda dikkatli tasarım gerektirir. Çünkü artık sistem yalnız metin üretmiyor, işlem yapıyor.

Ajan ne yapar?

• Görevi alt adımlara böler
• Gerekli bilgiyi toplar
• Sistemlerle etkileşime girer
• Ara sonuçları değerlendirir
• Gerekirse yaklaşımını değiştirir
• Sonucu raporlar

Kurumsal kullanım örnekleri

Son satır bir sınırdır: geri dönüşü olmayan mali işlemler ajanlara bırakılmamalıdır.

Yetki tasarımı: en kritik konu

Ajana verilen her yetki, bir risk alanıdır. Tasarım ilkeleri:

• En az yetki: yalnız görevi için gerekli erişim.
• Okuma-yazma ayrımı: mümkünse yalnız okuma yetkisi.
• İşlem sınırı: tutar, adet ve kapsam sınırı.
• Onay kapısı: belirli eşiklerin üstü insana gitsin.
• Geri alınabilirlik: yapılan işlem geri alınabilmeli.
• Kayıt: her adım kaydedilmeli.

İkinci madde başlangıç için en güvenlisidir: bilgi toplayan ve öneri üreten, ama işlem yapmayan bir ajanla başlayın.

Kademeli yetkilendirme

1. Yalnız okuma: bilgi toplar, rapor üretir.
2. Öneri: ne yapılması gerektiğini önerir, insan uygular.
3. Onaylı işlem: işlem hazırlar, insan onaylar.
4. Sınırlı otomatik: belirli eşik altında kendisi yapar.
5. Otomatik: istisnalar hariç.

Her seviyeye geçmeden önce bir önceki seviyede güven oluşmalıdır.

Denetim ve izlenebilirlik

Ajanlar çok adımlı çalıştığı için ne yaptığının izlenebilmesi kritiktir:

• Hangi adımları attı?
• Hangi sistemlere eriştiği?
• Hangi verileri okudu?
• Hangi işlemleri yaptı?
• Hangi kararı neden verdi?
• Ne kadar sürdü, ne kadar maliyet üretti?

Bu kayıt olmadan bir hata oluştuğunda kök nedeni bulmak imkânsızdır.

Sınır ve durdurma

• Adım sınırı: belirli adım sayısını aşarsa dursun (sonsuz döngü riski).
• Süre sınırı: uzun süren görevler kesilsin.
• Maliyet sınırı: harcama eşiği aşılırsa dursun.
• Acil durdurma: insan her an durdurabilmeli.
• Kapsam sınırı: tanımlı görev dışına çıkamamalı.

Üçüncü madde pratik bir gerekliliktir: kontrolsüz çalışan bir ajan, beklenmedik maliyet üretebilir.

Ajan uygun olmayan işler

• Geri dönüşü olmayan mali işlemler
• Kişi hakkında kararlar
• Hukuki bağlayıcılık üreten işlemler
• Kamuya açık paylaşımlar
• Güvenlik ve erişim yetkisi değişiklikleri
• Veri silme işlemleri
• Müşteriyle hassas iletişim

Test etme

Ajanları üretime almadan önce:

• Test ortamında çalıştırın.
• Beklenmedik girdilerle deneyin.
• Hata durumlarını test edin (sistem cevap vermezse ne yapıyor?).
• Sınırların çalıştığını doğrulayın.
• Durdurma mekanizmasını test edin.
• Maliyet davranışını ölçün.

Üçüncü madde önemlidir: bağlı olduğu bir sistem cevap vermediğinde ajanın ne yaptığı, üretimde öğrenilmemelidir.

Başlangıç önerisi

1. Düşük riskli, okuma ağırlıklı bir görevle başlayın (rapor derleme, araştırma özeti).
2. Tüm adımları kayıt altına alın.
3. Çıktıları insan kontrol etsin.
4. Bir ay izleyin.
5. Güven oluştuysa yetki seviyesini bir adım artırın.

Ölçüm

• Görev tamamlama oranı
• İnsan müdahalesi oranı
• Hata ve düzeltme sayısı
• Görev başına süre ve maliyet
• Kesintiye uğrayan görev sayısı
• Sınır ihlali denemeleri

Özet

Ajanlar çok adımlı işleri yürütebilir ama işlem yapma yetkisi risk üretir. En az yetki ilkesiyle ve yalnız okuma seviyesinden başlayın; kademeli yetkilendirin. Adım, süre ve maliyet sınırları koyun, acil durdurma bırakın ve her adımı kaydedin. Geri dönüşü olmayan işlemleri ajanlara bırakmayın.