Onay noktası nereye konulur?
- Kurum dışına çıkan her çıktı: müşteriye giden mesaj, teklif, resmî yazışma.
- Geri döndürülemez işlemler: kayıt silme, ödeme başlatma, sözleşme tetikleme.
- Bir insan hakkında karar üreten adımlar: aday değerlendirme, performans yorumu, kredi veya hak kararı.
- Yüksek belirsizlik sinyali: sistemin kaynak bulamadığı veya kendi içinde çelişki ürettiği durumlar.
Onay tasarımının kalitesi
Onay noktası, tıklanacak bir düğmeden ibaret değildir. Onaylayan kişinin kararı verebilmesi için neyi görmesi gerektiği tasarlanmalıdır: hangi kaynağa dayanıldığı, hangi varsayımın yapıldığı ve neyin belirsiz kaldığı.
Bu bilgi verilmezse onay mekanizması kısa sürede otomatik tıklamaya dönüşür. Kurum onay adımının maliyetini öder ama korumasını almaz.
Onay yorgunluğunu önlemek
- Riski düşük ve tekrarlayan işlemleri örnekleme yoluyla denetleyin, tek tek değil.
- Sistem emin olmadığında kendisi devretsin; onay isteyen adımlar seçici olsun.
- Onaylayanın düzelttiği noktaları kaydedin; bu kayıt sistemin en değerli iyileştirme verisidir.
- Onay süresini ölçün. Ortalama onay süresi sıfıra yaklaşıyorsa denetim gerçek değildir.
Sorumluluk kimde kalır?
Yapay zekâ çıktısı, kurumun çıktısıdır. Bir hata dışarıya yansıdığında 'sistem üretti' savunması ne hukuken ne itibar açısından karşılık bulur.
Bu nedenle onay mekanizması yalnız bir kalite aracı değil, sorumluluğun nerede durduğunu yazan bir yönetişim kararıdır.