Üretimde AI Nasıl Güvenilir Çalışır? Yetki, Onay, Log ve Fallback
AI özelliğini demodan üretime taşırken guardrail, insan onayı, değerlendirme, log ve fallback tasarımını birlikte kurma rehberi.
Güncellendi: 9 Ağustos 2026
İlk guardrail: AI neyi yapamaz?
İyi bir üretim tasarımı, modele verilen görevden önce yetki sınırını tanımlar. Kişisel veri, finansal işlem, silme, iade, fiyat değişikliği veya dışarıya mesaj gönderme gibi aksiyonlar ayrı risk seviyelerine ayrılır.
Modelin yalnızca ihtiyacı olan veriyi görmesi, araçların allowlist ile sınırlandırılması ve kritik işlemlerin doğrudan çalıştırılmak yerine onaya gitmesi gerekir. Prompt'a güvenmek, tek başına güvenlik politikası değildir.
İnsan onayı akışı yavaşlatmak zorunda değil
Onay her adımda değil, riskin yükseldiği noktada kullanılabilir. AI destek talebini özetler, ilgili müşteriyi bulur ve bir yanıt önerir; temsilci yalnızca gönderme kararını verir. Düşük riskli sınıflandırma otomatik çalışırken, yüksek etkili aksiyonlar beklemeye alınır.
Onay ekranında modelin kullandığı kaynak, önerdiği işlem ve olası etkisi anlaşılır biçimde gösterilmelidir. Böylece insan yalnızca "evet" butonuna basmaz; kararı hızlıca denetler.
Log ve değerlendirme olmadan kalite ölçülmez
Bir AI akışında giriş, kullanılan kaynaklar, seçilen araçlar, model çıktısı, insan düzeltmesi ve sonucun kaydı tutulmalıdır. Hassas veriler için maskeleme ve saklama süresi ayrıca belirlenir.
Değerlendirme seti; gerçek hayattaki zor örnekleri, reddedilmesi gereken istekleri ve beklenmeyen girdileri içermelidir. Başarı; yalnızca yanıt doğruluğu değil, yanlış aksiyon, bekleme süresi, maliyet ve insan düzeltme oranı ile birlikte izlenir.
Fallback, başarısızlık anındaki üründür
Model yanıt veremediğinde sistemin ne yapacağı önceden belli olmalıdır. Daha dar bir akışa dönmek, işlemi durdurup insana aktarmak, güvenli bir varsayılan yanıt vermek veya tekrar denemek seçeneklerden bazılarıdır.
Fallback mesajı kullanıcıya belirsiz bir hata bırakmamalı; hangi noktada kalındığını ve sonraki adımı anlatmalıdır. Üretimde güven, modelin hiç hata yapmamasından değil, hatanın kontrollü karşılanmasından doğar.
Sık sorulan sorular
Üretimde AI için en önemli güvenlik katmanı nedir?
Tek bir katman yoktur. Yetki sınırı, araç izinleri, insan onayı, log, değerlendirme ve fallback birlikte tasarlanmalıdır.
AI her zaman insan onayı beklemeli mi?
Hayır. Düşük riskli ve geri alınabilir adımlar otomatik yürüyebilir. Finans, silme, dış iletişim veya müşteri etkisi yüksek adımlar onaya bağlanmalıdır.
AI kalite değerlendirmesi nasıl yapılır?
Temsili gerçek örnekler, zor girdiler ve reddedilmesi gereken isteklerden oluşan bir test seti hazırlanır. Doğruluk yanında maliyet, gecikme ve insan düzeltmesi izlenir.