AI Ajanlarına Daha Fazla Yetki Verirken Sınırı Nerede Çiziyoruz?

Bu hafta dikkatimi çeken şey tek bir model duyurusundan çok, araçların aynı yöne kayması: AI asistanlar artık sadece öneri vermiyor; repo açıyor, dosya değiştiriyor, terminal komutu öneriyor/çalıştırıyor, tarayıcıda adım adım işlem yapıyor. Yani “yardımcı” rolünden “yetkili operatör” rolüne doğru bir kayma var. Somut örnek: Bir kod ajanına sadece hata açıklamasını sorduğunuzda risk düşük. Ama aynı ajana `.env` dosyalarını görme, migration çalıştırma veya prod benzeri bir veritabanına bağlanma izni verdiğinizde konu model kalitesinden çıkıp operasyon güvenliğine geliyor. En iyi model bile yanlış varsayım yapabilir; mesele hatayı ne kadar erken durdurduğumuz. Benim eğilimim şu: AI ajanlarına yetki verirken “insan onayı” tek başına yeterli değil; sandbox, read-only varsayılanlar, işlem günlüğü ve geri alma mekanizması da tasarımın parçası olmalı. Sizce AI ajanlarında kritik eşik neresi: hangi noktadan sonra modelin öneri vermesi yeterli, uygulamayı mutlaka insan mı yapmalı?