Guardian Angels: Kişiselleştirilmiş asistan için bir araştırma önerisi
Gwern’in önerisi, kullanıcı tercihlerini öğrenen kişisel ajanları tartışıyor. Hazır ürün veya kanıtlanmış güvenlik sistemi olarak değerlendirilmemeli.
Gwern’in Guardian Angels yazısı, kullanıcının tercihlerini ve değerlerini öğrenen kişisel dil modeli ajanları için bir öneri sunuyor. Kullanıcının hangi işlerin önemli olduğuna karar vermesi, ajanların bu bağlamla çalışması ve sürekli değerlendirme temel fikirler arasında.
Bu, kurulup güvenliği doğrulanmış tek bir ürünün tanıtımı değildir. Yazının kişiselleştirme yaklaşımı ile AI Lab Türkiye’nin aşağıdaki dar pilot önerisi farklı kapsamlardadır.
Editoryal pilot önerisi: Kullanıcının seçtiği birkaç örnek belge üzerinde, dışarıya mesaj göndermeyen ve kayıt değiştirmeyen bir öneri akışı denenebilir. Kullanıcı, öneriyi ve dayanağını birlikte görür; kabul veya ret gerekçesini kaydeder. Yalnız okuma yetkisi veri sızıntısını kendiliğinden önlemez. Bu pilot uygulanmadı; güvenlik ve yarar ölçümü ayrıca yapılmalıdır. Ticari asistanlar arasında doğrulanmamış özellik üstünlüğü iddiası kullanılmıyor.
Kaynaklar:
https://gwern.net/guardian-angel
Kaynak: https://gwern.net/guardian-angel
İlgili içerikler
AI İle İş Akışlarınızı Otomatikleştirin: Günlük Hayattan Uygulamalar
Yapay zeka, iş süreçlerinizi nasıl dönüştürüyor? Günlük hayattan somut AI otomasyon örnekleriyle tanışın ve potansiyelini keşfedin.
Retrace: AI Hatalarını Tespit Eden Gizli Kahramanınız
Yapay zeka uygulamalarınızdaki hataları otomatik olarak tespit edip düzelten Retrace ile tanışın. Geliştiriciler için zamandan tasarruf sağlayan bu aracı keşfedin.
Sıfır Bilgi İspatı: Yaş Doğrulama Ve Gizlilikte Yeni Dönem
Google'ın sıfır bilgi ispatı teknolojisini yaş doğrulama alanında kullanıma açması, gizlilik endişelerine yenilikçi bir çözüm sunuyor. Bu teknoloji, kişisel verileri paylaşmadan kimlik doğrulamanın kapısını aralıyor.