Uzun Bağlam Büyüdükçe RAG Gerçekten Gereksizleşiyor Mu?

Bu hafta AI tarafında dikkatimi çeken şey, yeni model demolarında “daha akıllı cevap” kadar “daha fazla dokümanı tek seferde yutma” iddiasının öne çıkması. Uzun context pencereleri büyüdükçe bazı ekiplerde şu refleksi görmeye başladım: embedding, chunking, retrieval uğraşmadan her şeyi prompt’a atalım. Somut örnek: 300 sayfalık bir teknik dokümanı tek seferde modele vermek gerçekten hızlı prototip için harika. Ama aynı işi müşteri destek arşivi, sürekli güncellenen mevzuat ya da versiyonlu ürün dokümanlarında yapınca; maliyet, güncellik, kaynak gösterme ve erişim kontrolü tekrar masaya geliyor. Bana göre RAG ölmüyor, ama “varsayılan mimari” olmaktan çıkıp daha seçici kullanılan bir katmana dönüşebilir. Belki küçük veri için uzun bağlam, büyük ve değişken veri için RAG daha mantıklı olacak. Sizce uzun context modelleri RAG ihtiyacını gerçekten azaltıyor mu, yoksa sadece kötü tasarlanmış RAG sistemlerini mi görünür hale getiriyor?