Facebook araştırmacıları, verilere bir son kullanma tarihi vererek gelecekteki AI’ların daha fazla dikkat etmesine yardımcı olmayı planlıyor.
Program, Expire-Span olarak adlandırılır ve sinir ağlarının kendilerine verilen görevlere en uygun bilgileri daha verimli bir şekilde sıralayıp depolamasına yardımcı olmak için tasarlanmıştır. FAIR’daki araştırmacı bilim adamları Angela Fan ve Sainbayar Sukhbaatar Cuma günkü blog yazısında açıkladılar. Expire-Span, önce verilen bağlamda hangi bilgilerin ağ için en yararlı olacağını tahmin ederek ve ardından bu veri parçasına bir son kullanma tarihi atayarak çalışır. Expire-Span bir bilginin ne kadar önemli olduğunu düşünürse, o kadar uzağa son kullanma tarihini atar. Böylelikle sinir ağları, ilgisiz veri noktalarını “unutarak” bellek alanını sürekli olarak temizlerken ilgili bilgileri daha uzun süre saklayabilecektir. Her yeni veri parçası eklendiğinde, sistem yalnızca göreli önemini değil, aynı zamanda onunla ilgili mevcut veri noktalarının önemini de yeniden değerlendirecektir. Bu aynı zamanda yapay zekanın mevcut belleği daha etkili bir şekilde kullanmayı öğrenmesine yardımcı olacak ve bu da daha iyi ölçeklenebilirliğe yol açacaktır.
Yapay zekanın kodunu oluşturan 1’ler ve 0’lar gibi, sistem de bir bilgi parçasını hatırlayabilir veya hatırlamayabilir. Bu tür bir ikili sistem için optimizasyon yapmak zordur. Fan ve Sukhbaatar’a göre, bu zorluğun üstesinden gelmek için önceki girişimler, bellekte daha az yer kaplayacak şekilde daha az kullanışlı verileri sıkıştırmayı içeriyordu, ancak bu çabalar, sıkıştırma işlemi bilginin “bulanık sürümlerine” neden olduğu için kısa çıktı.
Uzmanlar, “Expire-Span, her gizli durum için bilginin sona erme değerini hesaplar, her yeni bilgi parçası sunulduğunda ve bu bilginin bir bellek olarak ne kadar süreyle korunacağını belirler,” diye açıkladılar. “Bazı bilgilerin bu kademeli olarak azalması, önemli bilgileri bulanıklaştırmadan saklamanın anahtarıdır. Ve öğrenilebilir mekanizma, modelin aralık boyutunu gerektiği gibi ayarlamasına izin verir. Expire-Span, verilerden öğrenilen ve çevreleyen belleklerden etkilenen bağlama dayalı bir tahmin hesaplar. “ ifadelerine yer verdiler.
Araştırma ekibi, araştırmanın ilk aşamalarında olmasına rağmen, “Daha insan benzeri yapay zeka sistemlerine yönelik araştırmamızın bir sonraki adımı olarak, farklı anı türlerini sinir ağlarına nasıl dahil edeceğimizi araştırıyoruz” diye yazdı. Ekip, gelecekte insan belleğine daha da yakın bir yaklaşım geliştirmeyi umuyor, ancak yeni bilgileri mevcut teknolojinin izin verdiğinden çok daha hızlı öğrenme yeteneğine sahip.
