Yeni çerçeve, AI modellerinde devrim yaratacak.
- Çerçeve, sınırsız bağlam uzunluğuna sahip olmayı mümkün kılar.
- Sınırsız bağlam uzunluğu, yapay zeka modelleriyle daha kişiselleştirilmiş bir görüşme anlamına gelir.
- Temel olarak yapay zekanın tamamen insana yakınlaşmasındaki bir sonraki adımdır.
Microsoft, genel olarak yapay zeka eğitiminin ve yapay zeka araçlarının ön saflarında yer almıştır. Copilot çok yakında Windows 11'e geliyor, Windows güncellemelerinin bir parçası olarak. AI, Microsoft Teams'e doğru ilerliyor. insanların daha kolay çalışmasına yardımcı olan akıllı özet.
Bing aynı zamanda piyasadaki en heyecan verici AI araçlarından biridir.ve özellikleri, hem işinizi hem de İnternet'te gezinme şeklinizi optimize etmenize olanak tanır.
Ancak bu haftanın başlarında, Microsoft bunu da açıkladı Orca 13B yakında açık kaynak olacak. Orca 13B, ChatGPT gibi diğer AI modelleriyle aynı kalite ve hızda çalışan küçük bir AI modelidir.
Şimdi, yapay zekalar ve yapay zeka araştırması savaşında Microsoft, LongMem, varsayımsal bir çerçeve ve AI dil modeli.
Bu Reddit dizisine göre, LongMem, azaltılmış bir GPU'da sınırsız bağlam uzunluğuna ve CPU belleği kullanımına izin verir. Bunların hepsi daha hızlı yapılır.
Microsoft Research, azaltılmış GPU bellek kullanımı ve daha yüksek çıkarım hızı ile birlikte sınırsız bağlam uzunluğuna izin veren yeni çerçeve LongMem'i önerir. Kod açık kaynaklı olacak
ile u/llamaShill içinde YerelLLaMA
LongMem, sınırsız bağlam uzunluğu için Microsoft'un yanıtı mı?
Pekala, sınırsız bir bağlam uzunluğuna sahip olmanın ne anlama geldiğini anlamak için, öncelikle bağlam uzunluğunun ne anlama geldiğini anlamamız gerekir.
Bağlam uzunluğu, bir modelin, onun girdi ve çıktısının ve sizinkinin izin verdiği belirteçlerin (kelimeler, işaretler vb.) sayısını ifade eder.
Örneğin, ChatGPT'nin sınırlı sayıda belirteci vardır, bu da bağlam uzunluğunun da sınırlı olduğu anlamına gelir. ChatGPT bu sınırı geçer geçmez, o ana kadar onunla olan tüm sürekli etkileşiminiz tüm önemini yitirecektir. Ya da daha iyisi, sıfırlanacak.
Dolayısıyla, ChatGPT ile Windows konusunda bir görüşme başlatıyorsanız ve bu görüşme sınırlı bağlamdan daha uzun sürüyorsa uzunluk, ardından AI aracı bağlamı kaybedecek ve konudan sapmaya başlayacak veya tüm konuşma Sıfırla.
Sınırsız bir bağlam uzunluğu, bunun olmayacağını garanti edecek ve AI modeli, siz onunla Windows hakkında konuşurken bilgileri öğrenip uyarlarken aynı zamanda konuyla ilgili size yanıt vermeye devam edecek.
Bu, AI modelinin aynı zamanda görüşmeyi girdilerinize göre kişiselleştireceği anlamına gelir, bu nedenle bağlamın sınırsız uzunluğa sahip olması gerekir.
LongMem nasıl çalışır?
Microsoft, çerçeve üzerindeki yeni araştırması LongMem ile tam da bunu vaat ediyor. LongMem, büyük dil modellerinin uzun vadeli bağlamları ezberlemesini ve azaltılmış CPU gücünde uzun vadeli belleği kullanmasını sağlar.
Çerçeve, bellek kodlayıcı olarak donmuş bir büyük dil modelinden, artık bir yan ağdan oluşur. bellek alıcısı ve okuyucusu ve geçmişten anahtar/değer çiftlerini depolayan önbelleğe alınmış bir bellek bankası olarak bağlamlar.
Microsoft tarafından yapılan araştırmada, deneyler LongMem'in uzun metin dil modelleme, uzun bağlam anlama ve bellekle artırılmış bağlam içi öğrenme görevlerinde temel çizgileri geride bıraktığını gösteriyor. Ayrıca, uzun süreli bellek, daha iyi öğrenme için daha fazla örnek uygulama kullanmasına olanak tanır.
Ve iyi haber şu ki, LongMem açık kaynaklı olacak. Böylece onu inceleyebilecek ve çerçeveyi kendi AI modelinizde nasıl uygulayacağınızı öğrenebileceksiniz. Kontrol edebilirsin GitHub profili burada.
Çerçeveyle ilgili tüm araştırma makalesini okumakla ilgileniyorsanız, buraya git ve kontrol et.
Bu yeni teknolojik atılım hakkında ne düşünüyorsunuz? AI modellerinin çalışma biçiminde devrim yaratacak mı? Aşağıda düşüncelerinizi ve görüşlerinizi bize bildirdiğinizden emin olun.
