Det nya ramverket kommer att revolutionera AI-modeller.
- Ramverket gör det möjligt att ha obegränsad kontextlängd.
- En obegränsad kontextlängd innebär en mer personlig konversation med AI-modeller.
- Det är i princip nästa steg för AI i att helt bli nära människa.
Microsoft har legat i framkanten av AI-utbildning och AI-verktyg i allmänhet. Copilot kommer till Windows 11 mycket snart, som en del av Windows-uppdateringar. AI är på väg in i Microsoft Teams, med en intelligent sammanfattning som hjälper människor att arbeta lättare.
Bing är också ett av de mest spännande AI-verktygen som finns, och dess funktioner gör att du kan optimera både ditt arbete och hur du navigerar på Internet.
Men tidigare i veckan avslöjade Microsoft också det Orca 13B kommer snart att bli öppen källkod. Orca 13B är en liten AI-modell som presterar i samma kvalitet och hastighet som de andra AI-modellerna, som ChatGPT.
Nu, i kampen om AI och AI-forskning, kommer Microsoft med LongMem, en hypotetisk ram och AI-språkmodell.
Enligt denna Reddit-tråd, LongMem tillåter obegränsad kontextlängd vid en reducerad GPU och CPU-minneanvändning. Alla dessa görs i en snabbare hastighet.
Microsoft Research föreslår ett nytt ramverk, LongMem, som möjliggör obegränsad kontextlängd tillsammans med minskad GPU-minneanvändning och snabbare slutledningshastighet. Koden kommer att vara öppen källkod
förbi u/llamaShill i LocalLLaMA
Är LongMem Microsofts svar för obegränsad kontextlängd?
Jo, för att förstå vad det innebär att ha en obegränsad kontextlängd måste vi först förstå vad kontextlängd betyder?
Kontextlängd hänvisar till antalet tokens (ord, tecken, etc) som tillåts av en modell, dess inmatning och utdata, och även din.
Till exempel har ChatGPT ett begränsat antal tokens vilket innebär att dess kontextlängd också är begränsad. Så fort ChatGPT passerar den gränsen kommer all den kontinuerliga interaktion som du hade med den fram till den punkten att förlora all betydelse. Eller bättre sagt, det kommer att återställas.
Så om du startar en konversation med ChatGPT om ämnet Windows, och den konversationen varar mer än det begränsade sammanhanget längd, då förlorar AI-verktyget sammanhanget och börjar antingen avvika från ämnet, eller så kommer hela konversationen återställa.
En obegränsad kontextlängd kommer att se till att det inte händer, och AI-modellen kommer att fortsätta att svara dig i ämnet, samtidigt som du lär dig och anpassar information när du pratar med den om Windows.
Det betyder att AI-modellen också kommer att personifiera konversationen enligt din input, därav behovet av att sammanhanget har en obegränsad längd.
Hur fungerar LongMem?
Microsoft lovar just det med sin nya forskning om ramverket, LongMem. LongMem skulle göra det möjligt för stora språkmodeller att memorera långsiktiga sammanhang och använda långtidsminne med reducerad CPU-effekt.
Ramverket består av en frusen stor språkmodell som minneskodare, ett kvarvarande sidonätverk som minnesinhämtare och läsare, och en cachad minnesbank som lagrar nyckel-värdepar från tidigare sammanhang.
I forskningen gjord av Microsoft visar experiment att LongMem överträffar baslinjerna för språkmodellering av långa texter, förståelse av långa sammanhang och minnesförstärkta inlärningsuppgifter i sammanhanget. Dessutom gör långtidsminnet det möjligt att använda fler demonstrationsexempel för bättre inlärning.
Och den goda nyheten är att LongMem kommer att vara öppen källkod. Så du kommer att kunna studera det och lära dig hur du implementerar ramverket i din egen AI-modell. Du kan kolla dess GitHub-profil här.
Och om du är intresserad av att läsa hela forskningsartikeln om ramverket, gå hit och kolla upp det.
Vad tycker du om detta nya tekniska genombrott? Kommer det att revolutionera hur AI-modeller fungerar? Var noga med att meddela oss dina tankar och åsikter nedan.
