Det nye rammeverket vil revolusjonere AI-modeller.
- Rammeverket gjør det mulig å ha ubegrenset kontekstlengde.
- En ubegrenset kontekstlengde betyr en mer personlig samtale med AI-modeller.
- Det er i bunn og grunn det neste trinnet for AI i å fullt ut bli nær menneskelig.
Microsoft har vært i forkant av AI-utdanning og AI-verktøy generelt. Copilot kommer til Windows 11 veldig snart, som en del av Windows-oppdateringer. AI er på vei inn i Microsoft Teams, med en intelligent oppsummering som hjelper folk å jobbe enklere.
Bing er også et av de mest spennende AI-verktøyene som finnes, og funksjonene lar deg optimalisere både arbeidet ditt og måten du navigerer på Internett på.
Men tidligere denne uken avduket også Microsoft det Orca 13B vil snart bli åpen kildekode. Orca 13B er en liten AI-modell som yter med samme kvalitet og hastighet som de andre AI-modellene, som ChatGPT.
Nå, i kampen om AI-er og AI-forskning, kommer Microsoft med LongMem, et hypotetisk rammeverk og AI-språkmodell.
I følge denne Reddit-tråden
, LongMem gir ubegrenset kontekstlengde med redusert GPU og CPU-minnebruk. Alle disse gjøres i en høyere hastighet.Microsoft Research foreslår nytt rammeverk, LongMem, som tillater ubegrenset kontekstlengde sammen med redusert GPU-minnebruk og raskere slutningshastighet. Koden vil være åpen kildekode
av u/llamaShill i LocalLLaMA
Er LongMem Microsofts svar for ubegrenset kontekstlengde?
Vel, for å forstå hva det vil si å ha en ubegrenset kontekstlengde, må vi først forstå hva kontekstlengde betyr?
Kontekstlengde refererer til antall tokens (ord, tegn osv.) som er tillatt av en modell, dens input og output, og din også.
ChatGPT har for eksempel et begrenset antall tokens, noe som betyr at kontekstlengden også er begrenset. Så snart ChatGPT passerer den grensen, vil all den kontinuerlige interaksjonen du hadde med den frem til det punktet, miste all betydning. Eller bedre sagt, den vil nullstilles.
Så hvis du starter en samtale med ChatGPT om emnet Windows, og den samtalen varer mer enn den begrensede konteksten lengde, så vil AI-verktøyet miste konteksten, og vil enten begynne å avvike fra emnet, eller hele samtalen vil nullstille.
En ubegrenset kontekstlengde vil sørge for at det ikke skjer, og AI-modellen vil fortsette å svare deg på emnet, samtidig som du lærer og tilpasser informasjon mens du snakker med den om Windows.
Det betyr at AI-modellen også vil tilpasse samtalen i henhold til dine innspill, derav behovet for at konteksten skal ha en ubegrenset lengde.
Hvordan fungerer LongMem?
Microsoft lover nettopp det med deres nye forskning på rammeverket, LongMem. LongMem vil gjøre det mulig for store språkmodeller å huske langsiktige kontekster og bruke langtidsminne med redusert CPU-kraft.
Rammeverket består av en frossen stor språkmodell som minnekoderen, et gjenværende sidenettverk som minnegjenvinner og -leser, og en bufret minnebank som lagrer nøkkelverdi-par fra tidligere sammenhenger.
I forskningen utført av Microsoft, viser eksperimenter at LongMem overgår grunnlinjene for langtekstspråkmodellering, langkontekstforståelse og hukommelsesforsterkede læringsoppgaver i kontekst. I tillegg gjør langtidshukommelsen det mulig å bruke flere demonstrasjonseksempler for bedre læring.
Og den gode nyheten er at LongMem vil være åpen kildekode. Så du vil kunne studere det og lære hvordan du implementerer rammeverket i din egen AI-modell. Du kan sjekke sin GitHub-profil her.
Og hvis du er interessert i å lese hele forskningsartikkelen om rammeverket, gå hit og sjekk det ut.
Hva synes du om dette nye teknologiske gjennombruddet? Vil det revolusjonere måten AI-modeller fungerer på? Sørg for å fortelle oss dine tanker og meninger nedenfor.
