Naujoji sistema pakeis AI modelius.
- Sistema leidžia turėti neribotą konteksto ilgį.
- Neribotas konteksto ilgis reiškia labiau suasmenintą pokalbį su AI modeliais.
- Iš esmės tai yra kitas žingsnis dirbtiniu intelektu, siekiant visiškai priartėti prie žmogaus.
„Microsoft“ yra AI švietimo ir apskritai AI įrankių priešakyje. „Copilot“ netrukus pasirodys „Windows 11“., kaip „Windows“ naujinimų dalis. AI patenka į „Microsoft Teams“ su protinga santrauka, padedanti žmonėms lengviau dirbti.
„Bing“ taip pat yra vienas įdomiausių AI įrankių, o jo funkcijos leidžia optimizuoti savo darbą ir naršymą internete.
Tačiau anksčiau šią savaitę „Microsoft“ taip pat tai paskelbė „Orca 13B“ netrukus taps atvirojo kodo. „Orca 13B“ yra mažas dirbtinio intelekto modelis, kuris veikia tokia pat kokybe ir greičiu, kaip ir kiti AI modeliai, pvz., „ChatGPT“.
Dabar AI ir AI tyrimų mūšyje „Microsoft“ sugalvoja LongMem, hipotetinė sistema ir AI kalbos modelis.
Pagal šią Reddit giją, „LongMem“ leidžia neribotą konteksto ilgį naudojant sumažintą GPU ir procesoriaus atminties naudojimą. Visa tai atliekama didesniu greičiu.
„Microsoft Research“ siūlo naują sistemą „LongMem“, leidžiančią neribotą konteksto ilgį, sumažinti GPU atminties naudojimą ir greitesnį išvadų greitį. Kodas bus atvirojo kodo
pateikė u / lamaShill in VietinisLLaMA
Ar „LongMem“ yra „Microsoft“ atsakymas į neribotą konteksto ilgį?
Na, o norėdami suprasti, ką reiškia turėti neribotą konteksto ilgį, pirmiausia turime suprasti, ką reiškia konteksto ilgis?
Konteksto ilgis reiškia žetonų (žodžių, ženklų ir kt.) skaičių, kurį leidžia modelis, jo įvestis ir išvestis, taip pat jūsų.
Pavyzdžiui, „ChatGPT“ turi ribotą žetonų skaičių, o tai reiškia, kad jo konteksto ilgis taip pat yra ribotas. Kai tik „ChatGPT“ peržengs tą ribą, visa iki tol su juo turėta nuolatinė sąveika praras bet kokią reikšmę. Arba geriau sakant, jis bus nustatytas iš naujo.
Taigi, jei pradedate pokalbį su ChatGPT Windows tema, o pokalbis trunka ilgiau nei ribotas kontekstas ilgio, tada AI įrankis praras kontekstą ir pradės nukrypti nuo temos, arba visas pokalbis atstatyti.
Neribotas konteksto ilgis užtikrins, kad taip neatsitiks, o AI modelis ir toliau atsakys jums šia tema, taip pat mokysis ir pritaikys informaciją, kai su juo kalbate apie „Windows“.
Tai reiškia, kad AI modelis taip pat suasmenins pokalbį pagal jūsų įvestį, todėl kontekstas turi būti neribotas.
Kaip veikia LongMem?
„Microsoft“ tik tai žada atlikdama naują sistemos tyrimą „LongMem“. „LongMem“ leistų dideliems kalbų modeliams įsiminti ilgalaikius kontekstus ir panaudoti ilgalaikę atmintį esant sumažintai procesoriaus galiai.
Sistemą sudaro užšaldytas didelės kalbos modelis, kaip atminties kodavimo priemonė, liekamasis šalutinis tinklas kaip atminties retriveris ir skaitytuvas bei talpyklos atminties bankas, kuriame saugomos praeities raktų ir reikšmių poros kontekstuose.
„Microsoft“ atliktame tyrime eksperimentai rodo, kad „LongMem“ lenkia pradinius ilgo teksto kalbos modeliavimo, ilgo konteksto supratimo ir atminties papildytų kontekstinio mokymosi užduočių rezultatus. Be to, ilgalaikė atmintis leidžia panaudoti daugiau demonstravimo pavyzdžių, kad būtų galima geriau mokytis.
Ir gera žinia yra ta, kad „LongMem“ bus atvirojo kodo. Taigi galėsite tai studijuoti ir išmokti įdiegti sistemą savo AI modelyje. Galite patikrinti jo GitHub profilis čia.
Ir jei jums įdomu perskaityti visą tyrimo straipsnį apie sistemą, eik čia ir patikrink.
Ką manote apie šį naują technologinį proveržį? Ar tai pakeis AI modelių veikimą? Būtinai praneškite mums savo mintis ir nuomones žemiau.
