Нови оквир ће револуционисати моделе вештачке интелигенције.
- Оквир омогућава неограничену дужину контекста.
- Неограничена дужина контекста значи персонализованији разговор са АИ моделима.
- То је у суштини следећи корак за АИ у потпуном приближавању човеку.
Мицрософт је био на челу образовања АИ и алата АИ уопште. Цопилот ускоро стиже на Виндовс 11, као део ажурирања за Виндовс. АИ улази у Мицрософт Теамс, са интелигентни резиме који помаже људима да лакше раде.
Бинг је такође један од најузбудљивијих АИ алата, а његове функције вам омогућавају да оптимизујете и свој рад и начин на који се крећете по Интернету.
Али раније ове недеље, Мицрософт је то такође открио Орца 13Б ће ускоро постати отворени код. Орца 13Б је мали АИ модел који ради истим квалитетом и брзином као и други АИ модели, као што је ЦхатГПТ.
Сада, у битци АИ и истраживања АИ, Мицрософт долази ЛонгМем, хипотетички оквир и АИ језички модел.
Према овој Реддит нити, ЛонгМем омогућава неограничену дужину контекста уз смањену употребу ГПУ-а и ЦПУ меморије. Све ово се ради већом брзином.
Мицрософт Ресеарцх предлаже нови оквир, ЛонгМем, који омогућава неограничену дужину контекста заједно са смањеном употребом ГПУ меморије и бржом брзином закључивања. Код ће бити отвореног кода
од стране у/лламаСхилл ин ЛоцалЛЛаМА
Да ли је ЛонгМем Мицрософтов одговор за неограничену дужину контекста?
Па, да бисмо разумели шта значи имати неограничену дужину контекста, прво треба да разумемо шта значи дужина контекста?
Дужина контекста се односи на број токена (речи, знакова, итд.) које дозвољава модел, његов улаз и излаз, као и ваш.
На пример, ЦхатГПТ има ограничен број токена што значи да је и дужина његовог контекста ограничена. Чим ЦхатГПТ пређе ту границу, онда ће сва непрекидна интеракција коју сте имали са њим до тог тренутка изгубити сваки значај. Или боље речено, ресетоваће се.
Дакле, ако започињете разговор са ЦхатГПТ-ом на тему Виндовс-а, а тај разговор траје дуже од ограниченог контекста дужине, онда ће АИ алат изгубити контекст и или ће почети да скреће са теме или ће цео разговор ресетовати.
Неограничена дужина контекста ће се побринути да се то неће догодити, а АИ модел ће наставити да вам одговара на ту тему, док ће такође учити и прилагођавати информације док с њим разговарате о Виндовс-у.
То значи да ће АИ модел такође персонализовати разговор у складу са вашим уносом, па стога и потреба да контекст има неограничену дужину.
Како функционише ЛонгМем?
Мицрософт обећава управо то својим новим истраживањем оквира, ЛонгМем. ЛонгМем би омогућио великим језичким моделима да памте дугорочне контексте и користе дугорочну меморију уз смањену снагу процесора.
Оквир се састоји од замрзнутог великог језичког модела као меморијског кодера, преостале бочне мреже као враћач и читач меморије, и кеширана меморијска банка која чува парове кључ-вредност из прошлости контекстима.
У истраживању које је спровео Мицрософт, експерименти показују да ЛонгМем надмашује основне вредности у моделирању језика дугог текста, разумевању дугог контекста и задацима учења у контексту који се повећавају меморијом. Осим тога, дугорочна меморија му омогућава да користи више демонстрационих примера за боље учење.
А добра вест је да ће ЛонгМем бити отвореног кода. Тако ћете моћи да га проучите и научите како да имплементирате оквир у свој модел АИ. Можете проверити његов ГитХуб профил овде.
А ако сте заинтересовани да прочитате цео истраживачки рад о оквиру, идите овамо и проверите.
Шта мислите о овом новом технолошком открићу? Да ли ће то револуционисати начин рада АИ модела? Обавезно нам јавите своје мисли и мишљења у наставку.
