Lungimea contextului extins este comparabilă cu o carte de 300 de pagini.
OpenAI tocmai a anunțat GPT-4 Turbo, pentru prima sa Eveniment OpenAI DevDay. GPT-4 Turbo extinde lungimea contextului la 128.000 de jetoane.
Compania spune că cele 128.000 de jetoane sunt comparabile cu o carte de 300 de pagini, astfel încât utilizatorii vor avea acum mult mai mult spațiu pentru a interacționa cu ChatGPT într-o singură discuție.
Deși lungimea nelimitată a contextului este încă în dezvoltare, așa cum am acoperit o poveste la începutul acestui an în care Microsoft încearcă să o atingă, GPT-4 extinderea contextului său până la un asemenea grad va fi mai mult de util.
GPT-4 Turbo este mai capabil și cunoaște evenimentele mondiale până în aprilie 2023. Are o fereastră de context de 128k, astfel încât să încapă echivalentul a peste 300 de pagini de text într-un singur prompt. De asemenea, i-am optimizat performanța, astfel încât să putem oferi GPT-4 Turbo la a de 3 ori mai ieftin preț pentru jetoanele de intrare și un preț de 2 ori mai ieftin pentru jetoanele de ieșire în comparație cu GPT-4.
OpenAI
GPT-4 Turbo este disponibil momentan în modul de previzualizare, dar OpenAI promite să-și lanseze versiunea stabilă în următoarele săptămâni.
GPT-4 Turbo: Iată tot ce trebuie să știți despre el
GPT-4 Turbo va avea următoarele instrucțiuni îmbunătățite și, conform OpenAI, această versiune GPT va prezenta și noi îmbunătățiri pentru apelarea funcției.
Lansăm mai multe îmbunătățiri astăzi, inclusiv capacitatea de a apela mai multe funcții într-un singur mesaj: utilizatorii pot trimite un singur mesaj solicitarea de acțiuni multiple, cum ar fi „deschideți geamul mașinii și opriți A/C”, care anterior ar necesita mai multe călătorii dus-întors cu model (află mai multe). Îmbunătățim, de asemenea, acuratețea apelării funcției: este mai probabil ca GPT-4 Turbo să returneze parametrii corespunzători ai funcției.
OpenAI
Modelul va fi, de asemenea, capabil de rezultate reproductibile, care, conform propriilor cuvinte ale OpenAI, sunt de neprețuit pentru dezvoltatori.
Această caracteristică beta este utilă pentru cazuri de utilizare, cum ar fi reluarea solicitărilor de depanare, scrierea unor teste unitare mai cuprinzătoare și, în general, având un grad mai mare de control asupra comportamentului modelului. Noi, cei de la OpenAI, am folosit această caracteristică intern pentru propriile noastre teste unitare și am găsit-o neprețuită.
OpenAI
Împreună cu GPT-4 Turbo, vine și GPT 3.5 Turbo și va fi lansat cu mai multe funcții noi.
Noul 3.5 Turbo acceptă urmărirea îmbunătățită a instrucțiunilor, modul JSON și apelarea funcției paralele. De exemplu, evaluările noastre interne arată o îmbunătățire cu 38% a formatului în urma sarcinilor precum generarea JSON, XML și YAML. Dezvoltatorii pot accesa acest nou model apelând gpt-3.5-turbo-1106 în API. Aplicațiile care folosesc numele gpt-3.5-turbo vor fi actualizate automat la noul model pe 11 decembrie. Modelele mai vechi vor continua să fie accesibile prin transmiterea gpt-3.5-turbo-0613 în API până pe 13 iunie 2024.
OpenAI
Ce părere aveți despre noul GPT-4 Turbo?