- Apelare funcție îmbunătățită
- Modul JSON
- Ieșire reproductibilă
- previzualizare
- De 3 ori mai rentabil
În timpul conferinței pentru dezvoltatori cloud de la Microsoft, CEO-ul companiei, Satya Nadella, a menționat lansarea unor modele AI generative actualizate care vor veni la Azure Open Services sosește în curând.
Începând cu această săptămână, clienții Azure OpenAI Service pot profita acum de cele mai avansate versiuni ale modelelor pre-generative OpenAI cu GTP-4 și GPT-3.5 Turbo 1106.
Microsoft a lansat noile modele pe piețele existente anterioare, în timp ce și-a deschis canalele în trei noi regiuni, care includ Norvegia de Est, Sudul Indiei și Vestul SUA. Serviciile Azure OpenAI sunt acum disponibile într-un total de paisprezece regiuni globale.
Noile modele, în special GTP4 Turbo, aduce cu sine cunoștințe despre evenimentele mondiale până în aprilie 2023, precum și 128L ferestre de context pentru a le permite dezvoltatorilor să creeze intrări de date personalizate care acum pot folosi generația sporită de recuperare (CÂRPĂ).
În ceea ce privește prețurile token-urilor pentru noile modele, prețul GTP-4 Turbo este de 0,01 USD/1000 de jetoane pentru intrare și 0,03 USD/1000 de jetoane pentru ieșire. Pe baza modelelor de intrare și de ieșire, GPT-4 turbo pentru Azure OpenAI Services este „de trei ori mai rentabil pentru jetoane de intrare și de 2 ori mai rentabile pentru jetoanele de ieșire” în comparație cu modelele obișnuite GPT-4 utilizate acum.
Dincolo de îmbunătățirile de preț, există și funcții îmbunătățite, cum ar fi apelarea funcției cu GPT-4 Turbo, care permite apeluri multiple de funcții și instrumente în paralel pentru a face aplicațiile mai eficiente. GPT-4 introduce, de asemenea, modul JSON pentru ieșirea JSON formatată corect. Producția reproductibilă este, de asemenea, posibilă și aduce rezultate probabil.
În ceea ce privește GPT-3.5 Turbo 1106, acesta aduce multe dintre aceleași caracteristici actualizate ca și GPT-4 Turbo, dar va deveni, de asemenea, modelul Turbo implicit, cu o fereastră de context de 16K și un nou preț de intrare/ieșire a simbolurilor.
După cum s-a menționat anterior, ambele modele noi GPT sunt disponibile în previzualizare pentru majoritatea clienților, Microsoft promițând să le facă mai accesibile cu Provisioned Throughput.
