- Uzlabota funkciju izsaukšana
- JSON režīms
- Reproducējama izvade
- Priekšskatījums
- 3x rentablāks
Microsoft mākoņa izstrādātāju konferences laikā uzņēmuma izpilddirektors Satja Nadella pieminēja atjauninātu ģeneratīvo AI modeļu izlaišanu. Drīzumā ieradīsies Azure Open Services.
No šīs nedēļas Azure OpenAI pakalpojuma klienti tagad var izmantot OpenAI pirmsģenerācijas modeļu vismodernākās versijas ar GTP-4 un GPT-3.5 Turbo 1106.
Microsoft ieviesa jaunos modeļus iepriekšējos esošajos tirgos, vienlaikus atverot kanālus trīs jauniem reģioniem, tostarp Norvēģijas Austrumiem, Dienvidindijai un Rietumu ASV. Azure OpenAI pakalpojumi tagad ir pieejami kopumā četrpadsmit pasaules reģionos.
Jaunie modeļi, īpaši GTP4 Turbo, sniedz zināšanas par pasaules notikumiem līdz 2023. gada aprīlim, kā arī 128L konteksta logi, lai izstrādātāji varētu izveidot pielāgotas datu ievades, kas tagad var izmantot izguves paplašināto paaudzi (RAG).
Kas attiecas uz jauno modeļu marķieru cenām, GTP-4 Turbo cena ir USD 0,01/1000 marķieri par ievadi un USD 0,03/1000 marķieri par izvadi. Pamatojoties uz ievades un izvades modeļiem, GPT-4 turbo, kas paredzēts Azure OpenAI pakalpojumiem, ir “3x rentablāks ievades marķieri un 2x rentablāki izvades marķieri”, salīdzinot ar parastajiem izmantotajiem GPT-4 modeļiem tagad.
Papildus cenu uzlabojumiem ir arī uzlabotas funkcijas, piemēram, funkciju izsaukšana ar GPT-4 Turbo, kas ļauj vienlaikus izsaukt vairākas funkcijas un rīkus, lai padarītu lietojumprogrammas efektīvākas. GPT-4 arī ievieš JSON režīmu pareizi formatētai JSON izvadei. Ir iespējama arī reproducējama izvade, un tā, iespējams, rada rezultātus.
Kas attiecas uz GPT-3.5 Turbo 1106, tas piedāvā daudzas tās pašas atjauninātās funkcijas kā GPT-4 Turbo, taču tas kļūs arī par noklusējuma Turbo modeli ar 16K konteksta logu un jaunu marķiera ievades/izejas cenu noteikšanu.
Kā minēts iepriekš, abi jaunie GPT modeļi lielākajai daļai klientu ir pieejami priekšskatījumā, un Microsoft sola tos padarīt plašāk pieejamus, izmantojot nodrošināto caurlaidspēju.