- Izboljšano klicanje funkcij
- Način JSON
- Ponovljiv izhod
- Predogled
- 3x bolj stroškovno učinkovito
Med Microsoftovo konferenco za razvijalce v oblaku je izvršni direktor podjetja Satya Nadella omenil uvedbo posodobljenih generativnih modelov umetne inteligence, ki prihajajo Odprte storitve Azure bodo kmalu na voljo.
Od tega tedna dalje lahko stranke storitve Azure OpenAI izkoristijo najnaprednejše različice predgenerativnih modelov OpenAI z GTP-4 in GPT-3.5 Turbo 1106.
Microsoft je lansiral nove modele na prejšnje obstoječe trge, obenem pa je odprl svoje kanale za tri nove regije, ki vključujejo vzhodno Norveško, južno Indijo in zahod ZDA. Storitve Azure OpenAI so zdaj na voljo v skupno štirinajstih svetovnih regijah.
Novi modeli, zlasti GTP4 Turbo, prinašajo s seboj poznavanje svetovnih dogodkov do aprila 2023, kot tudi 128L kontekstna okna, ki razvijalcem omogočajo ustvarjanje vnosov podatkov po meri, ki lahko zdaj izkoristijo Retrieval Augmented Generation (RAG).
Kar zadeva cene žetonov za nove modele, je cena GTP-4 Turbo 0,01 USD/1000 žetonov za vnos in 0,03 USD/1000 žetonov za izhod. Na podlagi vhodnih in izhodnih modelov je GPT-4 turbo za storitve Azure OpenAI »3x stroškovno učinkovitejši za vhodni žetoni in 2x stroškovno učinkovitejši za izhodne žetone« v primerjavi z običajnimi modeli GPT-4, ki se uporabljajo zdaj.
Poleg cenovnih izboljšav so na voljo tudi izboljšane funkcije, kot je klicanje funkcij z GPT-4 Turbo, ki omogoča več klicev funkcij in orodij vzporedno, da so aplikacije učinkovitejše. GPT-4 uvaja tudi način JSON za pravilno oblikovan izhod JSON. Omogočen je tudi ponovljiv izhod in prinaša verjetnostne rezultate.
Kar zadeva GPT-3.5 Turbo 1106, prinaša veliko enakih posodobljenih funkcij kot GPT-4 Turbo, vendar bo postal tudi privzeti model Turbo s kontekstnim oknom 16K in novimi cenami vhoda/izhoda žetonov.
Kot smo že omenili, sta oba nova modela GPT na voljo v predogledu za večino strank, pri čemer Microsoft obljublja, da bo s Provisioned Throughput omogočil širšo dostopnost.
