- Poboljšano pozivanje funkcija
- JSON način
- Ponovljivi izlaz
- Pregled
- 3x isplativije
Tijekom Microsoftove konferencije za programere u oblaku, izvršni direktor tvrtke Satya Nadella spomenuo je lansiranje ažuriranih generativnih AI modela koji dolaze Azure Open Services uskoro stiže.
Od ovog tjedna korisnici Azure OpenAI usluge sada mogu iskoristiti prednosti najnaprednijih verzija OpenAI-jevih pre-generativnih modela s GTP-4 i GPT-3.5 Turbo 1106.
Microsoft je lansirao nove modele na prethodna postojeća tržišta dok je također otvorio svoje kanale za tri nove regije koje uključuju istok Norveške, južnu Indiju i zapad SAD. Azure OpenAI usluge sada su dostupne u ukupno četrnaest globalnih regija.
Novi modeli, posebno GTP4 Turbo, donose sa sobom znanje o svjetskim događajima do travnja 2023. kao i 128L kontekstni prozori kako bi se programerima omogućilo stvaranje prilagođenih unosa podataka koji sada mogu iskoristiti prošireno generiranje dohvaćanja (RAG).
Što se tiče cijena tokena za nove modele, cijena GTP-4 Turbo je 0,01 USD/1000 tokena za ulaz i 0,03 USD/1000 tokena za izlaz. Na temelju ulaznih i izlaznih modela, GPT-4 turbo za Azure OpenAI usluge je “3 puta isplativiji za ulazne tokene i 2x isplativije za izlazne tokene” u usporedbi s uobičajenim GPT-4 modelima koji se koriste sada.
Osim poboljšanja cijene, tu su i poboljšane značajke kao što je pozivanje funkcija s GPT-4 Turbo koji omogućuje paralelno pozivanje više funkcija i alata kako bi aplikacije bile učinkovitije. GPT-4 također uvodi JSON način za ispravno formatirani JSON izlaz. Ponovljivi izlaz je također omogućen i donosi vjerojatnosne rezultate.
Što se tiče GPT-3.5 Turbo 1106, on donosi mnoge od istih ažuriranih značajki kao GPT-4 Turbo, ali će također postati zadani Turbo model s 16K kontekstnim prozorom i novom ulazno/izlaznom cijenom tokena.
Kao što je ranije spomenuto, oba nova GPT modela dostupna su u pretpregledu za većinu korisnika, a Microsoft obećava da će ga učiniti dostupnijim širem krugu uz Provisioned Throughput.
