- Továbbfejlesztett funkcióhívás
- JSON mód
- Reprodukálható kimenet
- Előnézet
- 3x költséghatékonyabb
A Microsoft felhőfejlesztői konferenciáján a vállalat vezérigazgatója, Satya Nadella megemlítette a frissített generatív AI modellek piacra dobását. Az Azure Open Services hamarosan érkezik.
Ettől a héttől az Azure OpenAI Service ügyfelei most már kihasználhatják az OpenAI előgeneratív modelljeinek legfejlettebb verzióit a GTP-4 és GPT-3.5 Turbo 1106 segítségével.
A Microsoft bemutatta az új modelleket a korábbi piacokon, miközben három új régióban is megnyitotta csatornáit, köztük Norvégia Kelet-, Dél-India és Nyugat-USA. Az Azure OpenAI Services immár összesen tizennégy globális régióban érhető el.
Az új modellek, különösen a GTP4 Turbo magával hozza a 2023 áprilisáig tartó világesemények ismereteit, valamint a 128 literes kontextus ablakok, amelyek lehetővé teszik a fejlesztők számára, hogy egyéni adatbeviteleket hozzanak létre, amelyek immár kihasználhatják a Retrieval Kiterjesztett Generációt (RONGY).
Ami az új modellek token árait illeti, a GTP-4 Turbo ára 0,01 USD/1000 token a bemenetre és 0,03 USD/1000 token a kimenetre. A bemeneti és kimeneti modellek alapján az Azure OpenAI Services GPT-4 turbója „háromszor költséghatékonyabb bemeneti tokenek és 2x költséghatékonyabb kimeneti tokenek” a szokásos GPT-4 modellekhez képest Most.
Az árnövekedésen túl olyan továbbfejlesztett funkciók is vannak, mint például a GPT-4 Turbo funkcióhívás, amely lehetővé teszi több funkció- és eszközhívás párhuzamos használatát az alkalmazások hatékonyabbá tétele érdekében. A GPT-4 a JSON módot is bevezeti a megfelelően formázott JSON-kimenethez. A reprodukálható kimenet is lehetővé válik, és valószínűleg eredményeket hoz.
Ami a GPT-3.5 Turbo 1106-ot illeti, számos olyan frissített funkciót tartalmaz, mint a GPT-4 Turbo, de egyben az alapértelmezett Turbo modell is lesz 16K-os kontextusablakkal és új token bemeneti/kimeneti árazással.
Ahogy korábban említettük, mindkét új GPT-modell előzetes verzióban elérhető a legtöbb ügyfél számára, és a Microsoft azt ígéri, hogy szélesebb körben elérhetővé teszi a Provisioned Throughput segítségével.
