- Vylepšené volanie funkcií
- Režim JSON
- Reprodukovateľný výstup
- Náhľad
- 3x efektívnejšie z hľadiska nákladov
Počas konferencie cloud vývojárov spoločnosti Microsoft sa generálny riaditeľ spoločnosti Satya Nadella zmienil o spustení aktualizovaných generatívnych modelov AI. Azure Open Services čoskoro dorazí.
Od tohto týždňa môžu zákazníci služby Azure OpenAI teraz využívať výhody najpokročilejších verzií predgeneratívnych modelov OpenAI s GTP-4 a GPT-3.5 Turbo 1106.
Spoločnosť Microsoft uviedla nové modely na predchádzajúce existujúce trhy a zároveň otvorila svoje kanály pre tri nové regióny, medzi ktoré patrí východné Nórsko, južná India a západ USA. Služby Azure OpenAI sú teraz dostupné celkovo v štrnástich globálnych regiónoch.
Nové modely, najmä GTP4 Turbo, prinášajú znalosti o svetových udalostiach do apríla 2023, ako aj 128L kontextové okná umožňujúce vývojárom vytvárať vlastné dátové vstupy, ktoré teraz môžu využívať rozšírené generovanie získavania (RAG).
Pokiaľ ide o ceny tokenov pre nové modely, cena GTP-4 Turbo je 0,01 $/1000 tokenov za vstup a 0,03 $/1000 tokenov za výstup. Na základe vstupných a výstupných modelov je GPT-4 turbo pre Azure OpenAI Services „3x cenovo výhodnejší pre vstupné tokeny a 2x nákladovo efektívnejšie pre výstupné tokeny” v porovnaní s bežnými používanými modelmi GPT-4 teraz.
Okrem cenových vylepšení sú k dispozícii aj vylepšené funkcie, ako napríklad volanie funkcií pomocou GPT-4 Turbo, ktoré umožňuje súbežné volanie viacerých funkcií a nástrojov, aby boli aplikácie efektívnejšie. GPT-4 tiež zavádza režim JSON pre správne naformátovaný výstup JSON. Je tiež umožnený reprodukovateľný výstup a prináša pravdepodobne výsledky.
Pokiaľ ide o GPT-3.5 Turbo 1106, prináša mnoho rovnakých aktualizovaných funkcií ako GPT-4 Turbo, ale stane sa tiež predvoleným modelom Turbo s kontextovým oknom 16 000 a novým vstupným/výstupným cenovaním tokenov.
Ako už bolo spomenuté, oba nové modely GPT sú k dispozícii vo verzii Preview pre väčšinu zákazníkov, pričom spoločnosť Microsoft sľubuje, že ich sprístupní širšiemu spektru pomocou Provisioned Throughput.
