- Vylepšené volání funkcí
- Režim JSON
- Reprodukovatelný výstup
- Náhled
- 3x cenově výhodnější
Během konference cloudových vývojářů společnosti Microsoft zmínil generální ředitel společnosti Satya Nadella uvedení aktualizovaných generativních modelů umělé inteligence. Brzy dorazí Azure Open Services.
Od tohoto týdne mohou nyní zákazníci Azure OpenAI Service využívat nejpokročilejší verze pregenerativních modelů OpenAI s GTP-4 a GPT-3.5 Turbo 1106.
Společnost Microsoft uvedla nové modely na předchozí existující trhy a zároveň otevřela své kanály do tří nových regionů, mezi které patří Norsko – východní, jižní Indie a západ USA. Služby Azure OpenAI jsou nyní dostupné celkem ve čtrnácti globálních oblastech.
Nové modely, zejména GTP4 Turbo, přináší znalosti o světových událostech do dubna 2023 a také 128L kontextová okna, která umožňují vývojářům vytvářet vlastní datové vstupy, které nyní mohou využívat rozšířené generování získávání (HADR).
Pokud jde o ceny tokenů pro nové modely, cena GTP-4 Turbo je 0,01 $/1000 tokenů za vstup a 0,03 $/1000 tokenů za výstup. Na základě vstupních a výstupních modelů je GPT-4 turbo pro Azure OpenAI Services „3x cenově výhodnější pro vstupní tokeny a 2x nákladově efektivnější pro výstupní tokeny“ ve srovnání s běžnými používanými modely GPT-4 Nyní.
Kromě cenových vylepšení jsou k dispozici také vylepšené funkce, jako je volání funkcí pomocí GPT-4 Turbo umožňující paralelní volání více funkcí a nástrojů, aby byly aplikace efektivnější. GPT-4 také zavádí režim JSON pro správně formátovaný výstup JSON. Je také umožněn reprodukovatelný výstup a přináší pravděpodobně výsledky.
Pokud jde o GPT-3.5 Turbo 1106, přináší mnoho stejných aktualizovaných funkcí jako GPT-4 Turbo, ale stane se také výchozím modelem Turbo s kontextovým oknem 16K a novými cenami vstupu/výstupu tokenů.
Jak již bylo zmíněno, oba nové modely GPT jsou k dispozici ve verzi Preview pro většinu zákazníků, přičemž Microsoft slibuje, že je zpřístupní v širším měřítku pomocí Provisioned Throughput.
