- Verbeterde functieoproep
- JSON-modus
- Reproduceerbare uitvoer
- Voorbeeld
- 3x kosteneffectiever
Tijdens de cloudontwikkelaarsconferentie van Microsoft maakte CEO Satya Nadella melding van de lancering van bijgewerkte generatieve AI-modellen Azure Open Services komt binnenkort beschikbaar.
Vanaf deze week kunnen Azure OpenAI Service-klanten nu profiteren van de meest geavanceerde versies van de pre-generatieve modellen van OpenAI met GTP-4 en GPT-3.5 Turbo 1106.
Microsoft lanceerde de nieuwe modellen op eerdere bestaande markten en opende tegelijkertijd zijn kanalen voor drie nieuwe regio's, waaronder Noorwegen-Oost, Zuid-India en West-VS. Azure OpenAI Services zijn nu beschikbaar in in totaal veertien mondiale regio's.
De nieuwe modellen, met name de GTP4 Turbo, brengen kennis met zich mee van wereldgebeurtenissen tot april 2023, evenals 128L contextvensters waarmee ontwikkelaars aangepaste gegevensinvoer kunnen creëren die nu gebruik kan maken van Retrieval Augmented Generation (VOD).
Wat de tokenprijzen voor de nieuwe modellen betreft, is de GTP-4 Turbo-prijs $0,01/1000 tokens voor input en $0,03/1000 tokens voor output. Op basis van de input- en outputmodellen is GPT-4 turbo voor Azure OpenAI Services “3x kosteneffectiever voor invoertokens en 2x kosteneffectiever voor uitvoertokens” in vergelijking met de reguliere GPT-4-modellen die worden gebruikt nu.
Naast de prijsverbeteringen zijn er ook verbeterde functies, zoals functieaanroepen met GPT-4 Turbo, waardoor meerdere functie- en toolaanroepen parallel mogelijk zijn om applicaties efficiënter te maken. GPT-4 introduceert ook de JSON-modus voor correct geformatteerde JSON-uitvoer. Reproduceerbare output wordt ook mogelijk gemaakt en levert probabistische resultaten op.
GPT-3.5 Turbo 1106 biedt veel van dezelfde bijgewerkte functies als GPT-4 Turbo, maar wordt ook het standaard Turbo-model met een 16K-contextvenster en nieuwe token-invoer/uitvoerprijzen.
Zoals eerder vermeld zijn beide nieuwe GPT-modellen als preview beschikbaar voor de meeste klanten, waarbij Microsoft belooft het breder toegankelijk te maken met Provisioned Throughput.
