- Appel de fonction amélioré
- Mode JSON
- Sortie reproductible
- Aperçu
- 3x plus rentable
Lors de la conférence des développeurs cloud de Microsoft, le PDG de la société, Satya Nadella, a mentionné le lancement de modèles d'IA génératifs mis à jour à venir. Azure Open Services arrive bientôt.
Depuis cette semaine, les clients Azure OpenAI Service peuvent désormais profiter des versions les plus avancées des modèles pré-génératifs d'OpenAI avec GTP-4 et GPT-3.5 Turbo 1106.
Microsoft a lancé les nouveaux modèles sur les marchés existants tout en ouvrant également ses canaux à trois nouvelles régions, notamment la Norvège Est, l'Inde du Sud et l'Ouest des États-Unis. Les services Azure OpenAI sont désormais disponibles dans quatorze régions du monde au total.
Les nouveaux modèles, notamment le GTP4 Turbo, apportent une connaissance des événements mondiaux jusqu'en avril 2023 ainsi que le 128L. fenêtres contextuelles pour permettre aux développeurs de créer des entrées de données personnalisées qui peuvent désormais tirer parti de la génération augmentée de récupération (CHIFFON).
En ce qui concerne les prix des jetons pour les nouveaux modèles, le prix du GTP-4 Turbo est de 0,01 $/1 000 jetons pour l'entrée et de 0,03 $/1 000 jetons pour la sortie. Basé sur les modèles d'entrée et de sortie, GPT-4 turbo pour Azure OpenAI Services est « 3 fois plus rentable pour jetons d'entrée et 2 fois plus rentables pour les jetons de sortie » par rapport aux modèles GPT-4 classiques utilisés maintenant.
Au-delà des améliorations de prix, il existe également des fonctionnalités améliorées telles que l'appel de fonctions avec GPT-4 Turbo permettant plusieurs appels de fonctions et d'outils en parallèle pour rendre les applications plus efficaces. GPT-4 introduit également le mode JSON pour une sortie JSON correctement formatée. Une sortie reproductible est également rendue possible et apporte des résultats probabilistes.
Quant au GPT-3.5 Turbo 1106, il apporte bon nombre des mêmes fonctionnalités mises à jour que GPT-4 Turbo, mais deviendra également le modèle Turbo par défaut avec une fenêtre contextuelle de 16 Ko et une nouvelle tarification d'entrée/sortie de jeton.
Comme mentionné précédemment, les deux nouveaux modèles GPT sont disponibles en avant-première pour la plupart des clients, Microsoft promettant de les rendre plus largement accessibles avec Provisioned Throughput.
