- Llamada de funciones mejorada
- Modo JSON
- Salida reproducible
- Avance
- 3 veces más rentable
Durante la conferencia de desarrolladores de la nube de Microsoft, el director ejecutivo de la compañía, Satya Nadella, mencionó el lanzamiento de modelos actualizados de IA generativa que llegarán a Los servicios abiertos de Azure llegarán pronto.
A partir de esta semana, los clientes del servicio Azure OpenAI pueden aprovechar las versiones más avanzadas de los modelos pregenerativos de OpenAI con GTP-4 y GPT-3.5 Turbo 1106.
Microsoft lanzó los nuevos modelos en mercados existentes y al mismo tiempo abrió sus canales a tres nuevas regiones que incluyen el este de Noruega, el sur de la India y el oeste de Estados Unidos. Los servicios Azure OpenAI ahora están disponibles en un total de catorce regiones globales.
Los nuevos modelos, en particular el GTP4 Turbo, traen consigo conocimiento de los acontecimientos mundiales hasta abril de 2023, así como 128L. ventanas contextuales para permitir a los desarrolladores crear entradas de datos personalizadas que ahora pueden aprovechar la generación aumentada de recuperación (TRAPO).
En cuanto a los precios de los tokens para los nuevos modelos, el precio del GTP-4 Turbo es de $0,01/1000 tokens para entrada y $0,03/1000 tokens para salida. Basado en los modelos de entrada y salida, GPT-4 turbo para Azure OpenAI Services es “3 veces más rentable para tokens de entrada y 2 veces más rentables para los tokens de salida” en comparación con los modelos GPT-4 normales que se utilizan ahora.
Más allá de las mejoras de precio, también hay características mejoradas, como la llamada de funciones con GPT-4 Turbo, que permite llamadas a múltiples funciones y herramientas en paralelo para hacer que las aplicaciones sean más eficientes. GPT-4 también introduce el modo JSON para la salida JSON formateada correctamente. La producción reproducible también es posible y produce resultados probabilísticos.
En cuanto al GPT-3.5 Turbo 1106, trae muchas de las mismas características actualizadas que el GPT-4 Turbo, pero también se convertirá en el modelo Turbo predeterminado con una ventana contextual de 16K y nuevos precios de entrada/salida de tokens.
Como se mencionó anteriormente, ambos nuevos modelos GPT están disponibles en versión preliminar para la mayoría de los clientes y Microsoft promete hacerlos más accesibles con Provisioned Throughput.
