Il servizio Azure OpenAI ottiene GPT-4 Turbo e GPT-3.5 Turbo

Durante la conferenza degli sviluppatori cloud di Microsoft, il CEO dell’azienda Satya Nadella ha menzionato l’imminente lancio di modelli di intelligenza artificiale generativa aggiornati Azure Open Services in arrivo.

A partire da questa settimana, i clienti del servizio Azure OpenAI possono ora sfruttare le versioni più avanzate dei modelli pre-generativi di OpenAI con GTP-4 e GPT-3.5 Turbo 1106.

Microsoft ha lanciato i nuovi modelli nei mercati esistenti in precedenza, aprendo allo stesso tempo i suoi canali a tre nuove regioni che includono Norvegia orientale, India meridionale e Stati Uniti occidentali. I servizi Azure OpenAI sono ora disponibili in un totale di quattordici aree globali.

I nuovi modelli, in particolare la GTP4 Turbo, portano con sé la conoscenza degli eventi mondiali fino ad aprile 2023 e la 128L finestre di contesto per consentire agli sviluppatori di creare input di dati personalizzati che ora possono sfruttare la generazione aumentata di recupero (STRACCIO).

Per quanto riguarda i prezzi dei token per i nuovi modelli, il prezzo di GTP-4 Turbo è di $ 0,01/1000 token per l'input e $ 0,03/1000 token per l'output. In base ai modelli di input e output, GPT-4 turbo per Azure OpenAI Services è “3 volte più conveniente per token di input e 2 volte più conveniente per i token di output” rispetto ai normali modelli GPT-4 utilizzati Ora.

Oltre ai miglioramenti del prezzo, ci sono anche funzionalità migliorate come la chiamata di funzioni con GPT-4 Turbo che consente più chiamate di funzioni e strumenti in parallelo per rendere le applicazioni più efficienti. GPT-4 introduce anche la modalità JSON per l'output JSON formattato correttamente. Anche l'output riproducibile è reso possibile e porta risultati probabilistici.

Per quanto riguarda GPT-3.5 Turbo 1106, offre molte delle stesse funzionalità aggiornate di GPT-4 Turbo ma diventerà anche il modello Turbo predefinito con finestra di contesto 16K e nuovi prezzi di input/output dei token.

Come accennato in precedenza, entrambi i nuovi modelli GPT sono disponibili in anteprima per la maggior parte dei clienti e Microsoft promette di renderli più ampiamente accessibili con Provisioned Throughput.