- Chiamata di funzioni migliorata
- Modalità JSON
- Uscita riproducibile
- Anteprima
- 3 volte più conveniente
Durante la conferenza degli sviluppatori cloud di Microsoft, il CEO dell’azienda Satya Nadella ha menzionato l’imminente lancio di modelli di intelligenza artificiale generativa aggiornati Azure Open Services in arrivo.
A partire da questa settimana, i clienti del servizio Azure OpenAI possono ora sfruttare le versioni più avanzate dei modelli pre-generativi di OpenAI con GTP-4 e GPT-3.5 Turbo 1106.
Microsoft ha lanciato i nuovi modelli nei mercati esistenti in precedenza, aprendo allo stesso tempo i suoi canali a tre nuove regioni che includono Norvegia orientale, India meridionale e Stati Uniti occidentali. I servizi Azure OpenAI sono ora disponibili in un totale di quattordici aree globali.
I nuovi modelli, in particolare la GTP4 Turbo, portano con sé la conoscenza degli eventi mondiali fino ad aprile 2023 e la 128L finestre di contesto per consentire agli sviluppatori di creare input di dati personalizzati che ora possono sfruttare la generazione aumentata di recupero (STRACCIO).
Per quanto riguarda i prezzi dei token per i nuovi modelli, il prezzo di GTP-4 Turbo è di $ 0,01/1000 token per l'input e $ 0,03/1000 token per l'output. In base ai modelli di input e output, GPT-4 turbo per Azure OpenAI Services è “3 volte più conveniente per token di input e 2 volte più conveniente per i token di output” rispetto ai normali modelli GPT-4 utilizzati Ora.
Oltre ai miglioramenti del prezzo, ci sono anche funzionalità migliorate come la chiamata di funzioni con GPT-4 Turbo che consente più chiamate di funzioni e strumenti in parallelo per rendere le applicazioni più efficienti. GPT-4 introduce anche la modalità JSON per l'output JSON formattato correttamente. Anche l'output riproducibile è reso possibile e porta risultati probabilistici.
Per quanto riguarda GPT-3.5 Turbo 1106, offre molte delle stesse funzionalità aggiornate di GPT-4 Turbo ma diventerà anche il modello Turbo predefinito con finestra di contesto 16K e nuovi prezzi di input/output dei token.
Come accennato in precedenza, entrambi i nuovi modelli GPT sono disponibili in anteprima per la maggior parte dei clienti e Microsoft promette di renderli più ampiamente accessibili con Provisioned Throughput.
