La lunghezza del contesto esteso è paragonabile a un libro di 300 pagine.

OpenAI ha appena annunciato GPT-4 Turbo, per la prima volta in assoluto Evento OpenAI DevDay. GPT-4 Turbo estende la lunghezza del contesto a 128.000 token.
L'azienda afferma che i 128.000 token sono paragonabili a un libro di 300 pagine, quindi gli utenti avranno ora molto più spazio per interagire con ChatGPT in un'unica discussione.
Sebbene la lunghezza illimitata del contesto sia ancora in fase di sviluppo, poiché abbiamo trattato una storia all'inizio di quest'anno in cui Microsoft sta cercando di raggiungere questo obiettivo, GPT-4 estendendo la lunghezza del suo contesto a tal punto sarà più che sufficiente utile.
GPT-4 Turbo è più capace e conosce gli eventi mondiali fino ad aprile 2023. Ha una finestra di contesto da 128k, quindi può contenere l'equivalente di più di 300 pagine di testo in un singolo prompt. Abbiamo anche ottimizzato le sue prestazioni in modo da poter offrire GPT-4 Turbo a 3 volte più economico
prezzo per i token di input e un prezzo 2 volte più economico per i token di output rispetto a GPT-4. OpenAI
GPT-4 Turbo è attualmente disponibile in modalità anteprima, ma OpenAI promette di rilasciare la sua versione stabile nelle prossime settimane.
GPT-4 Turbo: ecco tutto ciò che devi sapere al riguardo
GPT-4 Turbo avrà istruzioni migliorate e, secondo OpenAI, questa versione GPT presenterà anche nuovi miglioramenti per la chiamata delle funzioni.
Oggi rilasciamo diversi miglioramenti, inclusa la possibilità di richiamare più funzioni in un unico messaggio: gli utenti possono inviare un messaggio richiedere più azioni, come "aprire il finestrino dell'auto e spegnere l'aria condizionata", che in precedenza richiedevano più viaggi di andata e ritorno con il modello (saperne di più). Stiamo anche migliorando la precisione delle chiamate alle funzioni: è più probabile che GPT-4 Turbo restituisca i parametri di funzione corretti.
OpenAI
Il modello sarà anche in grado di produrre risultati riproducibili, il che, secondo le parole di OpenAI, ha un valore inestimabile per gli sviluppatori.
Questa funzionalità beta è utile per casi d'uso come la riproduzione di richieste di debug, la scrittura di unit test più completi e, in generale, per avere un livello di controllo più elevato sul comportamento del modello. Noi di OpenAI abbiamo utilizzato questa funzionalità internamente per i nostri test unitari e l'abbiamo trovata preziosa.
OpenAI
Insieme a GPT-4 Turbo, arriverà anche GPT 3.5 Turbo, che verrà rilasciato con molteplici nuove funzionalità.
Il nuovo 3.5 Turbo supporta il seguito delle istruzioni migliorato, la modalità JSON e la chiamata di funzioni parallele. Ad esempio, le nostre valutazioni interne mostrano un miglioramento del 38% nel formato dopo attività come la generazione di JSON, XML e YAML. Gli sviluppatori possono accedere a questo nuovo modello chiamando gpt-3.5-turbo-1106 nell'API. Le applicazioni che utilizzano il nome gpt-3.5-turbo verranno automaticamente aggiornate al nuovo modello l'11 dicembre. I modelli precedenti continueranno a essere accessibili passando gpt-3.5-turbo-0613 nell'API fino al 13 giugno 2024.
OpenAI
Cosa ne pensi del nuovo GPT-4 Turbo?