GPT-4 Turbo utvider kontekstlengden til 128 000 tokens

Den utvidede kontekstlengden kan sammenlignes med en bok på 300 sider.

OpenAI annonserte nettopp GPT-4 Turbo, på sin første noensinne OpenAI DevDay Event. GPT-4 Turbo utvider kontekstlengden til 128 000 tokens.

Selskapet sier at de 128 000 tokenene er sammenlignbare med en 300-siders bok, så brukerne vil nå ha mye mer plass til å samhandle med ChatGPT i én enkelt diskusjon.

Mens ubegrenset kontekstlengde fortsatt er under utvikling, da vi dekket en historie tidligere i år hvor Microsoft prøver å oppnå det, GPT-4 utvider sin kontekstlengde til en slik grad vil være mer enn nyttig.

GPT-4 Turbo er mer kapabel og har kunnskap om verdensbegivenheter frem til april 2023. Den har et 128k kontekstvindu slik at det kan passe mer enn 300 sider med tekst i en enkelt ledetekst. Vi har også optimalisert ytelsen slik at vi kan tilby GPT-4 Turbo på en 3 ganger billigere pris for input tokens og en 2x billigere pris for output tokens sammenlignet med GPT-4.

OpenAI

GPT-4 Turbo er for øyeblikket tilgjengelig i forhåndsvisningsmodus, men OpenAI lover å gi ut sin stabile versjon i løpet av de neste ukene.

GPT-4 Turbo: Her er alt du trenger å vite om det

GPT-4 Turbo vil ha en forbedret instruksjonsfølelse, og ifølge OpenAI vil denne GPT-versjonen også inneholde nye forbedringer for funksjonsanrop.

Vi lanserer flere forbedringer i dag, inkludert muligheten til å kalle opp flere funksjoner i én enkelt melding: brukere kan sende én melding be om flere handlinger, for eksempel "åpne bilvinduet og slå av klimaanlegget", som tidligere ville kreve flere rundturer med modell (lære mer). Vi forbedrer også funksjonsanropsnøyaktigheten: GPT-4 Turbo er mer sannsynlig å returnere de riktige funksjonsparametrene.

OpenAI

Modellen vil også være i stand til reproduserbare utdata, som ifølge OpenAIs egne ord er uvurderlig for utviklere.

Denne betafunksjonen er nyttig for brukstilfeller som å spille av forespørsler om feilsøking, skrive mer omfattende enhetstester og generelt ha en høyere grad av kontroll over modellens oppførsel. Vi i OpenAI har brukt denne funksjonen internt for våre egne enhetstester og har funnet den uvurderlig.

OpenAI

Sammen med GPT-4 Turbo kommer også GPT 3.5 Turbo, og den vil bli utgitt med flere nye funksjoner.

Den nye 3.5 Turbo støtter forbedret instruksjonsfølging, JSON-modus og parallellfunksjonsanrop. For eksempel viser våre interne evalueringer en forbedring på 38 % i formatet etter oppgaver som å generere JSON, XML og YAML. Utviklere kan få tilgang til denne nye modellen ved å ringe gpt-3.5-turbo-1106 i API. Applikasjoner som bruker navnet gpt-3.5-turbo vil automatisk bli oppgradert til den nye modellen 11. desember. Eldre modeller vil fortsatt være tilgjengelige ved å sende gpt-3.5-turbo-0613 i API-en frem til 13. juni 2024.

OpenAI

Hva er dine tanker om den nye GPT-4 Turbo?