GPT-4 Turbo razširi dolžino konteksta na 128.000 žetonov

Razširjena dolžina konteksta je primerljiva s 300-stransko knjigo.

OpenAI je pravkar napovedal GPT-4 Turbo, prvič v zgodovini Dogodek OpenAI DevDay. GPT-4 Turbo razširi dolžino konteksta na 128.000 žetonov.

Podjetje pravi, da je 128.000 žetonov primerljivih s 300-stransko knjigo, tako da bodo imeli uporabniki zdaj veliko več prostora za interakcijo s ChatGPT v eni sami razpravi.

Čeprav je neomejena dolžina konteksta še v razvoju, smo v začetku tega leta obravnavali zgodbo, kjer Microsoft to poskuša doseči, GPT-4, ki razširi svojo dolžino konteksta do te mere, bo več kot uporaben.

GPT-4 Turbo je bolj zmogljiv in ima znanje o svetovnih dogodkih do aprila 2023. Ima 128k kontekstno okno, tako da lahko v en poziv vnese več kot 300 strani besedila. Prav tako smo optimizirali njegovo delovanje, tako da lahko ponudimo GPT-4 Turbo na a 3x ceneje cena za vhodne žetone in 2x nižja cena za izhodne žetone v primerjavi z GPT-4.

OpenAI

GPT-4 Turbo je trenutno na voljo v načinu predogleda, vendar OpenAI obljublja, da bo izdal svojo stabilno različico v naslednjih tednih.

GPT-4 Turbo: Tukaj je vse, kar morate vedeti o tem

GPT-4 Turbo bo imel naslednja izboljšana navodila, glede na OpenAI pa bo ta različica GPT vsebovala tudi nove izboljšave za klicanje funkcij.

Danes izdajamo več izboljšav, vključno z možnostjo klica več funkcij v enem sporočilu: uporabniki lahko pošljejo eno sporočilo zahtevanje več dejanj, kot je »odpiranje okna avtomobila in izklop klimatske naprave«, kar bi prej zahtevalo več povratnih potovanj z model (nauči se več). Izboljšujemo tudi natančnost klicanja funkcij: bolj verjetno je, da bo GPT-4 Turbo vrnil prave parametre funkcije.

OpenAI

Model bo zmožen tudi ponovljivih rezultatov, kar je po lastnih besedah ​​OpenAI neprecenljivo za razvijalce.

Ta funkcija beta je uporabna za primere uporabe, kot je ponovno predvajanje zahtev za razhroščevanje, pisanje obsežnejših testov enot in na splošno večja stopnja nadzora nad vedenjem modela. Mi v OpenAI uporabljamo to funkcijo interno za lastne teste enot in se nam zdi neprecenljiva.

OpenAI

Skupaj z GPT-4 Turbo prihaja tudi GPT 3.5 Turbo, ki bo izdan z več novimi funkcijami.

Novi 3.5 Turbo podpira izboljšano sledenje navodilom, način JSON in vzporedno klicanje funkcij. Naše interne ocene na primer kažejo 38-odstotno izboljšanje formata po nalogah, kot je generiranje JSON, XML in YAML. Razvijalci lahko dostopajo do tega novega modela s klicem gpt-3.5-turbo-1106 v API-ju. Aplikacije, ki uporabljajo ime gpt-3.5-turbo, bodo 11. decembra samodejno nadgrajene na nov model. Starejši modeli bodo še naprej dostopni s posredovanjem gpt-3.5-turbo-0613 v API do 13. junija 2024.

OpenAI

Kaj menite o novem GPT-4 Turbo?