GPT-4 Turbo paplašina konteksta garumu līdz 128 000 marķieru

Paplašinātais konteksta garums ir salīdzināms ar 300 lappušu grāmatu.

OpenAI tikko pirmo reizi paziņoja par GPT-4 Turbo OpenAI DevDay pasākums. GPT-4 Turbo paplašina konteksta garumu līdz 128 000 marķieru.

Uzņēmums saka, ka 128 000 žetonu ir salīdzināmi ar 300 lappušu grāmatu, tāpēc lietotājiem tagad būs daudz vairāk vietas, lai mijiedarbotos ar ChatGPT vienā diskusijā.

Kamēr neierobežots konteksta garums joprojām tiek izstrādāts, kā mēs šī gada sākumā apskatījām stāstu, kur Microsoft cenšas to panākt, GPT-4 pagarinot konteksta garumu līdz tādai pakāpei būs vairāk nekā noderīga.

GPT-4 Turbo ir spējīgāks, un tam ir zināšanas par pasaules notikumiem līdz 2023. gada aprīlim. Tam ir 128 k konteksta logs, tāpēc vienā uzvednē var ievietot vairāk nekā 300 teksta lappušu ekvivalentu. Mēs arī optimizējām tā veiktspēju, lai mēs varētu piedāvāt GPT-4 Turbo 3x lētāk cena par ievades marķieriem un 2x lētāka cena izvades marķieriem, salīdzinot ar GPT-4.

OpenAI

Pašlaik GPT-4 Turbo ir pieejams priekšskatījuma režīmā, taču OpenAI sola izlaist savu stabilo versiju turpmāko nedēļu laikā.

GPT-4 Turbo: šeit ir viss, kas jums par to jāzina

GPT-4 Turbo būs uzlaboti norādījumi, un saskaņā ar OpenAI šai GPT versijai būs arī jauni funkciju izsaukšanas uzlabojumi.

Šodien mēs izlaižam vairākus uzlabojumus, tostarp iespēju izsaukt vairākas funkcijas vienā ziņojumā: lietotāji var nosūtīt vienu ziņojumu vairāku darbību pieprasīšana, piemēram, "atveriet automašīnas logu un izslēdziet gaisa kondicionētāju", kas iepriekš prasītu vairākus braucienus turp un atpakaļ ar modelis (Uzzināt vairāk). Mēs arī uzlabojam funkciju izsaukšanas precizitāti: GPT-4 Turbo, visticamāk, atgriezīs pareizos funkciju parametrus.

OpenAI

Modelis spēs arī reproducēt izvadi, kas, pēc OpenAI vārdiem, izstrādātājiem ir nenovērtējami.

Šī beta funkcija ir noderīga izmantošanas gadījumos, piemēram, atkļūdošanas pieprasījumu atkārtotai atskaņošanai, visaptverošāku vienību testu rakstīšanai un parasti lielākai modeļa uzvedības kontrolei. Mēs, OpenAI, esam izmantojuši šo funkciju iekšēji savām vienību pārbaudēm un esam atklājuši, ka tā ir nenovērtējama.

OpenAI

Kopā ar GPT-4 Turbo nāk arī GPT 3.5 Turbo, un tas tiks izlaists ar vairākām jaunām funkcijām.

Jaunais 3.5 Turbo atbalsta uzlabotu instrukciju sekošanu, JSON režīmu un paralēlo funkciju izsaukšanu. Piemēram, mūsu iekšējie novērtējumi parāda formāta uzlabojumus par 38% pēc tādiem uzdevumiem kā JSON, XML un YAML ģenerēšana. Izstrādātāji var piekļūt šim jaunajam modelim, API izsaucot gpt-3.5-turbo-1106. Lietojumprogrammas, kurās tiek izmantots nosaukums gpt-3.5-turbo, 11. decembrī tiks automātiski jauninātas uz jauno modeli. Vecāki modeļi joprojām būs pieejami, nokārtojot gpt-3.5-turbo-0613 API līdz 2024. gada 13. jūnijam.

OpenAI

Kādas ir jūsu domas par jauno GPT-4 Turbo?