A GPT-4 Turbo a kontextus hosszát 128 000 tokenre bővíti

A kiterjesztett szövegkörnyezet egy 300 oldalas könyvéhez hasonlítható.

Az OpenAI most jelentette be először a GPT-4 Turbót OpenAI DevDay esemény. GPT-4 Turbo kiterjeszti a kontextus hosszát 128 000 tokenre.

A cég szerint a 128 000 token egy 300 oldalas könyvhöz hasonlítható, így a felhasználóknak most sokkal több helyük lesz a ChatGPT-vel való interakcióhoz egyetlen beszélgetésben.

Noha a korlátlan kontextushossz még fejlesztés alatt áll, az év elején foglalkoztunk egy történettel, ahol A Microsoft igyekszik elérni, a GPT-4 ilyen mértékű kontextushosszának kiterjesztése több lesz, mint hasznos.

A GPT-4 Turbo képességesebb, és 2023 áprilisáig ismeri a világ eseményeit. 128 000 kontextusablakkal rendelkezik, így egyetlen promptban több mint 300 oldalnyi szöveg fér el. A teljesítményét is optimalizáltuk, így a GPT-4 Turbo-t a 3x olcsóbb a bemeneti tokenek ára és a kimeneti tokenek 2x olcsóbb ára a GPT-4-hez képest.

OpenAI

A GPT-4 Turbo jelenleg előnézeti módban érhető el, de az OpenAI azt ígéri, hogy a következő hetekben kiadja stabil verzióját.

GPT-4 Turbo: Itt van minden, amit tudnia kell róla

A GPT-4 Turbo továbbfejlesztett utasításokat követ majd, és az OpenAI szerint ez a GPT-verzió új fejlesztéseket is tartalmaz a funkcióhívásokhoz.

A mai napon számos fejlesztést adunk ki, beleértve a több funkció egyetlen üzenetben történő meghívását is: a felhasználók egy üzenetet küldhetnek több művelet kérése, például „nyisd ki az autó ablakát és kapcsold ki a légkondicionálót”, ami korábban többszöri körutazást igényelt volna modell (tudj meg többet). A függvényhívási pontosságot is javítjuk: a GPT-4 Turbo nagyobb valószínűséggel adja vissza a megfelelő függvényparamétereket.

OpenAI

A modell képes lesz reprodukálható kimenetekre is, ami az OpenAI saját szavai szerint felbecsülhetetlen a fejlesztők számára.

Ez a béta funkció olyan használati esetekben hasznos, mint például a hibakeresési kérelmek újrajátszása, átfogóbb egységtesztek írása, és általában nagyobb fokú ellenőrzés a modell viselkedése felett. Mi az OpenAI-nál ezt a funkciót belsőleg használjuk saját egységteszteinkhez, és felbecsülhetetlen értékűnek találtuk.

OpenAI

A GPT-4 Turbo mellé érkezik a GPT 3.5 Turbo is, amely számos újdonsággal fog megjelenni.

Az új 3.5 Turbo támogatja a továbbfejlesztett utasításkövetést, a JSON módot és a párhuzamos függvényhívást. Belső értékeléseink például 38%-os formátumbeli javulást mutatnak olyan feladatok után, mint a JSON, XML és YAML generálása. A fejlesztők az API-ban a gpt-3.5-turbo-1106 hívásával érhetik el ezt az új modellt. A gpt-3.5-turbo nevet használó alkalmazások december 11-én automatikusan frissülnek az új modellre. A régebbi modellek továbbra is elérhetők lesznek a gpt-3.5-turbo-0613 átadásával az API-ban 2024. június 13-ig.

OpenAI

Mi a véleménye az új GPT-4 Turbóról?