GPT-4 Turbo predlžuje dĺžku kontextu na 128 000 tokenov

Rozšírená dĺžka kontextu je porovnateľná s 300-stranovou knihou.

OpenAI práve ohlásilo GPT-4 Turbo, vôbec prvýkrát OpenAI DevDay Event. GPT-4 Turbo rozširuje dĺžku kontextu na 128 000 tokenov.

Spoločnosť tvrdí, že 128 000 tokenov je porovnateľných s 300-stranovou knihou, takže používatelia budú mať teraz oveľa viac priestoru na interakciu s ChatGPT v jedinej diskusii.

Zatiaľ čo neobmedzená dĺžka kontextu je stále vo vývoji, pretože sme sa venovali príbehu začiatkom tohto roka Microsoft sa to snaží dosiahnuť, GPT-4 rozšírenie dĺžky kontextu do takej miery bude viac ako užitočné.

GPT-4 Turbo je schopnejší a má znalosti o svetových udalostiach až do apríla 2023. Má 128 000 kontextové okno, takže sa do jednej výzvy zmestí ekvivalent viac ako 300 strán textu. Optimalizovali sme aj jeho výkon, takže sme schopní ponúknuť GPT-4 Turbo za a 3x lacnejšie cena za vstupné tokeny a 2x lacnejšia cena za výstupné tokeny v porovnaní s GPT-4.

OpenAI

GPT-4 Turbo je momentálne k dispozícii v režime ukážky, ale OpenAI sľubuje vydanie stabilnej verzie v nasledujúcich týždňoch.

GPT-4 Turbo: Tu je všetko, čo o ňom potrebujete vedieť

GPT-4 Turbo bude mať vylepšené nasledujúce inštrukcie a podľa OpenAI bude táto verzia GPT obsahovať aj nové vylepšenia pre volanie funkcií.

Dnes vydávame niekoľko vylepšení, vrátane možnosti volať viacero funkcií v jednej správe: používatelia môžu poslať jednu správu vyžiadanie si viacerých úkonov, ako napríklad „otvorte okno auta a vypnite klimatizáciu“, čo by si predtým vyžadovalo viacero spiatočných ciest s Model (uč sa viac). Zlepšujeme tiež presnosť volania funkcií: GPT-4 Turbo s väčšou pravdepodobnosťou vráti správne parametre funkcií.

OpenAI

Model bude tiež schopný reprodukovateľných výstupov, čo je podľa vlastných slov OpenAI pre vývojárov neoceniteľné.

Táto funkcia beta je užitočná pre prípady použitia, ako je napríklad opakované prehrávanie požiadaviek na ladenie, písanie komplexnejších testov jednotiek a vo všeobecnosti vyšší stupeň kontroly nad správaním modelu. My v OpenAI používame túto funkciu interne na naše vlastné testy jednotiek a považujeme ju za neoceniteľnú.

OpenAI

Spolu s GPT-4 Turbo prichádza aj GPT 3.5 Turbo, ktorý bude vydaný s viacerými novými funkciami.

Nový 3.5 Turbo podporuje vylepšené sledovanie inštrukcií, režim JSON a paralelné volanie funkcií. Napríklad naše interné hodnotenia ukazujú 38 % zlepšenie formátu po úlohách, ako je generovanie JSON, XML a YAML. Vývojári môžu pristupovať k tomuto novému modelu volaním gpt-3.5-turbo-1106 v API. Aplikácie používajúce názov gpt-3.5-turbo budú automaticky inovované na nový model 11. decembra. Staršie modely budú naďalej dostupné po prechode gpt-3.5-turbo-0613 v rozhraní API do 13. júna 2024.

OpenAI

Aký je váš názor na nový GPT-4 Turbo?