GPT-4 Turbo rozšiřuje délku kontextu na 128 000 tokenů

Délka rozšířeného kontextu je srovnatelná s 300stránkovou knihou.

OpenAI právě oznámilo GPT-4 Turbo, vůbec poprvé OpenAI DevDay událost. GPT-4 Turbo prodlužuje délku kontextu na 128 000 tokenů.

Společnost tvrdí, že 128 000 tokenů je srovnatelných s 300stránkovou knihou, takže uživatelé budou mít nyní mnohem více prostoru pro interakci s ChatGPT v jedné jediné diskusi.

Zatímco neomezená délka kontextu je stále ve vývoji, jak jsme probrali příběh na začátku tohoto roku, kde Microsoft se toho snaží dosáhnout, GPT-4 prodloužit délku kontextu na takovou míru bude víc než užitečný.

GPT-4 Turbo je schopnější a má znalosti o světových událostech až do dubna 2023. Má 128k kontextové okno, takže se do něj vejde ekvivalent více než 300 stránek textu do jedné výzvy. Také jsme optimalizovali jeho výkon, takže jsme schopni nabídnout GPT-4 Turbo za a 3x levnější cena za vstupní tokeny a 2x levnější cena za výstupní tokeny ve srovnání s GPT-4.

OpenAI

GPT-4 Turbo je aktuálně k dispozici v režimu náhledu, ale OpenAI slibuje vydání jeho stabilní verze v následujících týdnech.

GPT-4 Turbo: Zde je vše, co o něm potřebujete vědět

GPT-4 Turbo bude mít vylepšené následující instrukce a podle OpenAI bude tato verze GPT obsahovat také nová vylepšení pro volání funkcí.

Dnes vydáváme několik vylepšení, včetně možnosti volat více funkcí v jedné zprávě: uživatelé mohou odeslat jednu zprávu vyžadování více akcí, jako například „otevřít okno auta a vypnout klimatizaci“, což by dříve vyžadovalo více zpátečních jízd s Modelka (dozvědět se více). Zlepšujeme také přesnost volání funkcí: GPT-4 Turbo pravděpodobněji vrátí správné parametry funkcí.

OpenAI

Model bude také schopen reprodukovatelných výstupů, což je podle vlastních slov OpenAI pro vývojáře neocenitelné.

Tato beta funkce je užitečná pro případy použití, jako je opakované přehrávání požadavků na ladění, psaní komplexnějších testů jednotek a obecně vyšší stupeň kontroly nad chováním modelu. My v OpenAI používáme tuto funkci interně pro naše vlastní testy jednotek a zjistili jsme, že je neocenitelná.

OpenAI

Spolu s GPT-4 Turbo přichází také GPT 3.5 Turbo, který bude vydán s mnoha novými funkcemi.

Nové 3.5 Turbo podporuje vylepšené sledování instrukcí, režim JSON a paralelní volání funkcí. Například naše interní hodnocení ukazují 38% zlepšení formátu po úkolech, jako je generování JSON, XML a YAML. Vývojáři mohou k tomuto novému modelu přistupovat voláním gpt-3.5-turbo-1106 v API. Aplikace používající název gpt-3.5-turbo budou automaticky upgradovány na nový model 11. prosince. Starší modely budou i nadále dostupné po schválení gpt-3.5-turbo-0613 v API do 13. června 2024.

OpenAI

Co si myslíte o novém GPT-4 Turbo?