GPT-4 Turbo разширява дължината на контекста до 128 000 токена

Разширената дължина на контекста е сравнима с книга от 300 страници.

OpenAI току-що обяви GPT-4 Turbo, за първи път OpenAI DevDay събитие. GPT-4 Turbo разширява дължината на контекста до 128 000 токена.

Компанията казва, че 128 000 токена са сравними с книга от 300 страници, така че потребителите вече ще имат много повече пространство за взаимодействие с ChatGPT в една единствена дискусия.

Докато неограничената дължина на контекста все още е в процес на разработка, тъй като по-рано тази година разгледахме история, където Microsoft се опитва да го постигне, GPT-4 разширявайки дължината на своя контекст до такава степен ще бъде повече от полезен.

GPT-4 Turbo е по-способен и има познания за световните събития до април 2023 г. Той има контекстен прозорец от 128k, така че може да побере еквивалента на повече от 300 страници текст в една подкана. Също така оптимизирахме неговата производителност, за да можем да предложим GPT-4 Turbo на a 3 пъти по-евтино цена за входни токени и 2 пъти по-ниска цена за изходни токени в сравнение с GPT-4.

OpenAI

GPT-4 Turbo в момента е наличен в режим на предварителен преглед, но OpenAI обещава да пусне стабилната си версия през следващите седмици.

GPT-4 Turbo: Ето всичко, което трябва да знаете за него

GPT-4 Turbo ще има следната подобрена инструкция и според OpenAI, тази GPT версия също ще включва нови подобрения за извикване на функции.

Днес пускаме няколко подобрения, включително възможността за извикване на множество функции в едно съобщение: потребителите могат да изпращат едно съобщение изискване на множество действия, като например „отворете прозореца на колата и изключете климатика“, което преди това би изисквало многократни обиколки с модел (Научете повече). Също така подобряваме точността на извикване на функция: GPT-4 Turbo е по-вероятно да върне правилните функционални параметри.

OpenAI

Моделът също ще може да генерира възпроизводими резултати, което според собствените думи на OpenAI е безценно за разработчиците.

Тази бета функция е полезна за случаи на употреба, като например повторно възпроизвеждане на заявки за отстраняване на грешки, писане на по-изчерпателни единични тестове и като цяло по-висока степен на контрол върху поведението на модела. Ние от OpenAI използвахме тази функция вътрешно за нашите собствени модулни тестове и я намерихме за безценна.

OpenAI

Заедно с GPT-4 Turbo идва и GPT 3.5 Turbo, който ще бъде пуснат с множество нови функции.

Новият 3.5 Turbo поддържа подобрено следване на инструкции, JSON режим и паралелно извикване на функция. Например нашите вътрешни оценки показват 38% подобрение на формата след задачи като генериране на JSON, XML и YAML. Разработчиците имат достъп до този нов модел, като извикат gpt-3.5-turbo-1106 в API. Приложенията, използващи името gpt-3.5-turbo, ще бъдат автоматично надстроени до новия модел на 11 декември. По-старите модели ще продължат да бъдат достъпни чрез предаване на gpt-3.5-turbo-0613 в API до 13 юни 2024 г.

OpenAI

Какви са вашите мисли за новия GPT-4 Turbo?