GPT-4 Turbo увеличивает длину контекста до 128 000 токенов.

Длина расширенного контекста сравнима с 300-страничной книгой.

OpenAI только что анонсировала GPT-4 Turbo на своей первой Мероприятие OpenAI DevDay. ГПТ-4 Турбо увеличивает длину контекста до 128 000 токенов.

Компания заявляет, что 128 000 токенов сопоставимы с 300-страничной книгой, поэтому у пользователей теперь будет гораздо больше места для взаимодействия с ChatGPT в рамках одного обсуждения.

Хотя неограниченная длина контекста все еще находится в разработке, поскольку ранее в этом году мы рассказывали об истории, в которой Microsoft пытается достичь этого, GPT-4, расширяя длину контекста до такой степени, будет более чем полезный.

GPT-4 Turbo более способен и обладает знаниями о мировых событиях до апреля 2023 года. Он имеет контекстное окно размером 128 тыс., поэтому в одном приглашении может разместиться эквивалент более чем 300 страниц текста. Мы также оптимизировали его производительность, чтобы предложить GPT-4 Turbo по доступной цене. в 3 раза дешевле цена входных токенов и в 2 раза более низкая цена выходных токенов по сравнению с GPT-4.

ОпенАИ

GPT-4 Turbo в настоящее время доступен в режиме предварительного просмотра, но OpenAI обещает выпустить его стабильную версию в ближайшие недели.

GPT-4 Turbo: вот все, что вам нужно о нем знать

GPT-4 Turbo будет иметь улучшенное следование инструкциям, и, согласно OpenAI, эта версия GPT также будет содержать новые улучшения для вызова функций.

Сегодня мы выпускаем несколько улучшений, включая возможность вызова нескольких функций в одном сообщении: пользователи могут отправлять одно сообщение. запрос нескольких действий, таких как «открыть окно машины и выключить кондиционер», что раньше требовало многократного обращения к модель (узнать больше). Мы также повышаем точность вызова функций: GPT-4 Turbo с большей вероятностью будет возвращать правильные параметры функции.

ОпенАИ

Модель также будет способна выдавать воспроизводимые выходные данные, что, по словам OpenAI, имеет неоценимое значение для разработчиков.

Эта бета-функция полезна для таких случаев использования, как воспроизведение запросов на отладку, написание более полных модульных тестов и, как правило, более высокая степень контроля над поведением модели. Мы в OpenAI используем эту функцию для собственных модульных тестов и считаем ее бесценной.

ОпенАИ

Наряду с GPT-4 Turbo также появится GPT 3.5 Turbo, который будет выпущен с множеством новых функций.

Новый 3.5 Turbo поддерживает улучшенное следование инструкциям, режим JSON и параллельный вызов функций. Например, наши внутренние оценки показывают улучшение формата на 38 % при выполнении таких задач, как генерация JSON, XML и YAML. Разработчики могут получить доступ к этой новой модели, вызвав gpt-3.5-turbo-1106 в API. Приложения, использующие имя gpt-3.5-turbo, будут автоматически обновлены до новой модели 11 декабря. Старые модели будут по-прежнему доступны после передачи gpt-3.5-turbo-0613 в API до 13 июня 2024 года.

ОпенАИ

Что вы думаете о новом GPT-4 Turbo?