Розширений контекст можна порівняти з 300-сторінковою книгою.
OpenAI щойно анонсувала GPT-4 Turbo вперше в історії Подія OpenAI DevDay. ГПТ-4 Турбо розширює довжину контексту до 128 000 токенів.
Компанія стверджує, що 128 000 токенів можна порівняти з 300-сторінковою книгою, тому користувачі тепер матимуть набагато більше місця для взаємодії з ChatGPT в одному обговоренні.
Хоча необмежену довжину контексту все ще розробляють, оскільки на початку цього року ми розглядали історію, де Корпорація Майкрософт намагається цього досягти, GPT-4 збільшить довжину свого контексту до такого ступеня, що буде більш ніж корисний.
GPT-4 Turbo є більш потужним і має знання про події у світі до квітня 2023 року. Він має контекстне вікно розміром 128 КБ, тож в одному запиті можна вмістити еквівалент понад 300 сторінок тексту. Ми також оптимізували його продуктивність, щоб ми могли запропонувати GPT-4 Turbo на a в 3 рази дешевше ціна на вхідні токени та вдвічі нижча ціна на вихідні токени порівняно з GPT-4.
OpenAI
Наразі GPT-4 Turbo доступний у режимі попереднього перегляду, але OpenAI обіцяє випустити його стабільну версію найближчими тижнями.
GPT-4 Turbo: ось усе, що вам потрібно про це знати
GPT-4 Turbo матиме наступні покращені інструкції, і, згідно з OpenAI, ця версія GPT також містить нові покращення для виклику функцій.
Сьогодні ми випускаємо кілька вдосконалень, зокрема можливість викликати кілька функцій в одному повідомленні: користувачі можуть надіслати одне повідомлення запросити кілька дій, наприклад «відкрити вікно автомобіля та вимкнути кондиціонер», що раніше вимагало кількох поїздок туди й назад із модель (вивчайте більше). Ми також покращуємо точність виклику функцій: GPT-4 Turbo з більшою ймовірністю повертатиме правильні параметри функції.
OpenAI
Модель також буде здатна видавати відтворювані результати, що, за словами OpenAI, є безцінним для розробників.
Ця бета-функція корисна для таких випадків використання, як повторне відтворення запитів на налагодження, написання більш комплексних модульних тестів і загалом отримання вищого рівня контролю над поведінкою моделі. Ми в OpenAI використовували цю функцію для власних модульних тестів і визнали її безцінною.
OpenAI
Разом із GPT-4 Turbo також виходить GPT 3.5 Turbo, яка буде випущена з кількома новими функціями.
Новий 3.5 Turbo підтримує покращене виконання інструкцій, режим JSON і паралельний виклик функцій. Наприклад, наші внутрішні оцінки показують покращення формату на 38% після таких завдань, як створення JSON, XML і YAML. Розробники можуть отримати доступ до цієї нової моделі, викликавши gpt-3.5-turbo-1106 в API. Програми, які використовують назву gpt-3.5-turbo, будуть автоматично оновлені до нової моделі 11 грудня. До 13 червня 2024 року доступ до старіших моделей буде надано за допомогою gpt-3.5-turbo-0613 в API.
OpenAI
Що ви думаєте про новий GPT-4 Turbo?
