- Улучшенный вызов функций
- Режим JSON
- Воспроизводимый результат
- Предварительный просмотр
- В 3 раза экономичнее
Во время конференции Microsoft для разработчиков облачных технологий генеральный директор компании Сатья Наделла упомянул о запуске обновленных моделей генеративного искусственного интеллекта, которые появятся в будущем. Открытые службы Azure скоро появятся.
С этой недели клиенты Azure OpenAI Service теперь могут воспользоваться самыми продвинутыми версиями прегенеративных моделей OpenAI с GTP-4 и GPT-3.5 Turbo 1106.
Microsoft выпустила новые модели на ранее существующие рынки, а также открыла свои каналы для трех новых регионов, включая Восточную Норвегию, Южную Индию и Западную часть США. Службы Azure OpenAI теперь доступны в четырнадцати регионах мира.
Новые модели, особенно GTP4 Turbo, приносят с собой информацию о мировых событиях до апреля 2023 года, а также 128L. контекстные окна, позволяющие разработчикам создавать собственные входные данные, которые теперь могут использовать расширенную генерацию извлечения. (ТРЯПКА).
Что касается цен на токены для новых моделей, цена GTP-4 Turbo составляет 0,01 доллара США за 1000 токенов для ввода и 0,03 доллара США за 1000 токенов для вывода. Судя по моделям ввода и вывода, GPT-4 Turbo для служб Azure OpenAI «в 3 раза экономичнее для входных токенов и в 2 раза более экономично для выходных токенов» по сравнению с обычными используемыми моделями GPT-4. сейчас.
Помимо снижения цены, есть также улучшенные функции, такие как вызов функций с помощью GPT-4 Turbo, позволяющий выполнять несколько параллельных вызовов функций и инструментов, что делает приложения более эффективными. GPT-4 также представляет режим JSON для правильно отформатированного вывода JSON. Воспроизводимость результатов также становится возможной и дает вероятностные результаты.
Что касается GPT-3.5 Turbo 1106, он включает в себя многие из тех же обновленных функций, что и GPT-4 Turbo, но также станет моделью Turbo по умолчанию с контекстным окном 16 КБ и новыми ценами на ввод/вывод токенов.
Как упоминалось ранее, обе новые модели GPT доступны в предварительной версии для большинства клиентов, и Microsoft обещает сделать их более доступными с помощью Provisioned Throughput.
