- Покращений виклик функцій
- Режим JSON
- Відтворюваний вихід
- Попередній перегляд
- У 3 рази економічніше
Під час конференції хмарних розробників Microsoft генеральний директор компанії Сатья Наделла згадав про запуск оновлених генеративних моделей штучного інтелекту. Незабаром доступні відкриті служби Azure.
З цього тижня клієнти Azure OpenAI Service тепер можуть скористатися перевагами найдосконаліших версій попередніх генеративних моделей OpenAI із GTP-4 і GPT-3.5 Turbo 1106.
Microsoft випустила нові моделі на попередні існуючі ринки, а також відкрила свої канали для трьох нових регіонів, зокрема Східної Норвегії, Південної Індії та Західної частини США. Сервіси Azure OpenAI тепер доступні загалом у чотирнадцяти глобальних регіонах.
Нові моделі, зокрема GTP4 Turbo, приносять із собою знання про події у світі до квітня 2023 року, а також 128L контекстні вікна, щоб дозволити розробникам створювати користувальницькі введення даних, які тепер можуть використовувати Retrieval Augmented Generation (КРАГ).
Що стосується цін на токени для нових моделей, ціна GTP-4 Turbo становить 0,01 $/1000 жетонів для введення та 0,03 $/1000 жетонів для виведення. Виходячи з моделей введення та виведення, GPT-4 turbo для Azure OpenAI Services є «втричі економічнішим для вхідних токенів і вдвічі економічніше для вихідних токенів» порівняно зі звичайними моделями GPT-4, що використовуються зараз.
Окрім покращення ціни, є також покращені функції, такі як виклик функцій за допомогою GPT-4 Turbo, що дозволяє одночасно викликати кілька функцій і інструментів, щоб підвищити ефективність програм. GPT-4 також представляє режим JSON для правильно відформатованого виведення JSON. Відтворюваний вихід також стає можливим і приносить вірогідні результати.
Що стосується GPT-3.5 Turbo 1106, він має багато тих самих оновлених функцій, що й GPT-4 Turbo, але також стане моделлю Turbo за замовчуванням із контекстним вікном 16K і новою ціною введення/виведення токенів.
Як згадувалося раніше, обидві нові моделі GPT доступні в попередній версії для більшості клієнтів, і Microsoft обіцяє зробити їх більш доступними за допомогою Provisioned Throughput.
