- Подобрено извикване на функции
- Режим JSON
- Възпроизводим изход
- Преглед
- 3 пъти по-рентабилен
По време на конференцията за облачни разработчици на Microsoft, главният изпълнителен директор на компанията Сатя Надела спомена стартирането на актуализирани генеративни AI модели, които идват Отворените услуги на Azure пристигат скоро.
От тази седмица клиентите на услугата Azure OpenAI вече могат да се възползват от най-модерните версии на предгенеративните модели на OpenAI с GTP-4 и GPT-3.5 Turbo 1106.
Microsoft пусна новите модели на предишни съществуващи пазари, като същевременно отвори своите канали към три нови региона, които включват Източна Норвегия, Южна Индия и Западни САЩ. Услугите Azure OpenAI вече са налични в общо четиринадесет глобални региона.
Новите модели, особено GTP4 Turbo, носят със себе си знания за световните събития до април 2023 г., както и 128L контекстни прозорци, за да позволят на разработчиците да създават персонализирани входни данни, които вече могат да използват Retrieval Augmented Generation (РАГ).
Що се отнася до цените на токените за новите модели, ценообразуването на GTP-4 Turbo е $0,01/1000 токена за вход и $0,03/1000 токена за изход. Въз основа на входните и изходните модели, GPT-4 turbo за Azure OpenAI Services е „3 пъти по-рентабилен за входни токени и 2 пъти по-рентабилни за изходни токени” в сравнение с използваните обикновени GPT-4 модели сега.
Освен подобренията в цените, има и подобрени функции като извикване на функции с GPT-4 Turbo, което позволява паралелно извикване на множество функции и инструменти, за да направят приложенията по-ефективни. GPT-4 също въвежда JSON режим за правилно форматиран JSON изход. Възпроизводимата продукция също е възможна и носи вероятностни резултати.
Що се отнася до GPT-3.5 Turbo 1106, той носи много от същите актуализирани функции като GPT-4 Turbo, но също така ще стане моделът Turbo по подразбиране с 16K контекстен прозорец и ново ценообразуване на вход/изход на токени.
Както споменахме по-рано, и двата нови GPT модела са налични в предварителен преглед за повечето клиенти, като Microsoft обещава да ги направи по-широко достъпни с Provisioned Throughput.
