- Ulepszone wywoływanie funkcji
- Tryb JSON
- Powtarzalne dane wyjściowe
- Zapowiedź
- 3x bardziej opłacalne
Podczas konferencji deweloperów rozwiązań chmurowych Microsoftu dyrektor generalny firmy Satya Nadella wspomniał o nadchodzącym wprowadzeniu na rynek zaktualizowanych generatywnych modeli sztucznej inteligencji Wkrótce dostępne będą usługi Azure Open Services.
Od tego tygodnia klienci usługi Azure OpenAI Service mogą teraz korzystać z najbardziej zaawansowanych wersji przedgeneracyjnych modeli OpenAI z GTP-4 i GPT-3.5 Turbo 1106.
Microsoft wprowadził nowe modele na poprzednie istniejące rynki, otwierając jednocześnie swoje kanały sprzedaży w trzech nowych regionach, w tym w Norwegii Wschodniej, południowych Indiach i zachodnich Stanach Zjednoczonych. Usługi Azure OpenAI są teraz dostępne łącznie w czternastu regionach świata.
Nowe modele, w szczególności GTP4 Turbo, niosą ze sobą wiedzę o wydarzeniach na świecie do kwietnia 2023 r., a także 128L okna kontekstowe umożliwiające programistom tworzenie niestandardowych danych wejściowych, które mogą teraz wykorzystywać technologię rozszerzonej pobierania (SZMATA).
Jeśli chodzi o symboliczne ceny nowych modeli, cena GTP-4 Turbo wynosi 0,01 USD/1000 tokenów za dane wejściowe i 0,03 USD/1000 tokenów za dane wyjściowe. Na podstawie modeli wejściowych i wyjściowych GPT-4 Turbo dla usług Azure OpenAI jest „3 razy bardziej opłacalny”. tokeny wejściowe i 2x tańsze tokeny wyjściowe” w porównaniu do zwykłych używanych modeli GPT-4 Teraz.
Oprócz ulepszeń cenowych wprowadzono także ulepszone funkcje, takie jak wywoływanie funkcji za pomocą GPT-4 Turbo, umożliwiające jednoczesne wywoływanie wielu funkcji i narzędzi w celu zwiększenia wydajności aplikacji. GPT-4 wprowadza także tryb JSON do poprawnie sformatowanych danych wyjściowych JSON. Możliwa jest także powtarzalność wyników, które prawdopodobnie przynoszą rezultaty.
Jeśli chodzi o GPT-3.5 Turbo 1106, oferuje on wiele tych samych zaktualizowanych funkcji co GPT-4 Turbo, ale stanie się także domyślnym modelem Turbo z oknem kontekstowym 16 KB i nowymi cenami wejścia/wyjścia tokenów.
Jak wspomniano wcześniej, oba nowe modele GPT są dostępne w wersji zapoznawczej dla większości klientów, a Microsoft obiecał udostępnienie ich szerzej dzięki zapewnionej przepustowości.