- Forbedret funktionsopkald
- JSON-tilstand
- Reproducerbar output
- Forhåndsvisning
- 3x mere omkostningseffektiv
Under Microsofts cloud-udviklerkonference nævnte virksomhedens CEO Satya Nadella lanceringen af opdaterede generative AI-modeller, der kommer til Azure Open Services ankommer snart.
Fra denne uge kan Azure OpenAI Service-kunder nu drage fordel af de mest avancerede versioner af OpenAIs prægenerative modeller med GTP-4 og GPT-3.5 Turbo 1106.
Microsoft lancerede de nye modeller til tidligere eksisterende markeder, mens de også åbnede sine kanaler til tre nye regioner, som omfatter Norge Øst, Sydindien og Vest USA. Azure OpenAI Services er nu tilgængelige i i alt fjorten globale regioner.
De nye modeller, især GTP4 Turbo, bringer viden om verdensbegivenheder frem til april 2023 samt 128L med sig kontekstvinduer for at give udviklere mulighed for at oprette brugerdefinerede datainput, der nu kan udnytte Retrieval Augmented Generation (KLUD).
Hvad angår tokenpriserne for de nye modeller, er GTP-4 Turbo-priserne $0,01/1000 tokens for input og $0,03/1000 tokens for output. Baseret på input- og outputmodellerne er GPT-4 turbo til Azure OpenAI Services "3x mere omkostningseffektiv for input-tokens og 2x mere omkostningseffektive for output-tokens" sammenlignet med de almindelige GPT-4-modeller, der bruges nu.
Ud over prisforbedringerne er der også forbedrede funktioner såsom funktionskald med GPT-4 Turbo, der muliggør flere funktions- og værktøjsopkald parallelt for at gøre applikationer mere effektive. GPT-4 introducerer også JSON Mode til korrekt formateret JSON-output. Reproducerbart output er også gjort muligt og giver sandsynlige resultater.
Hvad angår GPT-3.5 Turbo 1106, bringer den mange af de samme opdaterede funktioner som GPT-4 Turbo, men den vil også blive standard Turbo-modellen med 16K kontekstvindue og nye token input/output-priser.
Som tidligere nævnt er begge nye GPT-modeller tilgængelige i forhåndsvisning for de fleste kunder, hvor Microsoft lover at gøre det mere tilgængeligt med Provisioned Throughput.
