Azure OpenAI Service får GPT-4 Turbo og GPT-3.5 Turbo

Under Microsofts skyutviklerkonferanse nevnte selskapets administrerende direktør Satya Nadella lanseringen av oppdaterte generative AI-modeller som kommer til Azure Open Services kommer snart.

Fra denne uken kan Azure OpenAI Service-kunder nå dra nytte av de mest avanserte versjonene av OpenAIs pre-generative modeller med GTP-4 og GPT-3.5 Turbo 1106.

Microsoft lanserte de nye modellene til tidligere eksisterende markeder, samtidig som de åpnet sine kanaler for tre nye regioner som inkluderer Øst-Norge, Sør-India og Vest-USA. Azure OpenAI Services er nå tilgjengelig i totalt fjorten globale regioner.

De nye modellene, spesielt GTP4 Turbo, bringer med seg kunnskap om verdensbegivenheter frem til april 2023 samt 128L kontekstvinduer for å tillate utviklere å lage tilpassede datainndata som nå kan utnytte Retrieval Augmented Generation (FILLE).

Når det gjelder tokenprisene for de nye modellene, er GTP-4 Turbo-prisen $0,01/1000 tokens for input og $0,03/1000 tokens for output. Basert på inngangs- og utgangsmodellene er GPT-4 turbo for Azure OpenAI Services «3 ganger mer kostnadseffektiv for input tokens og 2x mer kostnadseffektivt for output tokens" sammenlignet med de vanlige GPT-4-modellene som brukes nå.

Utover prisforbedringene, er det også forbedrede funksjoner som funksjonsanrop med GPT-4 Turbo som muliggjør flere funksjoner og verktøykall parallelt for å gjøre applikasjoner mer effektive. GPT-4 introduserer også JSON-modus til riktig formatert JSON-utgang. Reproduserbare utdata er også muliggjort og gir sannsynlige utfall.

Når det gjelder GPT-3.5 Turbo 1106, bringer den mange av de samme oppdaterte funksjonene som GPT-4 Turbo, men vil også bli standard Turbo-modell med 16K kontekstvindu og nye token input/output-priser.

Som tidligere nevnt, er begge de nye GPT-modellene tilgjengelige i forhåndsvisning for de fleste kunder med Microsoft som lover å gjøre den mer tilgjengelig med Provisioned Throughput.