Azure OpenAI Service saavad GPT-4 Turbo ja GPT-3.5 Turbo

Microsofti pilve arendajate konverentsil mainis ettevõtte tegevjuht Satya Nadella uuendatud generatiivsete AI mudelite turuletoomist. Azure Open Services saabuvad peagi.

Alates sellest nädalast saavad Azure OpenAI teenuse kliendid nüüd kasutada OpenAI genereerimiseelsete mudelite kõige arenenumaid versioone koos GTP-4 ja GPT-3.5 Turbo 1106-ga.

Microsoft tõi uued mudelid turule varasematele olemasolevatele turgudele, avades samal ajal oma kanalid kolmele uuele piirkonnale, sealhulgas Norra Ida-, Lõuna-India ja Lääne-USA. Azure OpenAI teenused on nüüd saadaval kokku neljateistkümnes globaalses piirkonnas.

Uued mudelid, eriti GTP4 Turbo, toovad endaga kaasa teadmisi maailma sündmustest kuni 2023. aasta aprillini ning 128L kontekstiaknad, mis võimaldavad arendajatel luua kohandatud andmesisendeid, mis võivad nüüd kasutada täiustatud genereerimist (RAG).

Mis puutub uute mudelite žetoonide hindadesse, siis GTP-4 Turbo hind on 0,01 $/1000 žetoone sisendi ja 0,03 $/1000 märgi kohta väljundi eest. Sisend- ja väljundmudelite põhjal on Azure OpenAI teenuste jaoks mõeldud GPT-4 turbo „3 korda kulutõhusam sisendmärgid ja 2x kulutõhusamad väljundmärgid” võrreldes tavaliste kasutatavate GPT-4 mudelitega nüüd.

Lisaks hinnaparandustele on ka täiustatud funktsioone, nagu funktsioonide kutsumine GPT-4 Turboga, mis võimaldab rakenduste tõhusamaks muutmiseks paralleelselt mitu funktsiooni ja tööriistakutset. GPT-4 tutvustab ka õigesti vormindatud JSON-väljundile JSON-režiimi. Samuti on võimalik reprodutseeritav väljund ja see annab tõenäoliselt tulemusi.

Mis puudutab GPT-3.5 Turbo 1106, siis see toob kaasa palju samu värskendatud funktsioone nagu GPT-4 Turbo, kuid sellest saab ka 16K kontekstiakna ja uue märgi sisend/väljundhinnaga Turbo vaikemudel.

Nagu eelnevalt mainitud, on mõlemad uued GPT-mudelid enamiku klientide jaoks saadaval eelvaatena ning Microsoft lubab teha need Provisioned Throughput abil laiemalt kättesaadavaks.