- Peningkatan Fungsi Panggilan
- Modus JSON
- Keluaran yang Dapat Direproduksi
- Pratinjau
- 3x lebih hemat biaya
Selama konferensi pengembang cloud Microsoft, CEO perusahaan Satya Nadella menyebutkan peluncuran model AI generatif yang diperbarui akan segera terjadi Layanan Terbuka Azure akan segera hadir.
Mulai minggu ini, pelanggan Azure OpenAI Service kini dapat memanfaatkan versi paling canggih dari model pra-generatif OpenAI dengan GTP-4 dan GPT-3.5 Turbo 1106.
Microsoft meluncurkan model baru ke pasar yang sudah ada sebelumnya sekaligus membuka salurannya ke tiga wilayah baru yang mencakup Norwegia Timur, India Selatan, dan AS Barat. Layanan Azure OpenAI kini tersedia di total empat belas wilayah global.
Model-model baru, khususnya GTP4 Turbo membawa serta pengetahuan tentang peristiwa dunia hingga April 2023 serta 128L jendela konteks untuk memungkinkan pengembang membuat input data khusus yang kini dapat memanfaatkan Retrieval Augmented Generation (LAP).
Sedangkan untuk harga token untuk model baru, harga GTP-4 Turbo adalah $0,01/1000 token untuk input dan $0,03/1000 token untuk output. Berdasarkan model masukan dan keluaran, turbo GPT-4 untuk Layanan Azure OpenAI “3x lebih hemat biaya token masukan dan 2x lebih hemat biaya untuk token keluaran” jika dibandingkan dengan model GPT-4 biasa yang digunakan Sekarang.
Selain peningkatan harga, terdapat juga peningkatan fitur seperti pemanggilan fungsi dengan GPT-4 Turbo yang memungkinkan pemanggilan beberapa fungsi dan alat secara paralel untuk membuat aplikasi lebih efisien. GPT-4 juga memperkenalkan Mode JSON untuk memformat keluaran JSON dengan benar. Output yang dapat direproduksi juga dimungkinkan dan memberikan hasil yang bersifat probabis.
Sedangkan untuk GPT-3.5 Turbo 1106, ia menghadirkan banyak fitur terbaru yang sama seperti GPT-4 Turbo tetapi juga akan menjadi model Turbo default dengan jendela konteks 16K dan harga input/output token baru.
Seperti disebutkan sebelumnya, kedua model GPT baru tersedia dalam pratinjau untuk sebagian besar pelanggan dan Microsoft berjanji untuk menjadikannya lebih dapat diakses secara luas dengan Throughput yang Disediakan.
