Kemitraan AI Microsoft berikutnya ingin AI tidak merugikan orang

Kemitraan AI terbaru menjanjikan cara yang lebih aman untuk mengembangkan AI.

Satu minggu yang lalu, Microsoft mengumumkan Llama 2, kemitraan AI-nya dengan Meta, di Microsoft Inspire 2023. Llama 2 adalah model bahasa besar sumber terbuka, yang dapat Anda gunakan untuk membangun dan melatih AI Anda sendiri. LLM ini juga dikabarkan menjadi petunjuk pertama untuk mencapai AGI, yang pada akhirnya merupakan salah satu tujuan utama AI.

Nah, dalam seminggu sejak pengumuman itu, banyak hal yang terjadi. Ada juga desas-desus bahwa OpenAI, perusahaan di balik ChatGPT, merilis LLM sumber terbukanya sendiri, dengan nama sandi G3PO. Belum ada tanggal rilis untuk itu, tetapi itu akan terjadi pada tahun 2023 atau 2024.

Dan sebagai gantinya, tampaknya Microsoft telah bermitra dengan Anthropic, Google, dan Open AI ke Frontier Model Forum. Kemitraan ini adalah badan industri yang berfokus untuk memastikan pengembangan model AI perbatasan yang aman dan bertanggung jawab, menurut siaran pers.

Hari ini, Anthropic, Google, Microsoft, dan OpenAI mengumumkan pembentukan Frontier Model Forum, sebuah badan industri baru yang berfokus untuk memastikan pengembangan model AI perbatasan yang aman dan bertanggung jawab. Forum Model Perbatasan akan memanfaatkan keahlian teknis dan operasional dari perusahaan anggotanya untuk memberi manfaat bagi seluruh ekosistem AI, seperti melalui memajukan evaluasi dan tolok ukur teknis, dan mengembangkan perpustakaan umum solusi untuk mendukung praktik terbaik industri dan standar.

Forum Model Perbatasan

Pada dasarnya Frontier Model Forum ingin membangun AI yang tidak berisiko bagi manusia. Jika Anda ingat, salah satu partnernya, Anthropic, baru saja dirilis Claude 2 AI, dan model ini terkenal karena cara berinteraksi yang aman dengan orang-orang. Jadi, kita akan memiliki banyak AI yang mirip dengan AI Claude 2, dan mungkin bahkan lebih baik. Either way, itu berita bagus ketika datang ke industri ini.

Apa yang akan dilakukan Frontier Model Forum terkait AI

Kemitraan telah menetapkan serangkaian tujuan dan sasaran inti, dan akan bekerja sesuai dengan tujuan dan sasaran tersebut. Mereka:

1. Memajukan penelitian keamanan AI untuk mempromosikan pengembangan model frontier yang bertanggung jawab, meminimalkan risiko, dan memungkinkan evaluasi kemampuan dan keselamatan yang independen dan terstandardisasi.
2. Mengidentifikasi praktik terbaik untuk pengembangan dan penerapan model perbatasan yang bertanggung jawab, membantu masyarakat memahami sifat, kemampuan, keterbatasan, dan dampak teknologi.
3. Berkolaborasi dengan pembuat kebijakan, akademisi, masyarakat sipil, dan perusahaan untuk berbagi pengetahuan tentang risiko kepercayaan dan keamanan.
4. Mendukung upaya untuk mengembangkan aplikasi yang dapat membantu menjawab tantangan terbesar masyarakat, seperti mitigasi dan adaptasi perubahan iklim, deteksi dini dan pencegahan kanker, serta memerangi ancaman dunia maya.

Kemitraan ini juga terbuka untuk kolaborasi dengan organisasi

Jika Anda adalah organisasi yang mengembangkan AI model frontier, Anda dapat mengajukan untuk bergabung dan berkolaborasi dengan Forum Model Frontier.

Menurut Forum, model perbatasan AI adalah model pembelajaran mesin skala besar yang melebihi kemampuan yang saat ini ada dalam model paling canggih yang ada. Dan itu juga harus mampu melakukan berbagai macam tugas.

Untuk bergabung dalam kemitraan, Anda, sebagai sebuah organisasi, harus memenuhi kriteria berikut:

• Anda sudah mengembangkan dan menerapkan model perbatasan (sebagaimana didefinisikan oleh Forum).
• Organisasi mampu menunjukkan komitmen yang kuat terhadap keselamatan model perbatasan, termasuk melalui pendekatan teknis dan kelembagaan.
• Anda, sebagai sebuah organisasi, bersedia berkontribusi untuk memajukan upaya Forum termasuk dengan berpartisipasi dalam inisiatif bersama dan mendukung pengembangan dan berfungsinya inisiatif.

Inilah yang akan dilakukan Forum terkait AI

Frontier Model Forum ingin mendukung proses pengembangan AI yang aman dan bertanggung jawab, dan akan berfokus pada 3 bidang utama selama tahun 2023:

• Mengidentifikasi praktik terbaik: Mempromosikan berbagi pengetahuan dan praktik terbaik dengan fokus pada standar keselamatan dan praktik keselamatan untuk memitigasi berbagai potensi risiko.

• Memajukan penelitian keamanan AI: Dukung ekosistem keamanan AI dengan mengidentifikasi pertanyaan penelitian terbuka yang paling penting tentang keamanan AI. Forum akan mengoordinasikan penelitian untuk memajukan upaya ini di bidang-bidang seperti kekokohan permusuhan, interpretabilitas mekanistik, pengawasan yang dapat diskalakan, akses penelitian independen, perilaku yang muncul, dan anomali deteksi. Akan ada fokus yang kuat pada awalnya untuk mengembangkan dan berbagi perpustakaan umum tentang evaluasi teknis dan tolok ukur untuk model AI frontier.

• Memfasilitasi berbagi informasi antara perusahaan dan pemerintah: Tetapkan mekanisme tepercaya dan aman untuk berbagi informasi di antara perusahaan, pemerintah, dan pemangku kepentingan terkait terkait keselamatan dan risiko AI. Forum akan mengikuti praktik terbaik dalam pengungkapan yang bertanggung jawab dari bidang-bidang seperti keamanan siber.

Selama tahun 2023, forum Model Perbatasan akan bekerja menyusun dewan, kemudian membangun strategi dan menetapkan prioritas. Tetapi organisasi tersebut sudah ingin berkolaborasi dengan sebanyak mungkin institusi, swasta atau publik. Ini juga termasuk masyarakat sipil dan pemerintah, serta lembaga lain yang tertarik dengan AI.

Apa pendapat Anda tentang kemitraan baru ini? Apakah Anda tertarik untuk bergabung? Atau apakah Anda penasaran dengan model AI frontier? Beri tahu kami di bagian komentar di bawah.