A Microsoft következő AI-partnersége azt akarja, hogy a mesterséges intelligencia ne okozzon kárt az embereknek

A legújabb AI-partnerség biztonságosabb módszereket ígér az AI fejlesztésére.

Egy hete, A Microsoft bejelentette a Llama 2-t, az AI-partnerség a Metával a Microsoft Inspire 2023-ban. A Llama 2 egy nyílt forráskódú nagy nyelvi modell, amellyel saját mesterséges intelligencia építésére és betanítására használható. A pletykák szerint ez az LLM is az első nyom az AGI eléréséhez, ami végső soron az AI egyik központi célja.

Nos, a bejelentéstől számított egy hét alatt sok minden történt. Vannak olyan pletykák is, hogy az OpenAI, a ChatGPT mögött álló cég kiadja saját nyílt forráskódú LLM-jét, G3PO kódnéven. Megjelenési dátum még nincs, de 2023-ban vagy 2024-ben fog megtörténni.

Az események fordulatában pedig úgy tűnik, hogy a Microsoft az Anthropic-kal, a Google-lal és az Open AI-vel társult a Frontier Model Forumhoz. A partnerség egy iparági testület, amely a határ menti AI-modellek biztonságos és felelős fejlesztésére összpontosít,

a sajtóközlemény szerint.

Az Anthropic, a Google, a Microsoft és az OpenAI ma bejelentette a Frontier Model Forum megalakulását, egy új iparági testületet, amely a határ menti AI-modellek biztonságos és felelős fejlesztésére összpontosít. A Frontier Model Forum a tagvállalatai műszaki és működési szakértelmére támaszkodik, hogy az egész mesterséges intelligencia ökoszisztéma javára váljon, mint pl. a műszaki értékelések és referenciaértékek fejlesztése, valamint a megoldások nyilvános könyvtárának kialakítása az iparág legjobb gyakorlatainak és szabványoknak.

Frontier Model Forum

A Frontier Model Forum alapvetően olyan mesterséges intelligenciákat akar építeni, amelyek nem jelentenek kockázatot az emberekre. Ha emlékszel, az egyik partner, az Anthropic most szabadult Claude 2 AI, és a modell arról híres, hogy biztonságosan kommunikál az emberekkel. Tehát sok olyan mesterséges intelligencia lesz, amely hasonló a Claude 2 AI-hoz, és valószínűleg még jobb is. Akárhogy is, ez kiváló hír, ha erről az iparágról van szó.

Mit fog tenni a Frontier Model Forum, ha az AI-ról van szó?

A partnerség alapvető célokat és célkitűzéseket határozott meg, és ezek szerint fog működni. Ők:

1. Az AI biztonsági kutatásának előmozdítása a határmodellek felelős fejlesztésének előmozdítása, a kockázatok minimalizálása, valamint a képességek és biztonság független, szabványosított értékelésének lehetővé tétele.
2. A legjobb gyakorlatok azonosítása határmodellek felelős fejlesztéséért és telepítéséért, segítve a nyilvánosságot a technológia természetének, képességeinek, korlátainak és hatásának megértésében.
3. Együttműködés politikai döntéshozókkal, tudósokkal, civil társadalommal és vállalatokkal hogy megosszák tudásukat a bizalmi és biztonsági kockázatokról.
4. Olyan alkalmazások fejlesztésére irányuló erőfeszítések támogatása, amelyek segíthetnek megfelelni a társadalom legnagyobb kihívásainak, mint például az éghajlatváltozás mérséklése és az ahhoz való alkalmazkodás, a rák korai felismerése és megelőzése, valamint a kiberfenyegetések elleni küzdelem.

A partnerség nyitott a szervezetekkel való együttműködésre is

Ha Ön egy határmodell AI-t fejlesztő szervezet, jelentkezhet a Frontier Model Forumhoz való csatlakozásra és együttműködésre.

A Forum szerint a határmodell AI egy nagyszabású gépi tanulási modell, amely meghaladja a legfejlettebb létező modellekben jelenleg meglévő képességeket. És képesnek kell lennie arra is, hogy a legkülönfélébb feladatokat elvégezze.

A partnerséghez való csatlakozáshoz Önnek, mint szervezetnek meg kell felelnie a következő kritériumoknak:

• Már fejleszti és telepíti a határmodelleket (a fórum meghatározása szerint).
• A szervezet képes demonstrálni erős elkötelezettségét a határmodell-biztonság iránt, beleértve a technikai és intézményi megközelítéseket is.
• Ön, mint szervezet hajlandó hozzájárulni a Fórum erőfeszítéseinek előmozdításához, beleértve a közös kezdeményezésekben való részvételt, valamint a kezdeményezés fejlesztésének és működésének támogatását.

Ezt fogja tenni a fórum, amikor az AI-ról van szó

A Frontier Model Forum egy biztonságos és felelősségteljes mesterséges intelligencia fejlesztési folyamatot kíván támogatni, és 2023-ban 3 kulcsfontosságú területre fog összpontosítani:

• A legjobb gyakorlatok azonosítása: A potenciális kockázatok széles körének csökkentése érdekében támogassa a tudásmegosztást és a legjobb gyakorlatokat, különös tekintettel a biztonsági szabványokra és biztonsági gyakorlatokra.

• Az AI biztonsági kutatásának előrehaladása: Támogassa a mesterséges intelligencia biztonsági ökoszisztémáját az AI biztonságával kapcsolatos legfontosabb nyitott kutatási kérdések azonosításával. A Fórum koordinálja a kutatást, hogy előmozdítsa ezeket az erőfeszítéseket olyan területeken, mint az ellenséges szilárdság, mechanikus értelmezhetőség, skálázható felügyelet, független kutatási hozzáférés, kialakuló viselkedések és anomáliák érzékelés. Kezdetben nagy hangsúlyt fog fektetni a határ menti AI-modellek műszaki értékeléseinek és referenciaértékeinek nyilvános könyvtárának fejlesztésére és megosztására.

• A vállalatok és kormányok közötti információmegosztás megkönnyítése: Megbízható, biztonságos mechanizmusok létrehozása az AI biztonságával és kockázataival kapcsolatos információk vállalatok, kormányok és érdekelt felek közötti megosztására. A fórum követni fogja a felelősségteljes közzététel bevált gyakorlatait olyan területeken, mint a kiberbiztonság.

2023 folyamán a Frontier Model fórum egy testület összeállításán, majd stratégia kidolgozásán és prioritások meghatározásán fog dolgozni. A szervezet azonban már arra törekszik, hogy a lehető legtöbb magán- vagy állami intézménnyel együttműködjön. Ide tartoznak a civil társadalmak és a kormányok, valamint más intézmények is, amelyek érdeklődnek a mesterséges intelligencia iránt.

Mi a véleménye erről az új partnerségről? Érdekel a csatlakozás? Vagy kíváncsi a határ menti AI modellekre? Tudassa velünk az alábbi megjegyzések részben.