Următorul parteneriat AI al Microsoft vrea ca AI să nu dăuneze oamenilor

Cel mai nou parteneriat AI promite căi mai sigure de dezvoltare a AI.

Acum o saptamana, Microsoft a anunțat Llama 2, parteneriatul său AI cu Meta, la Microsoft Inspire 2023. Llama 2 este un model de limbă mare open-source, pe care îl puteți folosi pentru a vă construi și a vă antrena propria IA. Se zvonește și că acest LLM este primul indiciu în realizarea AGI, care este, în cele din urmă, unul dintre obiectivele centrale ale AI.

Ei bine, într-o săptămână de la anunț s-au întâmplat multe. Există, de asemenea, zvonuri că OpenAI, compania din spatele ChatGPT, își lansează propriul LLM open-source, cu numele de cod G3PO. Nu există încă o dată de lansare, dar se va întâmpla în 2023 sau în 2024.

Și într-o întorsătură a evenimentelor, se pare că Microsoft s-a asociat cu Anthropic, Google și Open AI la Frontier Model Forum. Parteneriatul este un organism industrial axat pe asigurarea dezvoltării sigure și responsabile a modelelor de IA de frontieră,

conform comunicatului de presă.

Astăzi, Anthropic, Google, Microsoft și OpenAI anunță formarea Frontier Model Forum, un nou organism industrial axat pe asigurarea dezvoltării sigure și responsabile a modelelor de frontieră AI. Frontier Model Forum se va baza pe expertiza tehnică și operațională a companiilor membre pentru a beneficia întregul ecosistem AI, cum ar fi prin avansarea evaluărilor tehnice și a reperelor și prin dezvoltarea unei biblioteci publice de soluții pentru a sprijini cele mai bune practici și standardele.

Forumul modelului de frontieră

Practic, Frontier Model Forum vrea să construiască IA care nu reprezintă un risc pentru oameni. Dacă vă amintiți, unul dintre parteneri, Anthropic, tocmai a apărut Claude 2 AI, iar modelul este renumit pentru modul în care interacționează în siguranță cu oamenii. Deci, vom avea o mulțime de AI similare cu Claude 2 AI și, probabil, chiar mai bune. Oricum, este o veste excelentă când vine vorba de această industrie.

Ce va face Frontier Model Forum când vine vorba de AI

Parteneriatul a stabilit un set de scopuri și obiective de bază și va funcționa în conformitate cu acestea. Sunt:

1. Avansarea cercetării privind siguranța AI să promoveze dezvoltarea responsabilă a modelelor de frontieră, să minimizeze riscurile și să permită evaluări independente și standardizate ale capacităților și siguranței.
2. Identificarea celor mai bune practici pentru dezvoltarea și implementarea responsabilă a modelelor de frontieră, ajutând publicul să înțeleagă natura, capacitățile, limitările și impactul tehnologiei.
3. Colaborarea cu factorii de decizie politică, cadre universitare, societatea civilă și companii pentru a împărtăși cunoștințele despre riscurile de încredere și siguranță.
4. Sprijinirea eforturilor de dezvoltare a aplicațiilor care pot ajuta la îndeplinirea celor mai mari provocări ale societății, cum ar fi atenuarea și adaptarea la schimbările climatice, detectarea și prevenirea precoce a cancerului și combaterea amenințărilor cibernetice.

Parteneriatul este deschis și colaborării cu organizații

Dacă sunteți o organizație care dezvoltă model de frontieră AI, vă puteți înscrie pentru a vă alătura și a colabora cu Forumul Frontier Model.

Potrivit Forumului, un model de frontieră AI este un model de învățare automată la scară largă care depășește capacitățile prezente în prezent în cele mai avansate modele existente. Și ar trebui, de asemenea, să poată îndeplini o mare varietate de sarcini.

Pentru a vă alătura parteneriatului, dumneavoastră, ca organizație, trebuie să îndepliniți următoarele criterii:

• Deja dezvoltați și implementați modele de frontieră (așa cum sunt definite de Forum).
• Organizația este capabilă să demonstreze un angajament puternic față de siguranța modelului de frontieră, inclusiv prin abordări tehnice și instituționale.
• Dvs., ca organizație, sunteți dispus să contribuiți la promovarea eforturilor Forumului, inclusiv prin participarea la inițiative comune și sprijinirea dezvoltării și funcționării inițiativei.

Acesta este ceea ce va face Forumul când vine vorba de AI

Frontier Model Forum dorește să susțină un proces de dezvoltare AI sigur și responsabil și se va concentra pe 3 domenii cheie în 2023:

• Identificarea celor mai bune practici: Promovați schimbul de cunoștințe și cele mai bune practici, cu accent pe standardele de siguranță și practicile de siguranță pentru a atenua o gamă largă de riscuri potențiale.

• Avansarea cercetării privind siguranța AI: Sprijiniți ecosistemul de siguranță AI prin identificarea celor mai importante întrebări deschise de cercetare privind siguranța AI. Forumul va coordona cercetarea pentru a progresa aceste eforturi în domenii precum robustețea adversarului, interpretabilitate mecanică, supraveghere scalabilă, acces independent la cercetare, comportamente emergente și anomalie detectare. Inițial, se va pune un accent puternic pe dezvoltarea și partajarea unei biblioteci publice de evaluări tehnice și repere pentru modelele de IA de frontieră.

• Facilitarea schimbului de informații între companii și guverne: Stabiliți mecanisme sigure și de încredere pentru schimbul de informații între companii, guverne și părțile interesate relevante cu privire la siguranța și riscurile AI. Forumul va urma cele mai bune practici în dezvăluirea responsabilă din domenii precum securitatea cibernetică.

Pe parcursul anului 2023, forumul Frontier Model va lucra la asamblarea unui consiliu, apoi va construi o strategie și va stabili priorități. Dar organizația caută deja să colaboreze cu cât mai multe instituții, private sau publice. Aceasta include și societățile civile și guvernele, precum și alte instituții care sunt interesate de IA.

Ce părere aveți despre acest nou parteneriat? Sunteți interesat să vă alăturați? Sau ești curios despre modelele AI de frontieră? Anunțați-ne în secțiunea de comentarii de mai jos.