Microsofts neste AI-partnerskap vil at AI ikke skal skade folk

Det nyeste AI-partnerskapet lover sikrere måter å utvikle AI på.

En uke siden, Microsoft annonserte Llama 2, dets AI-partnerskap med Meta, på Microsoft Inspire 2023. Llama 2 er en åpen kildekode stor språkmodell, som du kan bruke til å bygge og trene din egen AI. Dette LLM ryktes også å være den første ledetråden for å oppnå AGI, som til syvende og sist er et av AIs sentrale mål.

Vel, på en uke fra kunngjøringen har mye skjedd. Det går også rykter om at OpenAI, selskapet bak ChatGPT, gir ut sin egen åpen kildekode LLM, kodenavnet G3PO. Det er ingen utgivelsesdato for det ennå, men det kommer til å skje i 2023 eller i 2024.

Og i en rekke hendelser ser det ut til at Microsoft har samarbeidet med Anthropic, Google og Open AI til Frontier Model Forum. Partnerskapet er et bransjeorgan fokusert på å sikre sikker og ansvarlig utvikling av frontier AI-modeller,

ifølge pressemeldingen.

I dag kunngjør Anthropic, Google, Microsoft og OpenAI dannelsen av Frontier Model Forum, et nytt industriorgan med fokus på å sikre sikker og ansvarlig utvikling av frontier AI-modeller. Frontier Model Forum vil trekke på den tekniske og operasjonelle ekspertisen til sine medlemsbedrifter til fordel for hele AI-økosystemet, som f.eks. gjennom å fremme tekniske evalueringer og benchmarks, og utvikle et offentlig bibliotek med løsninger for å støtte industriens beste praksis og standarder.

Frontier Model Forum

I utgangspunktet ønsker Frontier Model Forum å bygge AI-er som ikke er en risiko for mennesker. Hvis du husker, har en av partnerne, Anthropic, nettopp sluppet Claude 2 AI, og modellen er kjent for måten den samhandler trygt med mennesker på. Så vi kommer til å ha mange AI-er som ligner på Claude 2 AI, og sannsynligvis enda bedre. Uansett, det er gode nyheter når det gjelder denne bransjen.

Hva vil Frontier Model Forum gjøre når det kommer til AI

Partnerskapet har etablert et sett med kjernemål og målsettinger, og det vil fungere i henhold til dem. De er:

1. Fremme forskning på AI-sikkerhet å fremme ansvarlig utvikling av grensemodeller, minimere risikoer og muliggjøre uavhengige, standardiserte evalueringer av evner og sikkerhet.
2. Identifisere beste praksis for ansvarlig utvikling og distribusjon av grensemodeller, som hjelper publikum med å forstå teknologiens natur, muligheter, begrensninger og virkning.
3. Samarbeide med beslutningstakere, akademikere, sivilsamfunn og bedrifter å dele kunnskap om tillit og sikkerhetsrisikoer.
4. Støtte arbeidet med å utvikle applikasjoner som kan bidra til å møte samfunnets største utfordringer, slik som reduksjon og tilpasning av klimaendringer, tidlig oppdagelse og forebygging av kreft, og bekjempelse av cybertrusler.

Partnerskapet er også åpent for samarbeid med organisasjoner

Hvis du er en organisasjon som utvikler frontier modell AI, kan du sende inn for å bli med og samarbeide med Frontier Model Forum.

I følge Forumet er en frontiermodell AI en storskala maskinlæringsmodell som overgår mulighetene som for tiden finnes i de mest avanserte eksisterende modellene. Og den skal også kunne utføre en lang rekke oppgaver.

For å bli med i partnerskapet må du som organisasjon oppfylle følgende kriterier:

• Du utvikler og distribuerer allerede grensemodeller (som definert av forumet).
• Organisasjonen er i stand til å demonstrere et sterkt engasjement for grensemodellsikkerhet, inkludert gjennom tekniske og institusjonelle tilnærminger.
• Du som organisasjon er villig til å bidra til å fremme forumets innsats, inkludert ved å delta i felles initiativ og støtte utviklingen og funksjonen til initiativet.

Dette er hva forumet vil gjøre når det kommer til AI

Frontier Model Forum ønsker å støtte en sikker og ansvarlig AI-utviklingsprosess, og det vil fokusere på 3 nøkkelområder i løpet av 2023:

• Identifisere beste praksis: Fremme kunnskapsdeling og beste praksis med fokus på sikkerhetsstandarder og sikkerhetspraksis for å redusere et bredt spekter av potensielle risikoer.

• Fremme forskning på AI-sikkerhet: Støtt AI-sikkerhetsøkosystemet ved å identifisere de viktigste åpne forskningsspørsmålene om AI-sikkerhet. Forumet vil koordinere forskning for å fremme denne innsatsen på områder som motstandsdyktighet, mekanistisk tolkning, skalerbar tilsyn, uavhengig forskningstilgang, fremvoksende atferd og anomali gjenkjenning. Det vil i første omgang være et sterkt fokus på å utvikle og dele et offentlig bibliotek med tekniske evalueringer og benchmarks for frontier AI-modeller.

• Tilrettelegging for informasjonsdeling mellom selskaper og myndigheter: Etabler pålitelige, sikre mekanismer for deling av informasjon mellom selskaper, myndigheter og relevante interessenter angående AI-sikkerhet og risiko. Forumet vil følge beste praksis for ansvarlig offentliggjøring fra områder som cybersikkerhet.

I løpet av 2023 vil Frontier Model-forumet jobbe med å sette sammen et styre, deretter bygge en strategi og fastsette prioriteringer. Men organisasjonen er allerede ute etter å samarbeide med så mange institusjoner som mulig, private eller offentlige. Dette inkluderer også sivile samfunn og myndigheter, samt andre institusjoner som er interessert i AI.

Hva synes du om dette nye samarbeidet? Er du interessert i å være med? Eller er du nysgjerrig på frontier AI-modeller? Gi oss beskjed i kommentarfeltet nedenfor.