Shepherd er den seje AI-model i rummet, der peger på din AI-models fejl.
- Shepherd AI blev trænet i fællesskabsfeedback, specifikt Reddit-fora.
- Modellen blev også trænet i kurateret menneske-annoteret input, hvilket gør dens rettelser faktuelle.
- Shepherd bruger en naturlig stemme til at give sin feedback.
Det er tid til at tage et skridt tilbage fra at dække Microsofts AI-gennembrud, for at tage et kig på en af de modeller, som dens seneste partner, Meta, har arbejdet på.
Facebook-virksomheden har også finansieret forskning i AI på egen hånd, og resultatet er en AI-model der er i stand til at rette store sprogmodeller (LLM'er) og guide dem til at levere de rigtige svar.
Holdet bag projektet kaldte suggestivt modellen Shepherd AI, og modellen er bygget til at adressere de fejl, LLM'er kan begå, når de bliver bedt om at udføre visse opgaver.
I dette arbejde introducerer vi Shepherd, en sprogmodel, der er specifikt indstillet til at kritisere modelsvar og foreslå forbedringer, der strækker sig ud over mulighederne for en ujusteret model til at identificere forskellige fejl og give forslag til afhjælpe dem. Kernen i vores tilgang er et feedback-datasæt af høj kvalitet, som vi sammensætter ud fra community-feedback og menneskelige annoteringer.
Meta AI-forskning, FAIR
Som du måske ved, udgav Meta sine LLM'er, Llama 2, i et partnerskab med Microsoft for flere uger siden. Llama 2 er en svimlende 70B parametre open source model at Microsoft og Meta planlægger at kommercialisere til brugere og organisationer for at bygge deres interne AI-værktøjer.
Men AI er ikke perfekt endnu. Og mange af dens løsninger synes ikke altid at være korrekt. Shepherd er her for at løse disse problemer ved at rette dem og foreslå løsninger, ifølge Meta AI Research.
Shepherd AI er en uformel, naturlig AI-lærer
Vi ved alle, at Bing Chat, for eksempel, har en tendens til at skulle følge nogle mønstre: værktøjet kan være kreativt, men det kan også begrænse dens kreativitet. Når det kommer til faglige spørgsmål, kan Bing AI også antage en seriøs holdning.
Det ser dog ud til, at Metas Shepherd AI fungerer som en uformel AI-lærer for de andre LLM'er. Modellen, som er betydeligt langt mindre ved 7B parametre, har en naturlig og uformel tone, når man retter og foreslår løsninger.
Dette var alt muligt takket være en række forskellige kilder til træning, herunder:
- Community-feedback: Shepherd AI blev trænet i kurateret indhold fra onlinefora (specifikt Reddit-fora), som muliggør dets naturlige input.
- Menneskeligt kommenteret input: Shepherd AI blev også trænet i et sæt udvalgte offentlige databaser, som muliggør dets organiserede og faktuelle rettelser.
Disse to metoder gør det muligt for Shepherd AI at tilbyde ægte, validerede løsninger med en meget uformel tone, hvilket gør det til det bedste valg for dem af jer, der foretrækker en mere venlig AI-model at teste og rette dine AI'er.
Shepherd AI er perfekt i stand til at give en bedre faktuel korrektion end ChatGPT, for eksempel på trods af dens relativt lille infrastruktur. FAIR og Meta AI Research fandt ud af, at AI-værktøjet giver bedre resultater end de fleste af dets konkurrencedygtige alternativer med en gennemsnitlig gevinstrate på gevinstrate på 53-87 %. Plus, Shepherd AI kan også foretage nøjagtige vurderinger af enhver form for LLM-genereret indhold.
For nu er Shepherd en ny AI-model, men efterhånden som der bliver sat mere forskning i den, vil modellen højst sandsynligt blive frigivet i fremtiden som et open source-projekt.
Er du begejstret for det? Ville du bruge det til at rette din egen AI-model? Hvad synes du om det?
