Seznamte se s Meta's Shepherd AI, průvodce AI, který opravuje LLM

Shepherd je skvělý model AI v místnosti, který ukazuje chyby vašeho modelu AI.

Je čas udělat krok zpět od zakrytí Průlomy v AI společnosti Microsoft, abychom se podívali na jeden z modelů, na kterém pracoval její nedávný partner Meta.

Společnost Facebook financuje výzkum AI také sama a výsledkem je model AI který je schopen opravit velké jazykové modely (LLM) a vést je k poskytování správných odpovědi.

Tým stojící za projektem sugestivně nazval model Pastýř AIa model je vytvořen tak, aby řešil chyby, kterých se LLM mohou dopustit, když jsou požádáni o provedení určitých úkolů.

V této práci představujeme Shepherd, jazykový model speciálně vyladěný pro kritické reakce a návrhy vylepšení, která přesahují možnosti nevyladěného modelu k identifikaci různých chyb a poskytování návrhů napravit je. Jádrem našeho přístupu je vysoce kvalitní soubor údajů o zpětné vazbě, který zpracováváme na základě zpětné vazby od komunity a lidských anotací.

instagram story viewer

Meta AI výzkum, FÉR

Jak možná víte, Meta vydala své LLM, Llama 2, ve spolupráci s Microsoftem před několika týdny. Llama 2 je ohromující open-source model se 70B parametry že Microsoft a Meta plánují komercializovat uživatelům a organizacím, aby vytvořili své vlastní nástroje AI.

Ale AI ještě není dokonalá. A mnoho jeho řešení se nezdají být vždy správné. Shepherd je zde, aby tyto problémy řešil tím, že je napravil a navrhl řešení, podle Meta AI Research.

Shepherd AI je neformální, přirozený učitel umělé inteligence

Všichni víme, že například Bing Chat má tendenci dodržovat některé vzorce: nástroj může být kreativní, ale také může omezit jeho kreativitu. Pokud jde o profesionální záležitosti, může Bing AI také zaujmout vážný postoj.

Zdá se však, že Meta's Shepherd AI funguje jako neformální učitel AI pro ostatní LLM. Model, který je podstatně menší v parametrech 7B, má přirozený a neformální tón hlasu při opravách a navrhování řešení.

To vše bylo možné díky řadě zdrojů pro školení, včetně:

• Zpětná vazba od komunity: Shepherd AI byl vyškolen na kurátorském obsahu z online fór (konkrétně na fórech Reddit), což umožňuje jeho přirozené vstupy.
• Vstup anotovaný člověkem: Shepherd AI byl také vyškolen na sadě vybraných veřejných databází, což umožňuje jeho organizované a věcné opravy.

Tyto dvě metody umožňují Shepherd AI nabízet skutečná, ověřená řešení s velmi neformálním tónem, takže je to nejlepší volba pro ty z vás, kteří preferují test a opravu přátelštějšího modelu umělé inteligence vaše AI.

Shepherd AI je dokonale schopen poskytnout lepší faktickou opravu než například ChatGPT, a to navzdory své relativně malé infrastruktuře. FAIR a Meta AI Research zjistily, že nástroj AI poskytuje lepší výsledky než většina jeho konkurenčních alternativ s průměrnou mírou výher. výhra 53-87 %. Shepherd AI navíc dokáže přesně posoudit jakýkoli druh obsahu generovaného LLM.

Shepherd je prozatím nový model umělé inteligence, ale jak se do něj zavádí další výzkum, model bude s největší pravděpodobností v budoucnu vydán jako open-source projekt.

Jste z toho nadšení? Použili byste to ke korekci vlastního modelu umělé inteligence? Co si o tom myslíš?