Shepherd je skvelý model AI v miestnosti, ktorý poukazuje na chyby vášho modelu AI.
- Shepherd AI bol vyškolený na spätnú väzbu od komunity, konkrétne na fórach Reddit.
- Model bol tiež trénovaný na kurátorskom vstupe anotovanom človekom, vďaka čomu sú jeho opravy faktické.
- Shepherd používa prirodzený hlas na poskytnutie spätnej väzby.
Je čas urobiť krok späť od zakrývania Prelomové objavy AI spoločnosti Microsoft, aby sme sa pozreli na jeden z modelov, na ktorých pracoval jej nedávny partner Meta.
Spoločnosť Facebook financuje výskum AI aj sama a výsledkom je model AI ktorý je schopný opraviť veľké jazykové modely (LLM) a viesť ich k poskytovaniu správnych odozvy.
Tím, ktorý za projektom stojí, sugestívne nazval model Pastier AIa model je zostavený tak, aby riešil chyby, ktoré môžu LLM urobiť, keď sú požiadaní o vykonanie určitých úloh.
V tejto práci predstavujeme Shepherd, jazykový model špecificky vyladený na kritické modelové reakcie a návrhy vylepšenia, ktoré presahujú možnosti nevyladeného modelu na identifikáciu rôznych chýb a poskytovanie návrhov napraviť ich. Základom nášho prístupu je vysokokvalitný súbor údajov o spätnej väzbe, ktorý vyberáme zo spätnej väzby komunity a ľudských anotácií.
Meta AI výskum, FÉR
Ako možno viete, Meta pred niekoľkými týždňami vydala svoje LLM, Llama 2, v spolupráci so spoločnosťou Microsoft. Llama 2 je ohromujúci open-source model so 70 B parametrami že Microsoft a Meta plánujú komercializovať používateľom a organizáciám, aby vytvorili svoje vlastné nástroje AI.
Ale AI ešte nie je dokonalá. A mnohé z jeho riešení sa nezdajú byť vždy správne. Podľa Meta AI Research je Shepherd tu, aby riešil tieto problémy tým, že ich opravil a navrhol riešenia.
Shepherd AI je neformálny, prirodzený učiteľ AI
Všetci vieme, že napríklad Bing Chat má tendenciu dodržiavať určité vzorce: nástroj môže byť kreatívny, ale môže tiež obmedziť jeho kreativitu. Pokiaľ ide o profesionálne záležitosti, Bing AI môže tiež zaujať seriózny postoj.
Zdá sa však, že Meta's Shepherd AI funguje ako neformálny učiteľ AI pre ostatné LLM. Model, ktorý je podstatne menší pri parametroch 7B, má prirodzený a neformálny tón hlasu pri opravách a návrhoch riešenia.
To všetko bolo možné vďaka rôznym zdrojom na školenie, vrátane:
- Spätná väzba od komunity: Shepherd AI bol vyškolený na kurátorskom obsahu z online fór (konkrétne fóra Reddit), čo umožňuje jeho prirodzené vstupy.
- Vstup anotovaný človekom: Shepherd AI bol tiež vyškolený na súbore vybraných verejných databáz, čo umožňuje jeho organizované a vecné opravy.
Tieto dve metódy umožňujú Shepherd AI ponúkať skutočné, overené riešenia s veľmi neformálnym tónom, takže je to najlepšia voľba pre tých z vás, ktorí uprednostňujú na testovanie a opravu priateľskejší model AI vaše AI.
Shepherd AI je dokonale schopný poskytnúť lepšiu vecnú opravu ako napríklad ChatGPT, a to aj napriek relatívne malej infraštruktúre. Výskum FAIR a Meta AI zistil, že nástroj AI poskytuje lepšie výsledky ako väčšina jeho konkurenčných alternatív s priemernou mierou výhier výhra 53-87%. Navyše, Shepherd AI dokáže tiež presne posúdiť akýkoľvek druh obsahu generovaného LLM.
Zatiaľ je Shepherd novým modelom AI, ale keď sa do neho zavedie ďalší výskum, model bude s najväčšou pravdepodobnosťou vydaný v budúcnosti ako projekt s otvoreným zdrojovým kódom.
Ste z toho nadšení? Použili by ste ho na opravu vlastného modelu AI? Čo si o tom myslíš?
