Incontra Meta's Shepherd AI, l'IA guida che corregge gli LLM

Shepherd è il fantastico modello di intelligenza artificiale nella stanza, che indica gli errori del nostro modello di intelligenza artificiale.

È tempo di fare un passo indietro rispetto alla copertura Le scoperte dell'IA di Microsoft, per dare un'occhiata a uno dei modelli su cui ha lavorato il suo recente partner, Meta.

Anche la società di Facebook ha finanziato la ricerca sull'intelligenza artificiale e il risultato è un modello di intelligenza artificiale che è in grado di correggere modelli linguistici di grandi dimensioni (LLM) e guidarli nel fornire il corretto risposte.

Il team dietro il progetto ha chiamato suggestivamente il modello Pastore AIe il modello è costruito per affrontare gli errori che gli LLM possono commettere quando viene loro chiesto di svolgere determinate attività.

In questo lavoro, presentiamo Shepherd, un modello linguistico specificamente sintonizzato per criticare le risposte del modello e suggerire perfezionamenti, che si estendono oltre le capacità di un modello non ottimizzato per identificare diversi errori e fornire suggerimenti a rimediarli. Al centro del nostro approccio c'è un set di dati di feedback di alta qualità, che curiamo dal feedback della community e dalle annotazioni umane.

Ricerca Meta AI, FAIR

Come forse saprai, Meta ha rilasciato i suoi LLM, Llama 2, in collaborazione con Microsoft, diverse settimane fa. Llama 2 è uno sbalorditivo modello open source con 70B di parametri che Microsoft e Meta intendono commercializzare a utenti e organizzazioni per costruire i loro strumenti di intelligenza artificiale interni.

Ma l'intelligenza artificiale non è ancora perfetta. E molte delle sue soluzioni non sembrano sempre corretti. Shepherd è qui per affrontare questi problemi correggendoli e suggerendo soluzioni, secondo Meta AI Research.

Shepherd AI è un insegnante di intelligenza artificiale informale e naturale

Sappiamo tutti che Bing Chat, ad esempio, tende a seguire alcuni schemi: lo strumento può essere creativo, ma può anche limitare la sua creatività. Quando si tratta di questioni professionali, Bing AI può anche assumere un atteggiamento serio.

Tuttavia, sembra che Shepherd AI di Meta funzioni come insegnante di intelligenza artificiale informale per gli altri LLM. Il modello, che è notevolmente molto più piccolo ai parametri 7B, ha un tono di voce naturale e informale quando corregge e suggerisce soluzioni.

Tutto questo è stato possibile grazie a una varietà di fonti per la formazione, tra cui:

• Feedback della community: Shepherd AI è stata addestrata su contenuti curati dai forum online (forum Reddit, in particolare), che consente i suoi input naturali.
• Input con annotazioni umane: Shepherd AI è stato anche addestrato su una serie di database pubblici selezionati, che ne consentono correzioni organizzate e fattuali.

Questi due metodi consentono a Shepherd AI di offrire soluzioni reali e validate con un tono molto informale, rendendolo la scelta migliore per quelli di voi che preferiscono un modello di intelligenza artificiale più amichevole da testare e correggere le tue IA.

Shepherd AI è perfettamente in grado di fornire una migliore correzione dei fatti rispetto a ChatGPT, ad esempio, nonostante la sua infrastruttura relativamente piccola. FAIR e Meta AI Research hanno scoperto che lo strumento AI fornisce risultati migliori rispetto alla maggior parte delle sue alternative competitive, con una percentuale di vincita media di tasso di vincita del 53-87%. Inoltre, Shepherd AI può anche esprimere giudizi accurati su qualsiasi tipo di contenuto generato da LLM.

Per ora, Shepherd è un nuovo modello di intelligenza artificiale, ma man mano che vengono approfondite le ricerche, molto probabilmente il modello verrà rilasciato in futuro, come progetto open source.

Ne sei entusiasta? Lo useresti per correggere il tuo modello di intelligenza artificiale? Cosa ne pensi?