Conheça o Shepherd AI da Meta, o guia AI que corrige LLMs

Shepherd é o modelo legal de IA na sala, apontando os erros do seu modelo de IA.

É hora de dar um passo atrás na cobertura Os avanços da IA ​​da Microsoft, para dar uma olhada em um dos modelos em que sua recente parceira, a Meta, vem trabalhando.

A empresa do Facebook também financiou pesquisas sobre IA por conta própria, e o resultado é um modelo de IA que é capaz de corrigir grandes modelos de linguagem (LLMs) e orientá-los a fornecer o correto respostas.

A equipe por trás do projeto chamou sugestivamente o modelo Pastor IA, e o modelo foi criado para abordar os erros que os LLMs podem cometer quando solicitados a realizar determinadas tarefas.

Neste trabalho, apresentamos o Shepherd, um modelo de linguagem especificamente sintonizado para criticar as respostas do modelo e sugerir refinamentos, estendendo-se além das capacidades de um modelo desafinado para identificar diversos erros e fornecer sugestões para remediá-los. No centro de nossa abordagem está um conjunto de dados de feedback de alta qualidade, que selecionamos a partir do feedback da comunidade e anotações humanas.

instagram story viewer

Pesquisa Meta AI, FAIR

Como você deve saber, a Meta lançou seus LLMs, Llama 2, em parceria com a Microsoft, há várias semanas. O Llama 2 é um impressionante modelo de código aberto de 70B de parâmetros que a Microsoft e a Meta planejam comercializar para usuários e organizações para construir suas ferramentas internas de IA.

Mas a IA ainda não é perfeita. E muitas de suas soluções nem sempre parece estar correto. Shepherd está aqui para resolver esses problemas, corrigindo-os e sugerindo soluções, de acordo com a Meta AI Research.

Shepherd AI é um professor de IA natural e informal

Todos sabemos que o Bing Chat, por exemplo, tende a seguir alguns padrões: a ferramenta pode ser criativa, mas também pode limitar sua criatividade. Quando se trata de assuntos profissionais, o Bing AI também pode assumir uma atitude séria.

No entanto, parece que o Shepherd AI da Meta funciona como um professor informal de IA para os outros LLMs. O modelo, que é consideravelmente muito menor nos parâmetros 7B, tem um tom de voz natural e informal ao corrigir e sugerir soluções.

Tudo isso foi possível graças a uma variedade de fontes de treinamento, incluindo:

• Feedback da comunidade: Shepherd AI foi treinado em conteúdo curado de fóruns online (fóruns do Reddit, especificamente), o que permite suas entradas naturais.
• Entrada anotada por humanos: o Shepherd AI também foi treinado em um conjunto de bancos de dados públicos selecionados, o que permite suas correções organizadas e factuais.

Esses dois métodos permitem que a Shepherd AI ofereça soluções reais e validadas com um tom muito informal, tornando-o a melhor escolha para aqueles que preferem um modelo de IA mais amigável para testar e corrigir suas IAs.

O Shepherd AI é perfeitamente capaz de fornecer uma correção factual melhor do que o ChatGPT, por exemplo, apesar de sua infraestrutura relativamente pequena. FAIR e Meta AI Research descobriram que a ferramenta AI oferece melhores resultados do que a maioria de suas alternativas competitivas, com uma taxa média de vitórias de taxa de vitória de 53-87%. Além disso, o Shepherd AI também pode fazer julgamentos precisos sobre qualquer tipo de conteúdo gerado pelo LLM.

Por enquanto, o Shepherd é um novo modelo de IA, mas à medida que mais pesquisas são feitas, o modelo provavelmente será lançado no futuro, como um projeto de código aberto.

Você está animado com isso? Você o usaria para corrigir seu próprio modelo de IA? O que você acha disso?