LLM を修正するガイド AI、Meta の Shepherd AI を紹介します

Shepherd はこの部屋のクールな AI モデルで、AI モデルの間違いを指摘します。

カバーから一歩退く時期が来ました マイクロソフトの AI の躍進、最近のパートナーである Meta が取り組んでいるモデルの 1 つを見てみましょう。

Facebook 社は独自に AI の研究にも資金を提供しており、その結果が AI モデルです 大規模言語モデル (LLM) を修正し、正しい言語モデルを提供できるように導くことができます。 反応。

プロジェクトの背後にあるチームは、このモデルを示唆的にこう呼んだ シェパードAI、そしてこのモデルは、LLM が特定のタスクの実行を求められたときに犯し得る間違いに対処するために構築されています。

この作業では、モデルの応答を批判し、提案するために特別に調整された言語モデルである Shepherd を紹介します。 調整されていないモデルの機能を超えてさまざまなエラーを特定し、提案を提供する改良。 それらを改善してください。 私たちのアプローチの中核となるのは、コミュニティのフィードバックと人間による注釈から厳選した高品質のフィードバック データセットです。

メタAI研究、FAIR

ご存知かもしれませんが、Meta は数週間前に Microsoft と提携して LLM である Llama 2 をリリースしました。 Llama 2 は、驚異的な 70B パラメータのオープンソース モデルです Microsoft と Meta は、ユーザーや組織が自社の AI ツールを構築できるように商用化する予定であるとのことです。

しかし、AIはまだ完璧ではありません。 そしてそのソリューションの多くは 必ずしも正しいとは限らない. Meta AI Researchによると、シェパードはこれらの問題を修正し、解決策を提案することでこれらの問題に対処するためにここにいます。

Shepherd AI は非公式で自然な AI 教師です

たとえば、Bing Chat はいくつかのパターンに従わなければならない傾向があることは誰もが知っています。

ツールは創造的になる可能性があります、しかしそれもできます 創造性を制限する. 専門的な問題となると、Bing AI は真剣な態度を取ることもあります。

ただし、Meta の Shepherd AI は、他の LLM に対する非公式の AI 教師として機能しているようです。 モデル、つまり パラメータが 7B とかなり小さく、修正や提案をするときは自然でくだけた口調になります。 ソリューション。

これはすべて、次のようなさまざまなトレーニング ソースのおかげで可能になりました。

• コミュニティからのフィードバック: Shepherd AI は、オンライン フォーラム (特に Reddit フォーラム) から厳選されたコンテンツに基づいてトレーニングされており、自然な入力が可能です。
• 人間による注釈付き入力: Shepherd AI は、選択された一連の公開データベースでもトレーニングされており、組織的かつ事実に基づいた修正が可能です。

これら 2 つの方法により、Shepherd AI は非常に非公式なトーンで実際の検証済みのソリューションを提供できます。 より使いやすい AI モデルをテストして修正したい人にとっては最良の選択です。 あなたのAI。

たとえば、Shepherd AI は、インフラストラクチャが比較的小規模であるにもかかわらず、ChatGPT よりも優れた事実訂正を提供する能力を完全に備えています。 FAIR および Meta AI Research によると、この AI ツールは競合他社のほとんどよりも優れた結果をもたらし、平均勝率は 勝率53～87%. さらに、Shepherd AI は、LLM によって生成されたあらゆる種類のコンテンツに対しても正確な判断を下すことができます。

今のところ、Shepherd は新しい AI モデルですが、さらに研究が進めば、このモデルは将来、オープンソース プロジェクトとしてリリースされる可能性が高くなります。

興奮していますか？ あなた自身の AI モデルを修正するためにそれを使用しますか? あなたはそれについてどう思いますか？