سيحدث إطار العمل الجديد ثورة في نماذج الذكاء الاصطناعي.
- يتيح إطار العمل إمكانية الحصول على طول سياق غير محدود.
- طول السياق غير المحدود يعني إجراء محادثة أكثر تخصيصًا مع نماذج الذكاء الاصطناعي.
- إنها في الأساس الخطوة التالية للذكاء الاصطناعي في أن يصبح قريبًا من الإنسان تمامًا.
كانت Microsoft في طليعة تعليم الذكاء الاصطناعي وأدوات الذكاء الاصطناعي بشكل عام. سيأتي برنامج Copilot إلى نظام التشغيل Windows 11 قريبًا جدًا، كجزء من تحديثات Windows. يشق الذكاء الاصطناعي طريقه إلى Microsoft Teams باستخدام ملف خلاصة ذكية تساعد الناس على العمل بشكل أسهل.
يعد Bing أيضًا أحد أكثر أدوات الذكاء الاصطناعي إثارة، وتتيح لك ميزاته تحسين كل من عملك والطريقة التي تتصفح بها الإنترنت.
لكن في وقت سابق من هذا الأسبوع ، كشفت Microsoft النقاب عن ذلك أيضًا سيصبح Orca 13B مفتوح المصدر قريبًا. Orca 13B هو نموذج صغير للذكاء الاصطناعي يعمل بنفس الجودة والسرعة مثل نماذج الذكاء الاصطناعي الأخرى ، مثل ChatGPT.
الآن ، في معركة أبحاث الذكاء الاصطناعي والذكاء الاصطناعي ، تبتكر Microsoft LongMem ، إطار عمل افتراضي ونموذج لغة AI.
وفقًا لخيط Reddit هذا
، LongMem يسمح بطول سياق غير محدود باستخدام وحدة معالجة الرسومات ، واستخدام ذاكرة وحدة المعالجة المركزية. كل هذا يتم بسرعة أكبر.تقترح Microsoft Research إطارًا جديدًا ، LongMem ، يسمح بطول سياق غير محدود مع استخدام ذاكرة GPU مخفضة وسرعة استدلال أسرع. سيكون الرمز مفتوح المصدر
بواسطة ش / اللاما شيل في محلي
هل LongMem هو إجابة Microsoft لطول السياق غير المحدود؟
حسنًا ، لفهم ما يعنيه أن يكون لديك طول سياق غير محدود ، نحتاج أولاً إلى فهم ماذا يعني طول السياق؟
يشير طول السياق إلى عدد الرموز (الكلمات ، العلامات ، إلخ) التي يسمح بها النموذج ، ومدخلاته ومخرجاته ، ومدخلاتك ومخرجاتك أيضًا.
على سبيل المثال ، يحتوي ChatGPT على عدد محدود من الرموز المميزة مما يعني أن طول السياق الخاص به محدود أيضًا. بمجرد أن يتجاوز ChatGPT هذا الحد ، فإن كل التفاعل المستمر الذي كان لديك معه حتى تلك النقطة ، سيفقد كل أهميته. أو أفضل من ذلك ، سيتم إعادة تعيينه.
لذلك إذا كنت تبدأ محادثة مع ChatGPT حول موضوع Windows ، واستمرت هذه المحادثة أكثر من السياق المحدود length ، ستفقد أداة الذكاء الاصطناعي السياق ، وستبدأ إما في الانحراف عن الموضوع ، أو ستفقد المحادثة بأكملها إعادة ضبط.
سيؤدي طول السياق غير المحدود إلى التأكد من عدم حدوث ذلك ، وسيستمر نموذج الذكاء الاصطناعي في الإجابة عن هذا الموضوع ، بينما يتعلم أيضًا المعلومات ويكيّفها أثناء التحدث إليه حول Windows.
هذا يعني أن نموذج AI سيخصص المحادثة أيضًا وفقًا لإدخالاتك ، ومن هنا تأتي الحاجة إلى أن يكون للسياق طول غير محدود.
كيف يعمل LongMem؟
تعد Microsoft بذلك تمامًا من خلال بحثها الجديد حول إطار العمل ، LongMem. ستمكن LongMem نماذج اللغات الكبيرة من حفظ السياقات طويلة المدى واستخدام الذاكرة طويلة المدى مع انخفاض طاقة وحدة المعالجة المركزية.
يتكون الإطار من نموذج لغة كبيرة مجمدة مثل مشفر الذاكرة ، وهي شبكة جانبية متبقية كمسترد للذاكرة وقارئ ، وبنك ذاكرة مؤقت يخزن أزواج القيمة الرئيسية من الماضي السياقات.
في البحث الذي أجرته Microsoft ، أظهرت التجارب أن LongMem يتفوق على خطوط الأساس في نمذجة لغة النص الطويل ، وفهم السياق الطويل ، ومهام التعلم في السياق المعزز بالذاكرة. بالإضافة إلى ذلك ، تسمح الذاكرة طويلة المدى لها باستخدام المزيد من الأمثلة التوضيحية لتعلم أفضل.
والخبر السار هو أن LongMem سيكون مفتوح المصدر. لذلك ستكون قادرًا على دراسته ومعرفة كيفية تنفيذ إطار العمل في نموذج الذكاء الاصطناعي الخاص بك. يمكنك التحقق ملفه الشخصي على GitHub هنا.
وإذا كنت مهتمًا بقراءة الورقة البحثية الكاملة حول إطار العمل ، توجه إلى هنا وتحقق من ذلك.
ما رأيك في هذا الاختراق التكنولوجي الجديد؟ هل ستحدث ثورة في طريقة عمل نماذج الذكاء الاصطناعي؟ تأكد من إخبارنا بأفكارك وآرائك أدناه.
