Microsoft Olive е инструмент, който използва езика Python за оптимизиране на модели за максимална производителност.
- Графичните процесори на AMD могат да работят много по-добре с оптимизиран модел, работещ на тях.
- Оптимизираният модел използва Microsoft Olive, инструмент на Python, който настройва моделите за оптимална производителност.
- AMD пусна ръководство за това как да го направите.
Най-накрая ще искате да закупите AMD чипове, защото технологичният гигант си сътрудничи с Microsoft Olive, за да ги направи 10 пъти по-бързи, до удивително 9,9 X увеличение на производителността.
Нов експеримент, проведено от AMD, показва значително увеличение на производителността на AI генериране на текст към изображение на Radeon RX с Microsoft Olive. Удивителният растеж беше резултат от активирането на Stable Diffusion с Microsoft Olive.
AMD пусна ръководство стъпка по стъпка как да го направите, в случай че имате AMD GPU и искате да го изпробвате. Умерено лесно е и може да се направи на стъпки. Ще трябва да създадете оптимизиран модел с помощта на Microsoft Olive, да го тествате и да го интегрирате с Automatic1111 WebUI.
Ако сте разработчик на софтуер или ИТ мениджър, това може да бъде доста лесно да се направи. Но има някои предпоставки за това:
- Инсталиран Git (Git за Windows)
- Инсталирана Anaconda/Miniconda (Miniconda за Windows)
- Уверете се, че директорията Anaconda/Miniconda е добавена към PATH
- Платформа с AMD графични процесори (GPU)
- Драйвер: AMD Софтуер: Adrenalin Edition™ 23.7.2 или по-нова (https://www.amd.com/en/support)
Microsoft Olive е в състояние значително да подобри производителността на вашите AMD GPU
Ако не знаете нищо за Microsoft Olive, инструментът използва езика за програмиране Python за конвертиране, оптимизиране, квантуване и автоматична настройка на модели за оптимална производителност.
Microsoft Olive често се използва с други инструменти, особено със Stable Diffusion, който е чувствителен към оптимизация. Когато бъдат събрани, те са в състояние да изградят оптимизирани модели, които могат да работят със специални приложения, като WebUI.
Това само по себе си позволява по-добро изследване на драйверите и стимулира техните възможности за постигане на много по-добро представяне.
Ръководството на AMD за това как да постигнете 10 X производителност на вашия GPU има много общо с този инструмент. По същество това са стъпките на ръководството:
- С Microsoft Olive ще можете да генерирате оптимизиран стабилен дифузионен модел.
- Ще трябва да тествате модела.
- След като го тествате, ще трябва да интегрирате модела с WebUI.
- Ако приемем, че вече сте инсталирали Automatic1111 WebUI, ще трябва да го стартирате с оптимизирания модел.
Според експеримента, работещ по пътя на PyTorch по подразбиране, AMD Radeon RX 7900 XTX доставя 1,87 итерации/секунда. Но използвайки оптимизирания модел с Microsoft Olive, същият GPU осигурява 18,59 итерации/секунда.
Не забравяйте да разгледате пълното ръководство на AMD за това как да подобрите производителността на вашия AMD GPU и ако работи, уведомете ни в секцията за коментари по-долу.
