Microsoft Olive je nástroj, ktorý používa jazyk Python na optimalizáciu modelov pre maximálny výkon.
- GPU AMD sú schopné fungovať oveľa lepšie, ak na nich beží optimalizovaný model.
- Optimalizovaný model využíva Microsoft Olive, nástroj Pythonu, ktorý vylaďuje modely pre optimálny výkon.
- AMD vydalo návod, ako na to.
Nakoniec si budete chcieť kúpiť čipy AMD, pretože technologický gigant spolupracuje so spoločnosťou Microsoft Olive na ich 10-násobnom zrýchlení s úžasným 9,9-násobným zvýšením výkonu.
Nový experiment, ktorú vykonala spoločnosť AMD, ukazuje významný nárast výkonu generovania textu na obrázok pomocou AI Radeon RX s Microsoft Olive. Úžasný rast bol výsledkom aktivácie Stable Diffusion s Microsoft Olive.
AMD vydala podrobný návod, ako na to, v prípade, že máte AMD GPU a chcete si to vyskúšať. Je to stredne jednoduché a dá sa to urobiť v krokoch. Budete musieť vytvoriť optimalizovaný model pomocou Microsoft Olive, otestovať ho a integrovať s Automatic1111 WebUI.
Ak ste vývojár softvéru alebo IT manažér, môže to byť celkom jednoduché. Ale sú na to isté predpoklady:
- Nainštalovaný Git (Git pre Windows)
- Nainštalovaná Anaconda/Miniconda (Miniconda pre Windows)
- Uistite sa, že adresár Anaconda/Miniconda je pridaný do PATH
- Platforma s grafickými procesormi AMD (GPU)
- Ovládač: AMD Software: Adrenalin Edition™ 23.7.2 alebo novší (https://www.amd.com/en/support)
Microsoft Olive dokáže výrazne zlepšiť výkon vašich GPU AMD
Ak neviete nič o Microsoft Olive, tento nástroj používa programovací jazyk Python na konverziu, optimalizáciu, kvantizáciu a automatické ladenie modelov pre optimálny výkon.
Microsoft Olive sa často používa s inými nástrojmi, najmä so Stable Diffusion, ktorý je citlivý na optimalizáciu. Keď sa spoja, dokážu zostaviť optimalizované modely, ktoré možno spustiť so špeciálnymi aplikáciami, ako je WebUI.
To samo osebe umožňuje lepší prieskum vodičov a posúva ich schopnosti k dosiahnutiu oveľa lepšieho výkonu.
Sprievodca AMD o tom, ako dosiahnuť 10-násobný výkon na vašom GPU, má veľa spoločného s týmto nástrojom. V podstate ide o tieto kroky sprievodcu:
- S Microsoft Olive budete môcť generovať optimalizovaný stabilný difúzny model.
- Budete musieť otestovať model.
- Po otestovaní budete musieť model integrovať s WebUI.
- Za predpokladu, že ste už nainštalovali Automatic1111 WebUI, budete ho musieť spustiť s optimalizovaným modelom.
Podľa experimentu, ktorý beží na predvolenej ceste PyTorch, AMD Radeon RX 7900 XTX poskytuje 1,87 iterácií za sekundu. Ale pri použití optimalizovaného modelu s Microsoft Olive, rovnaký GPU poskytuje 18,59 iterácií za sekundu.
Nezabudnite si prečítať kompletnú príručku AMD o tom, ako zlepšiť výkon vášho GPU AMD, a ak to funguje, dajte nám vedieť v sekcii komentárov nižšie.
