Microsoft Olive ir rīks, kas izmanto Python valodu, lai optimizētu modeļus maksimālai veiktspējai.
- AMD GPU spēj darboties daudz labāk, ja tajos darbojas optimizēts modelis.
- Optimizētajā modelī tiek izmantots Microsoft Olive, Python rīks, kas pielāgo modeļus optimālai veiktspējai.
- AMD izlaida rokasgrāmatu, kā to izdarīt.
Beidzot vēlēsities iegādāties AMD mikroshēmas, jo tehnoloģiju gigants sadarbojas ar Microsoft Olive, lai padarītu tās 10 reizes ātrākas, līdz pārsteidzoši 9,9 reizes palielināt veiktspēju.
Jauns eksperiments, ko veica AMD, uzrāda ievērojamu AI teksta-attēlu ģenerēšanas veiktspējas pieaugumu Radeon RX ar Microsoft Olive. Pārsteidzošā izaugsme bija stabilas difūzijas iespējošana ar Microsoft Olive.
AMD izlaida detalizētu rokasgrāmatu par to, kā to izdarīt, ja jums ir AMD GPU un vēlaties to izmēģināt. Tas ir vidēji vienkārši, un to var izdarīt pa soļiem. Jums būs jāizveido optimizēts modelis, izmantojot Microsoft Olive, jāpārbauda tas un jāintegrē ar Automatic1111 WebUI.
Ja esat programmatūras izstrādātājs vai IT vadītājs, to var izdarīt diezgan vienkārši. Bet tam ir daži priekšnoteikumi:
- Instalēts Git (Git operētājsistēmai Windows)
- Uzstādīta Anaconda/Miniconda (Miniconda operētājsistēmai Windows)
- Pārliecinieties, vai Anaconda/Miniconda direktorijs ir pievienots PATH
- Platforma ar AMD grafikas apstrādes vienībām (GPU)
- Draiveris: AMD Programmatūra: Adrenalin Edition™ 23.7.2 vai jaunāka versija (https://www.amd.com/en/support)
Microsoft Olive spēj ievērojami uzlabot jūsu AMD GPU veiktspēju
Ja neko nezināt par Microsoft Olive, rīks izmanto Python programmēšanas valodu, lai pārveidotu, optimizētu, kvantizētu un automātiski pielāgotu modeļus optimālai veiktspējai.
Microsoft Olive bieži tiek izmantots kopā ar citiem rīkiem, īpaši ar Stable Diffusion, kas ir jutīga pret optimizāciju. Kad tie ir apvienoti, tie var izveidot optimizētus modeļus, kas var darboties ar īpašām lietojumprogrammām, piemēram, WebUI.
Tas vien ļauj labāk izpētīt vadītājus un palielina viņu iespējas sasniegt daudz labāku veiktspēju.
AMD rokasgrāmata par to, kā sasniegt 10 X veiktspēju jūsu GPU, ir daudz saistīta ar šo rīku. Būtībā šīs ir rokasgrāmatas darbības:
- Izmantojot Microsoft Olive, jūs varēsit ģenerēt optimizētu stabilas difūzijas modeli.
- Jums būs jāpārbauda modelis.
- Pēc tā testēšanas jums būs jāintegrē modelis ar WebUI.
- Pieņemot, ka jau esat instalējis Automatic1111 WebUI, jums tas būs jāpalaiž ar optimizēto modeli.
Saskaņā ar eksperimentu, kas darbojas pēc noklusējuma PyTorch ceļa, AMD Radeon RX 7900 XTX nodrošina 1,87 iterācijas sekundē. Bet, izmantojot optimizēto modeli ar Microsoft Olive, tas pats GPU nodrošina 18,59 iterācijas sekundē.
Noteikti iepazīstieties ar AMD pilno rokasgrāmatu par to, kā uzlabot AMD GPU veiktspēju, un, ja tas darbojas, paziņojiet mums tālāk komentāru sadaļā.
