Microsoft Olive er et verktøy som bruker Python-språket for å optimalisere modeller for maksimal ytelse.
- AMD GPUer er i stand til å yte mye bedre med en optimalisert modell som kjører på dem.
- Den optimaliserte modellen bruker Microsoft Olive, et Python-verktøy som justerer modeller for optimal ytelse.
- AMD ga ut en guide om hvordan du gjør det.
Du vil endelig kjøpe AMD-brikker fordi teknologigiganten samarbeider med Microsoft Olive for å gjøre dem 10 ganger raskere, til en forbløffende 9,9 X økning i ytelse.
Et nytt eksperiment, utført av AMD, viser en betydelig økning i AI tekst-til-bilde generering ytelse på Radeon RX med Microsoft Olive. Den forbløffende veksten var resultatet av å muliggjøre Stable Diffusion med Microsoft Olive.
AMD ga ut en trinn-for-trinn-guide for hvordan du gjør det, i tilfelle du har en AMD GPU og vil prøve den. Det er moderat enkelt, og det kan gjøres i trinn. Du må lage en optimalisert modell med Microsoft Olive, teste den og integrere den med Automatic1111 WebUI.
Hvis du er en programvareutvikler eller en IT-sjef, kan dette være ganske enkelt å gjøre. Men det er noen forutsetninger for det:
- Installert Git (Git for Windows)
- Installert Anaconda/Miniconda (Miniconda for Windows)
- Sørg for at Anaconda/Miniconda-katalogen er lagt til PATH
- Plattform med AMD Graphics Processing Units (GPU)
- Driver: AMD-programvare: Adrenalin Edition™ 23.7.2 eller nyere (https://www.amd.com/en/support)
Microsoft Olive er i stand til å forbedre AMD GPU-ytelsen betydelig
Hvis du ikke vet noe om Microsoft Olive, bruker verktøyet Python-programmeringsspråket til å konvertere, optimalisere, kvantisere og autojustere modeller for optimal ytelse.
Microsoft Olive brukes ofte sammen med andre verktøy, spesielt med Stable Diffusion, som er sensitiv for optimalisering. Når de er satt sammen, er de i stand til å bygge optimaliserte modeller som kan kjøres med spesielle applikasjoner, for eksempel WebUI.
Dette alene gir mulighet for en bedre utforskning av sjåfører, og det presser deres evner for å oppnå mye bedre ytelse.
AMDs guide for hvordan du oppnår 10 X ytelse på din GPU har mye å gjøre med dette verktøyet. I hovedsak er dette trinnene i veiledningen:
- Med Microsoft Olive vil du kunne generere en optimalisert stabil diffusjonsmodell.
- Du må teste modellen.
- Etter at du har testet den, må du integrere modellen med WebUI.
- Forutsatt at du allerede har installert Automatic1111 WebUI, må du kjøre den med den optimaliserte modellen.
I følge eksperimentet, kjører på standard PyTorch-bane, leverer AMD Radeon RX 7900 XTX 1,87 iterasjoner/sekund. Men ved å bruke den optimaliserte modellen med Microsoft Olive, leverer den samme GPUen 18,59 iterasjoner/sekund.
Sørg for å sjekke ut AMDs komplette guide om hvordan du forbedrer ytelsen til AMD GPU, og hvis den fungerer, så gi oss beskjed i kommentarfeltet nedenfor.
