Microsoft Olive er et værktøj, der bruger Python-sproget til at optimere modeller til maksimal ydeevne.
- AMD GPU'er er i stand til at yde meget bedre med en optimeret model, der kører på dem.
- Den optimerede model bruger Microsoft Olive, et Python-værktøj, der tuner modeller til optimal ydeevne.
- AMD udgav en guide til, hvordan man gør det.
Du får endelig lyst til at købe AMD-chips, fordi teknologigiganten samarbejder med Microsoft Olive for at gøre dem 10 gange hurtigere, til en forbløffende 9,9 X stigning i ydeevnen.
Et nyt eksperiment, udført af AMD, viser en betydelig stigning i AI tekst-til-billede generering ydeevne på Radeon RX med Microsoft Olive. Den forbløffende vækst var resultatet af at muliggøre Stable Diffusion med Microsoft Olive.
AMD udgav en trin-for-trin guide til, hvordan du gør det, hvis du har en AMD GPU og vil prøve det. Det er moderat nemt, og det kan gøres i trin. Du skal oprette en optimeret model ved hjælp af Microsoft Olive, teste den og integrere den med Automatic1111 WebUI.
Hvis du er softwareudvikler eller it-chef, kan dette være ret nemt at gøre. Men der er nogle forudsætninger for det:
- Installeret Git (Git til Windows)
- Installeret Anaconda/Miniconda (Miniconda til Windows)
- Sørg for, at Anaconda/Miniconda-biblioteket er tilføjet til PATH
- Platform med AMD Graphics Processing Units (GPU)
- Driver: AMD Software: Adrenalin Edition™ 23.7.2 eller nyere (https://www.amd.com/en/support)
Microsoft Olive er i stand til i høj grad at forbedre dine AMD GPU'ers ydeevne
Hvis du ikke ved noget om Microsoft Olive, bruger værktøjet Python-programmeringssproget til at konvertere, optimere, kvantisere og auto-tune modeller for optimal ydeevne.
Microsoft Olive bruges ofte sammen med andre værktøjer, især med Stable Diffusion, som er følsom over for optimering. Når de er sat sammen, er de i stand til at bygge optimerede modeller, der kan køre med specielle applikationer, såsom WebUI.
Dette alene giver mulighed for en bedre udforskning af chauffører, og det skubber deres muligheder for at opnå en meget bedre ydeevne.
AMDs guide til, hvordan du opnår en 10 X ydeevne på din GPU, har meget at gøre med dette værktøj. I det væsentlige er disse trin i guiden:
- Med Microsoft Olive vil du være i stand til at generere en optimeret stabil diffusionsmodel.
- Du skal teste modellen.
- Når du har testet det, skal du integrere modellen med WebUI.
- Forudsat at du allerede har installeret Automatic1111 WebUI, bliver du nødt til at køre den med den optimerede model.
Ifølge eksperimentet, der kører på standard PyTorch-stien, leverer AMD Radeon RX 7900 XTX 1,87 iterationer/sekund. Men ved at bruge den optimerede model med Microsoft Olive, leverer den samme GPU 18,59 iterationer/sekund.
Sørg for at tjekke AMDs komplette guide til, hvordan du forbedrer ydeevnen af din AMD GPU, og hvis det virker, så fortæl os det i kommentarfeltet nedenfor.
