Microsoft Olive är ett verktyg som använder Python-språket för att optimera modeller för maximal prestanda.
- AMD GPU: er kan prestera mycket bättre med en optimerad modell som körs på dem.
- Den optimerade modellen använder Microsoft Olive, ett Python-verktyg som ställer in modeller för optimal prestanda.
- AMD släppte en guide om hur man gör det.
Du kommer äntligen att vilja köpa AMD-chips eftersom teknikjätten samarbetar med Microsoft Olive för att göra dem 10 gånger snabbare, till en häpnadsväckande 9,9 X ökning i prestanda.
Ett nytt experiment, utförd av AMD, visar en signifikant ökning av AI text-till-bild-generering Radeon RX med Microsoft Olive. Den häpnadsväckande tillväxten var resultatet av att ha möjliggjort Stable Diffusion med Microsoft Olive.
AMD släppte en steg-för-steg-guide om hur man gör det, ifall du har en AMD GPU och vill prova den. Det är måttligt enkelt och det kan göras i steg. Du måste skapa en optimerad modell med Microsoft Olive, testa den och integrera den med Automatic1111 WebUI.
Om du är en mjukvaruutvecklare eller en IT-chef kan detta vara ganska enkelt att göra. Men det finns några förutsättningar för det:
- Installerad Git (Git för Windows)
- Installerad Anaconda/Miniconda (Miniconda för Windows)
- Se till att Anaconda/Miniconda-katalogen läggs till i PATH
- Plattform med AMD Graphics Processing Units (GPU)
- Drivrutin: AMD Programvara: Adrenalin Edition™ 23.7.2 eller senare (https://www.amd.com/en/support)
Microsoft Olive kan avsevärt förbättra dina AMD GPU: s prestanda
Om du inte vet något om Microsoft Olive använder verktyget Python-programmeringsspråket för att konvertera, optimera, kvantisera och autojustera modeller för optimal prestanda.
Microsoft Olive används ofta med andra verktyg, speciellt med Stable Diffusion, som är känslig för optimering. När de sätts ihop kan de bygga optimerade modeller som kan köras med speciella applikationer, som WebUI.
Bara detta möjliggör en bättre utforskning av förare och det pressar deras kapacitet för att uppnå mycket bättre prestanda.
AMD: s guide om hur du uppnår 10 X prestanda på din GPU har mycket att göra med det här verktyget. I huvudsak är dessa steg i guiden:
- Med Microsoft Olive kommer du att kunna generera en optimerad stabil diffusionsmodell.
- Du måste testa modellen.
- När du har testat det måste du integrera modellen med WebUI.
- Förutsatt att du redan har installerat Automatic1111 WebUI, måste du köra den med den optimerade modellen.
Enligt experimentet, som körs på PyTorchs standardväg, levererar AMD Radeon RX 7900 XTX 1,87 iterationer/sekund. Men med den optimerade modellen med Microsoft Olive levererar samma GPU 18,59 iterationer/sekund.
Se till att kolla in AMD: s kompletta guide om hur du förbättrar prestandan för din AMD GPU, och om det fungerar, låt oss veta det i kommentarsektionen nedan.