Microsoft Olive is een tool die de Python-taal gebruikt om modellen te optimaliseren voor maximale prestaties.
- AMD GPU's kunnen veel beter presteren als er een geoptimaliseerd model op draait.
- Het geoptimaliseerde model maakt gebruik van Microsoft Olive, een Python-tool die modellen afstemt voor optimale prestaties.
- AMD heeft een handleiding uitgebracht over hoe dit te doen.
U zult eindelijk AMD-chips willen kopen, omdat de technologiegigant samenwerkt met Microsoft Olive om ze 10 keer sneller te maken, tot een verbazingwekkende 9,9x betere prestaties.
Een nieuw experiment, uitgevoerd door AMD, laat een aanzienlijke toename zien in de prestaties van AI voor het genereren van tekst naar afbeelding Radeon RX met Microsoft Olijf. De verbazingwekkende groei was het resultaat van het inschakelen van Stable Diffusion met Microsoft Olive.
AMD heeft een stapsgewijze handleiding uitgebracht over hoe u dit moet doen, voor het geval u een AMD GPU heeft en deze wilt proberen. Het is redelijk eenvoudig en het kan in stappen worden gedaan. U moet een geoptimaliseerd model maken met Microsoft Olive, het testen en integreren met Automatic1111 WebUI.
Als u een softwareontwikkelaar of een IT-manager bent, kan dit vrij eenvoudig zijn. Maar er zijn enkele voorwaarden voor:
- Geïnstalleerde Git (Git voor Windows)
- Geïnstalleerde Anaconda/Miniconda (Miniconda voor Windows)
- Zorg ervoor dat de Anaconda/Miniconda-directory is toegevoegd aan PATH
- Platform met AMD Graphics Processing Units (GPU)
- Driver: AMD Software: Adrenalin Edition™ 23.7.2 of nieuwer (https://www.amd.com/en/support)
Microsoft Olive is in staat om de prestaties van uw AMD GPU aanzienlijk te verbeteren
Als u niets weet over Microsoft Olive: de tool gebruikt de programmeertaal Python om modellen te converteren, optimaliseren, kwantiseren en automatisch af te stemmen voor optimale prestaties.
Microsoft Olive wordt vaak gebruikt met andere tools, vooral met Stable Diffusion, dat gevoelig is voor optimalisatie. Wanneer ze worden samengesteld, kunnen ze geoptimaliseerde modellen bouwen die kunnen worden uitgevoerd met speciale applicaties, zoals WebUI.
Dit alleen al zorgt voor een betere verkenning van coureurs en het stimuleert hun capaciteiten om veel betere prestaties te behalen.
AMD's gids over het behalen van 10 X-prestaties op uw GPU heeft veel te maken met deze tool. In wezen zijn dit de stappen van de gids:
- Met Microsoft Olive kunt u een geoptimaliseerd stabiel diffusiemodel genereren.
- U moet het model testen.
- Nadat u het hebt getest, moet u het model integreren met WebUI.
- Ervan uitgaande dat u Automatic1111 WebUI al hebt geïnstalleerd, moet u het uitvoeren met het geoptimaliseerde model.
Volgens het experiment, draaiend op het standaard PyTorch-pad, levert de AMD Radeon RX 7900 XTX 1,87 iteraties/seconde. Maar als we het geoptimaliseerde model met Microsoft Olive gebruiken, levert dezelfde GPU 18,59 iteraties/seconde.
Zorg ervoor dat je de complete gids van AMD leest over hoe je de prestaties van je AMD GPU kunt verbeteren, en als het werkt, laat het ons dan weten in de comments hieronder.
