Microsoft Olive je nástroj, který používá jazyk Python k optimalizaci modelů pro maximální výkon.
- GPU AMD jsou schopny pracovat mnohem lépe, když na nich běží optimalizovaný model.
- Optimalizovaný model využívá Microsoft Olive, nástroj Pythonu, který ladí modely pro optimální výkon.
- AMD vydalo návod, jak na to.
Konečně si budete chtít koupit čipy AMD, protože technologický gigant spolupracuje s Microsoft Olive, aby byly 10krát rychlejší, s úžasným 9,9násobným zvýšením výkonu.
Nový experiment, provedená společností AMD, ukazuje významný nárůst výkonu generování textu na obrázek pomocí umělé inteligence Radeon RX s Microsoft Olive. Úžasný růst byl výsledkem aktivace Stable Diffusion s Microsoft Olive.
AMD vydalo krok za krokem návod, jak na to, v případě, že máte AMD GPU a chcete si to vyzkoušet. Je to středně snadné a lze to udělat v krocích. Budete muset vytvořit optimalizovaný model pomocí Microsoft Olive, otestovat jej a integrovat s Automatic1111 WebUI.
Pokud jste vývojář softwaru nebo IT manažer, může to být docela snadné. Ale jsou pro to určité předpoklady:
- Nainstalovaný Git (Git pro Windows)
- Nainstalovaná Anaconda/Miniconda (Miniconda pro Windows)
- Ujistěte se, že adresář Anaconda/Miniconda je přidán do PATH
- Platforma s grafickými procesory AMD (GPU)
- Ovladač: AMD Software: Adrenalin Edition™ 23.7.2 nebo novější (https://www.amd.com/en/support)
Microsoft Olive je schopen výrazně zlepšit výkon vašich GPU AMD
Pokud o Microsoft Olive nic nevíte, nástroj používá programovací jazyk Python k převodu, optimalizaci, kvantizaci a automatickému ladění modelů pro optimální výkon.
Microsoft Olive se často používá s dalšími nástroji, zejména se Stable Diffusion, který je citlivý na optimalizaci. Když se dají dohromady, jsou schopni vytvářet optimalizované modely, které lze provozovat se speciálními aplikacemi, jako je WebUI.
To samo o sobě umožňuje lepší průzkum řidičů a posouvá jejich schopnosti k dosažení mnohem lepšího výkonu.
Průvodce AMD o tom, jak dosáhnout 10x výkonu na vašem GPU, má hodně společného s tímto nástrojem. V podstatě se jedná o kroky průvodce:
- S Microsoft Olive budete moci generovat optimalizovaný stabilní difúzní model.
- Budete muset otestovat model.
- Po otestování budete muset model integrovat s WebUI.
- Za předpokladu, že jste již nainstalovali Automatic1111 WebUI, budete jej muset spustit s optimalizovaným modelem.
Podle experimentu, běžící na výchozí cestě PyTorch, poskytuje AMD Radeon RX 7900 XTX 1,87 iterací za sekundu. Ale při použití optimalizovaného modelu s Microsoft Olive poskytuje stejný GPU 18,59 iterací za sekundu.
Ujistěte se, že jste se podívali na úplný průvodce AMD o tom, jak zlepšit výkon vašeho GPU AMD, a pokud to funguje, dejte nám vědět v sekci komentářů níže.
