Microsoft Olive to narzędzie wykorzystujące język Python do optymalizacji modeli pod kątem maksymalnej wydajności.
- Procesory graficzne AMD są w stanie działać znacznie lepiej, gdy działa na nich zoptymalizowany model.
- Zoptymalizowany model wykorzystuje Microsoft Olive, narzędzie Pythona, które dostraja modele w celu uzyskania optymalnej wydajności.
- AMD wydało poradnik jak to zrobić.
W końcu będziesz chciał kupić chipy AMD, ponieważ gigant technologiczny współpracuje z Microsoft Olive, aby uczynić je 10 razy szybszymi, do zdumiewającego 9,9-krotnego wzrostu wydajności.
Nowy eksperyment, przeprowadzone przez AMD, pokazuje znaczny wzrost wydajności generowania tekstu na obraz przez sztuczną inteligencję Radeona RX z Microsoft Olive. Zadziwiający wzrost był wynikiem umożliwienia stabilnej dystrybucji z Microsoft Olive.
AMD wydało przewodnik krok po kroku, jak to zrobić, na wypadek, gdybyś miał procesor graficzny AMD i chciał go wypróbować. Jest to średnio łatwe i można to zrobić etapami. Będziesz musiał stworzyć zoptymalizowany model za pomocą Microsoft Olive, przetestować go i zintegrować z Automatic1111 WebUI.
Jeśli jesteś programistą lub menedżerem IT, może to być dość łatwe. Ale są ku temu pewne warunki:
- Zainstalowany Git (Gita dla Windowsa)
- Zainstalowano Anacondę/Miniconda (Miniconda dla systemu Windows)
- Upewnij się, że katalog Anaconda/Miniconda został dodany do PATH
- Platforma z procesorami graficznymi AMD (GPU)
- Sterownik: oprogramowanie AMD: Adrenalin Edition™ 23.7.2 lub nowsza (https://www.amd.com/en/support)
Microsoft Olive jest w stanie znacznie poprawić wydajność procesorów graficznych AMD
Jeśli nie wiesz nic o Microsoft Olive, narzędzie używa języka programowania Python do konwersji, optymalizacji, kwantyzacji i automatycznego dostrajania modeli w celu uzyskania optymalnej wydajności.
Microsoft Olive jest często używany z innymi narzędziami, zwłaszcza ze stabilną dyfuzją, która jest wrażliwa na optymalizację. Po złożeniu są w stanie zbudować zoptymalizowane modele, które mogą działać ze specjalnymi aplikacjami, takimi jak WebUI.
Już samo to pozwala na lepszą eksplorację sterowników i popycha ich możliwości do osiągania znacznie lepszych osiągów.
Przewodnik AMD, jak osiągnąć 10-krotną wydajność na GPU, ma wiele wspólnego z tym narzędziem. Zasadniczo są to kroki przewodnika:
- Dzięki Microsoft Olive będziesz w stanie wygenerować zoptymalizowany model stabilnej dystrybucji.
- Musisz przetestować model.
- Po przetestowaniu będziesz musiał zintegrować model z WebUI.
- Zakładając, że masz już zainstalowany WebUI Automatic1111, musisz uruchomić go ze zoptymalizowanym modelem.
Zgodnie z eksperymentem, działając na domyślnej ścieżce PyTorch, AMD Radeon RX 7900 XTX zapewnia 1,87 iteracji na sekundę. Ale używając zoptymalizowanego modelu z Microsoft Olive, ten sam GPU zapewnia 18,59 iteracji na sekundę.
Zapoznaj się z pełnym przewodnikiem AMD dotyczącym poprawy wydajności procesora graficznego AMD, a jeśli to działa, daj nam znać w sekcji komentarzy poniżej.