Microsoft Olive je alat koji koristi jezik Python za optimizaciju modela za maksimalnu izvedbu.
- AMD GPU mogu raditi mnogo bolje s optimiziranim modelom koji radi na njima.
- Optimizirani model koristi Microsoft Olive, Python alat koji podešava modele za optimalnu izvedbu.
- AMD je objavio vodič kako to učiniti.
Napokon ćete poželjeti kupiti AMD čipove jer tehnološki div surađuje s Microsoft Oliveom kako bi ih napravio 10 puta bržima, do nevjerojatnog povećanja performansi od 9,9 X.
Novi eksperiment, koje je proveo AMD, pokazuje značajno povećanje performansi AI generiranja teksta u sliku na Radeon RX uz Microsoft Olive. Zapanjujući rast bio je rezultat omogućavanja Stable Diffusion s Microsoft Olive.
AMD je izdao vodič korak po korak o tome kako to učiniti, u slučaju da imate AMD GPU i želite ga isprobati. Umjereno je lako i može se raditi u koracima. Morat ćete izraditi optimizirani model koristeći Microsoft Olive, testirati ga i integrirati s Automatic1111 WebUI.
Ako ste programer ili IT menadžer, to može biti prilično lako učiniti. Ali postoje neki preduvjeti za to:
- Instaliran Git (Git za Windows)
- Instalirana Anaconda/Miniconda (Miniconda za Windows)
- Osigurajte da je imenik Anaconda/Miniconda dodan u PATH
- Platforma koja ima AMD grafičke procesorske jedinice (GPU)
- Upravljački program: AMD softver: Adrenalin Edition™ 23.7.2 ili noviji (https://www.amd.com/en/support)
Microsoft Olive može značajno poboljšati performanse vaših AMD GPU-a
Ako ne znate ništa o Microsoft Oliveu, alat koristi programski jezik Python za pretvaranje, optimiziranje, kvantiziranje i automatsko podešavanje modela za optimalnu izvedbu.
Microsoft Olive se često koristi s drugim alatima, posebno sa Stable Diffusion, koji je osjetljiv na optimizaciju. Kada se sastave, oni mogu izgraditi optimizirane modele koji se mogu izvoditi s posebnim aplikacijama, kao što je WebUI.
Samo to omogućuje bolje istraživanje vozača i potiče njihove sposobnosti da postignu mnogo bolje performanse.
AMD-ov vodič o tome kako postići performanse 10 X na vašem GPU-u ima mnogo veze s ovim alatom. U biti, ovo su koraci vodiča:
- Uz Microsoft Olive, moći ćete generirati optimizirani stabilni model difuzije.
- Morat ćete testirati model.
- Nakon što ga testirate, morat ćete integrirati model s WebUI.
- Pod pretpostavkom da ste već instalirali Automatic1111 WebUI, morat ćete ga pokrenuti s optimiziranim modelom.
Prema eksperimentu, radeći na zadanoj stazi PyTorcha, AMD Radeon RX 7900 XTX isporučuje 1,87 iteracija/sekundi. Ali korištenjem optimiziranog modela s Microsoft Oliveom, isti GPU daje 18,59 iteracija/sekundi.
Obavezno pogledajte AMD-ov potpuni vodič o tome kako poboljšati performanse vašeg AMD GPU-a, a ako radi, javite nam u odjeljku s komentarima ispod.
