Microsoft Olive è uno strumento che utilizza il linguaggio Python per ottimizzare i modelli per le massime prestazioni.
- Le GPU AMD sono in grado di funzionare molto meglio con un modello ottimizzato in esecuzione su di esse.
- Il modello ottimizzato utilizza Microsoft Olive, uno strumento Python che ottimizza i modelli per prestazioni ottimali.
- AMD ha rilasciato una guida su come farlo.
Alla fine vorrai acquistare i chip AMD perché il gigante della tecnologia sta collaborando con Microsoft Olive per renderli 10 volte più veloci, con un sorprendente aumento delle prestazioni di 9,9 volte.
Un nuovo esperimento, condotto da AMD, mostra un aumento significativo delle prestazioni di generazione di testo in immagini AI su Radeon RX con Microsoft Oliva. La sorprendente crescita è stata il risultato dell'abilitazione di Stable Diffusion con Microsoft Olive.
AMD ha rilasciato una guida passo-passo su come farlo, nel caso tu abbia una GPU AMD e desideri provarla. È moderatamente facile e può essere fatto in passaggi. Dovrai creare un modello ottimizzato utilizzando Microsoft Olive, testarlo e integrarlo con Automatic1111 WebUI.
Se sei uno sviluppatore di software o un responsabile IT, questo può essere abbastanza facile da fare. Ma ci sono alcuni prerequisiti per questo:
- Git installato (Git per Windows)
- Anaconda/Miniconda installato (Miniconda per Windows)
- Assicurarsi che la directory Anaconda/Miniconda sia aggiunta a PATH
- Piattaforma con unità di elaborazione grafica AMD (GPU)
- Driver: AMD Software: Adrenalin Edition™ 23.7.2 o più recente (https://www.amd.com/en/support)
Microsoft Olive è in grado di migliorare notevolmente le prestazioni delle tue GPU AMD
Se non sai nulla di Microsoft Olive, lo strumento utilizza il linguaggio di programmazione Python per convertire, ottimizzare, quantizzare e ottimizzare automaticamente i modelli per prestazioni ottimali.
Microsoft Olive viene spesso utilizzato con altri strumenti, in particolare con Stable Diffusion, che è sensibile all'ottimizzazione. Una volta messi insieme, sono in grado di creare modelli ottimizzati che possono essere eseguiti con applicazioni speciali, come WebUI.
Questo da solo consente una migliore esplorazione dei driver e spinge le loro capacità a ottenere prestazioni molto migliori.
La guida di AMD su come ottenere prestazioni 10 X sulla tua GPU ha molto a che fare con questo strumento. In sostanza, questi sono i passaggi della guida:
- Con Microsoft Olive, sarai in grado di generare un modello di diffusione stabile ottimizzato.
- Dovrai testare il modello.
- Dopo averlo testato, dovrai integrare il modello con WebUI.
- Supponendo che tu abbia già installato Automatic1111 WebUI, dovrai eseguirlo con il modello ottimizzato.
Secondo l'esperimento, in esecuzione sul percorso PyTorch predefinito, AMD Radeon RX 7900 XTX offre 1,87 iterazioni/secondo. Ma utilizzando il modello ottimizzato con Microsoft Olive, la stessa GPU offre 18,59 iterazioni/secondo.
Assicurati di controllare la guida completa di AMD su come migliorare le prestazioni della tua GPU AMD e, se funziona, faccelo sapere nella sezione commenti qui sotto.
