Το Microsoft Olive είναι ένα εργαλείο που χρησιμοποιεί τη γλώσσα Python για τη βελτιστοποίηση μοντέλων για μέγιστη απόδοση.
- Οι GPU της AMD είναι σε θέση να αποδίδουν πολύ καλύτερα με ένα βελτιστοποιημένο μοντέλο που εκτελείται σε αυτές.
- Το βελτιστοποιημένο μοντέλο χρησιμοποιεί το Microsoft Olive, ένα εργαλείο Python που συντονίζει τα μοντέλα για βέλτιστη απόδοση.
- Η AMD κυκλοφόρησε έναν οδηγό για το πώς να το κάνετε.
Θα θελήσετε τελικά να αγοράσετε τσιπ AMD επειδή ο τεχνολογικός γίγαντας συνεργάζεται με τη Microsoft Olive για να τα κάνει 10 φορές πιο γρήγορα, με εκπληκτική αύξηση 9,9 X στην απόδοση.
Ένα νέο πείραμα, που διεξήχθη από την AMD, δείχνει μια σημαντική αύξηση στην απόδοση δημιουργίας κειμένου σε εικόνα AI σε Radeon RX με το Microsoft Olive. Η εκπληκτική ανάπτυξη ήταν το αποτέλεσμα της ενεργοποίησης του Stable Diffusion με το Microsoft Olive.
Η AMD κυκλοφόρησε έναν οδηγό βήμα προς βήμα για το πώς να το κάνετε, σε περίπτωση που έχετε GPU AMD και θέλετε να τη δοκιμάσετε. Είναι σχετικά εύκολο και μπορεί να γίνει σε βήματα. Θα χρειαστεί να δημιουργήσετε ένα βελτιστοποιημένο μοντέλο χρησιμοποιώντας το Microsoft Olive, να το δοκιμάσετε και να το ενσωματώσετε με το Automatic1111 WebUI.
Εάν είστε προγραμματιστής λογισμικού ή διαχειριστής IT, αυτό μπορεί να είναι αρκετά εύκολο να το κάνετε. Υπάρχουν όμως κάποιες προϋποθέσεις για αυτό:
- Εγκατεστημένο Git (Git για Windows)
- Εγκατεστημένο Anaconda/Miniconda (Miniconda για Windows)
- Βεβαιωθείτε ότι ο κατάλογος Anaconda/Miniconda έχει προστεθεί στο PATH
- Πλατφόρμα που διαθέτει μονάδες επεξεργασίας γραφικών AMD (GPU)
- Πρόγραμμα οδήγησης: Λογισμικό AMD: Adrenalin Edition™ 23.7.2 ή νεότερη έκδοση (https://www.amd.com/en/support)
Το Microsoft Olive είναι σε θέση να βελτιώσει σημαντικά την απόδοση των GPU της AMD
Εάν δεν γνωρίζετε τίποτα για το Microsoft Olive, το εργαλείο χρησιμοποιεί τη γλώσσα προγραμματισμού Python για τη μετατροπή, τη βελτιστοποίηση, την κβαντοποίηση και τον αυτόματο συντονισμό μοντέλων για βέλτιστη απόδοση.
Το Microsoft Olive χρησιμοποιείται συχνά με άλλα εργαλεία, ειδικά με το Stable Diffusion, το οποίο είναι ευαίσθητο στη βελτιστοποίηση. Όταν συνδυάζονται, είναι σε θέση να δημιουργήσουν βελτιστοποιημένα μοντέλα που μπορούν να εκτελούνται με ειδικές εφαρμογές, όπως το WebUI.
Αυτό από μόνο του επιτρέπει την καλύτερη εξερεύνηση των οδηγών και ωθεί τις δυνατότητές τους να επιτύχουν πολύ καλύτερες επιδόσεις.
Ο οδηγός της AMD για το πώς να επιτύχετε απόδοση 10 X στη GPU σας έχει πολλά να κάνει με αυτό το εργαλείο. Ουσιαστικά, αυτά είναι τα βήματα του οδηγού:
- Με το Microsoft Olive, θα μπορείτε να δημιουργήσετε ένα βελτιστοποιημένο σταθερό μοντέλο διάχυσης.
- Θα χρειαστεί να δοκιμάσετε το μοντέλο.
- Αφού το δοκιμάσετε, θα χρειαστεί να ενσωματώσετε το μοντέλο με το WebUI.
- Υποθέτοντας ότι έχετε ήδη εγκαταστήσει το Automatic1111 WebUI, θα πρέπει να το εκτελέσετε με το βελτιστοποιημένο μοντέλο.
Σύμφωνα με το πείραμα, που εκτελείται στην προεπιλεγμένη διαδρομή PyTorch, το AMD Radeon RX 7900 XTX αποδίδει 1,87 επαναλήψεις/δευτερόλεπτο. Αλλά χρησιμοποιώντας το βελτιστοποιημένο μοντέλο με το Microsoft Olive, η ίδια GPU αποδίδει 18,59 επαναλήψεις/δευτερόλεπτο.
Βεβαιωθείτε ότι έχετε ελέγξει τον πλήρη οδηγό της AMD σχετικά με τον τρόπο βελτίωσης της απόδοσης της GPU της AMD και εάν λειτουργεί, ενημερώστε μας στην παρακάτω ενότητα σχολίων.
