Microsoft Olive on tööriist, mis kasutab Pythoni keelt mudelite optimeerimiseks maksimaalse jõudluse saavutamiseks.
- AMD GPU-d suudavad palju paremini töötada, kui neil töötab optimeeritud mudel.
- Optimeeritud mudel kasutab Microsoft Olive'i, Pythoni tööriista, mis häälestab mudeleid optimaalse jõudluse saavutamiseks.
- AMD andis välja juhendi, kuidas seda teha.
Soovite lõpuks osta AMD kiipe, sest tehnoloogiahiiglane teeb koostööd Microsoft Olive'iga, et muuta need 10 korda kiiremaks, suurendades jõudlust hämmastavalt 9,9 korda.
Uus eksperiment, mille viis läbi AMD, näitab tehisintellekti teksti-pildiks genereerimise jõudluse olulist suurenemist Radeon RX Microsoft Olive'iga. Hämmastav kasv oli Microsoft Olive'iga stabiilse difusiooni võimaldamise tulemus.
AMD andis välja samm-sammulise juhendi, kuidas seda teha, juhuks kui teil on AMD GPU ja soovite seda proovida. See on mõõdukalt lihtne ja seda saab teha astmeliselt. Peate Microsoft Olive'i abil looma optimeeritud mudeli, testima seda ja integreerima selle Automatic1111 WebUI-ga.
Kui olete tarkvaraarendaja või IT-juht, võib see olla üsna lihtne. Kuid selleks on mõned eeldused:
- Installitud Git (Git Windowsi jaoks)
- Paigaldatud Anaconda/Miniconda (Miniconda Windowsi jaoks)
- Veenduge, et Anaconda/Miniconda kataloog oleks lisatud teele PATH
- Platvorm, millel on AMD graafikaprotsessorid (GPU)
- Draiver: AMD Tarkvara: Adrenalin Edition™ 23.7.2 või uuem (https://www.amd.com/en/support)
Microsoft Olive suudab teie AMD GPU jõudlust oluliselt parandada
Kui te ei tea Microsoft Olive'ist midagi, kasutab tööriist Pythoni programmeerimiskeelt mudelite teisendamiseks, optimeerimiseks, kvantiseerimiseks ja automaatseks häälestamiseks optimaalse jõudluse tagamiseks.
Microsoft Olive'i kasutatakse sageli koos teiste tööriistadega, eriti koos Stable Diffusioniga, mis on optimeerimise suhtes tundlik. Kui need on kokku pandud, saavad nad luua optimeeritud mudeleid, mida saab kasutada spetsiaalsete rakendustega, nagu WebUI.
Ainuüksi see võimaldab juhte paremini uurida ja suurendab nende võimalusi palju parema jõudluse saavutamiseks.
AMD juhend GPU 10-kordse jõudluse saavutamiseks on selle tööriistaga palju pistmist. Põhimõtteliselt on juhendi sammud järgmised:
- Microsoft Olive'iga saate luua optimeeritud stabiilse difusioonimudeli.
- Peate mudelit testima.
- Pärast selle testimist peate mudeli WebUI-ga integreerima.
- Eeldades, et olete juba installinud Automatic1111 WebUI, peate selle käivitama optimeeritud mudeliga.
Katse kohaselt, töötades PyTorchi vaiketeel, pakub AMD Radeon RX 7900 XTX kiirust 1,87 iteratsiooni sekundis. Kuid Microsoft Olive'iga optimeeritud mudelit kasutades annab sama GPU 18,59 iteratsiooni sekundis.
Vaadake kindlasti AMD täielikku juhendit, kuidas oma AMD GPU jõudlust parandada, ja kui see töötab, andke meile allolevas kommentaaride jaotises teada.
