Microsoft Olive on työkalu, joka käyttää Python-kieltä optimoimaan mallit maksimaalisen suorituskyvyn saavuttamiseksi.
- AMD GPU: t pystyvät toimimaan paljon paremmin, jos niissä on optimoitu malli.
- Optimoitu malli käyttää Microsoft Olivea, Python-työkalua, joka virittää mallit optimaaliseen suorituskykyyn.
- AMD julkaisi oppaan kuinka se tehdään.
Haluat vihdoin ostaa AMD-siruja, koska teknologiajätti tekee yhteistyötä Microsoft Oliven kanssa tehdäkseen niistä 10 kertaa nopeampia, mikä lisää suorituskykyä hämmästyttävällä tavalla 9,9-kertaiseksi.
Uusi kokeilu, AMD: n suorittama, osoittaa merkittävästi parantunutta tekoälyn tekstistä kuvaksi -luonnin suorituskykyä Radeon RX Microsoft Oliven kanssa. Hämmästyttävä kasvu johtui Stable Diffusionin mahdollistamisesta Microsoft Oliven kanssa.
AMD julkaisi vaiheittaisen oppaan sen tekemisestä, jos sinulla on AMD GPU ja haluat kokeilla sitä. Se on kohtalaisen helppoa ja se voidaan tehdä vaiheittain. Sinun on luotava optimoitu malli Microsoft Olivella, testattava se ja integroitava se Automatic1111 WebUI -käyttöliittymään.
Jos olet ohjelmistokehittäjä tai IT-päällikkö, tämä voi olla melko helppoa. Mutta sille on joitain edellytyksiä:
- Asennettu Git (Git Windowsille)
- Asennettu Anaconda/Miniconda (Miniconda Windowsille)
- Varmista, että Anaconda/Miniconda-hakemisto on lisätty PATH: iin
- Alusta, jossa on AMD Graphics Processing Units (GPU)
- Ajuri: AMD Ohjelmisto: Adrenalin Edition™ 23.7.2 tai uudempi (https://www.amd.com/en/support)
Microsoft Olive pystyy parantamaan huomattavasti AMD GPU: si suorituskykyä
Jos et tiedä mitään Microsoft Olivesta, työkalu käyttää Python-ohjelmointikieltä mallien muuntamiseen, optimointiin, kvantisoimiseen ja automaattiseen viritykseen optimaalisen suorituskyvyn saavuttamiseksi.
Microsoft Olivea käytetään usein muiden työkalujen kanssa, erityisesti Stable Diffusionin kanssa, joka on herkkä optimoinnille. Yhdistettynä ne pystyvät rakentamaan optimoituja malleja, joita voidaan käyttää erityissovelluksissa, kuten WebUI.
Pelkästään tämä mahdollistaa kuljettajien paremman tutkimisen ja lisää heidän kykyjään saavuttaa paljon parempi suorituskyky.
AMD: n opas 10 X suorituskyvyn saavuttamisesta GPU: lla liittyy paljon tähän työkaluun. Pohjimmiltaan nämä ovat oppaan vaiheet:
- Microsoft Oliven avulla voit luoda optimoidun vakaan diffuusiomallin.
- Sinun on testattava malli.
- Kun olet testannut sen, sinun on integroitava malli WebUI: hun.
- Olettaen, että olet jo asentanut Automatic1111 WebUI: n, sinun on suoritettava se optimoidun mallin kanssa.
Kokeen mukaan PyTorchin oletuspolulla toimiva AMD Radeon RX 7900 XTX tuottaa 1,87 iteraatiota sekunnissa. Mutta käyttämällä optimoitua mallia Microsoft Oliven kanssa, sama GPU tuottaa 18,59 iteraatiota sekunnissa.
Muista tutustua AMD: n täydelliseen oppaaseen AMD GPU: n suorituskyvyn parantamisesta, ja jos se toimii, ilmoita meille alla olevassa kommenttiosiossa.
