Microsoft Olive é uma ferramenta que utiliza a linguagem Python para otimizar modelos para máximo desempenho.
- As GPUs AMD podem ter um desempenho muito melhor com um modelo otimizado em execução nelas.
- O modelo otimizado usa o Microsoft Olive, uma ferramenta Python que ajusta os modelos para desempenho ideal.
- A AMD lançou um guia sobre como fazer isso.
Você finalmente vai querer comprar chips AMD porque a gigante da tecnologia está colaborando com o Microsoft Olive para torná-los 10 vezes mais rápidos, com um aumento surpreendente de 9,9 X no desempenho.
Um novo experimento, conduzido pela AMD, mostra um aumento significativo no desempenho de geração de texto para imagem AI em Radeon RX com o Microsoft Olive. O crescimento surpreendente foi o resultado da ativação do Stable Diffusion com o Microsoft Olive.
A AMD lançou um guia passo a passo de como fazer isso, caso você tenha uma GPU AMD e queira experimentá-la. É moderadamente fácil e pode ser feito em etapas. Você precisará criar um modelo otimizado usando o Microsoft Olive, testá-lo e integrá-lo ao Automatic1111 WebUI.
Se você é um desenvolvedor de software ou gerente de TI, isso pode ser bastante fácil de fazer. Mas existem alguns pré-requisitos para isso:
- Git instalado (Git para Windows)
- Anaconda/Miniconda instalado (Miniconda para Windows)
- Certifique-se de que o diretório Anaconda/Miniconda seja adicionado ao PATH
- Plataforma com AMD Graphics Processing Units (GPU)
- Driver: AMD Software: Adrenalin Edition™ 23.7.2 ou mais recente (https://www.amd.com/en/support)
O Microsoft Olive é capaz de melhorar muito o desempenho de suas GPUs AMD
Se você não sabe nada sobre o Microsoft Olive, a ferramenta usa a linguagem de programação Python para converter, otimizar, quantizar e autoajustar modelos para desempenho ideal.
O Microsoft Olive é frequentemente usado com outras ferramentas, especialmente com Stable Diffusion, que é sensível à otimização. Juntos, eles são capazes de construir modelos otimizados que podem ser executados com aplicativos especiais, como o WebUI.
Isso por si só permite uma melhor exploração dos drivers e impulsiona suas capacidades para alcançar um desempenho muito melhor.
O guia da AMD sobre como obter um desempenho 10 X em sua GPU tem muito a ver com esta ferramenta. Essencialmente, estas são as etapas do guia:
- Com o Microsoft Olive, você poderá gerar um modelo de difusão estável otimizado.
- Você precisará testar o modelo.
- Depois de testá-lo, você precisará integrar o modelo com WebUI.
- Supondo que você já tenha instalado o Automatic1111 WebUI, você precisará executá-lo com o modelo otimizado.
De acordo com o experimento, executado no caminho padrão do PyTorch, o AMD Radeon RX 7900 XTX oferece 1,87 iterações/segundo. Mas usando o modelo otimizado com Microsoft Olive, a mesma GPU oferece 18,59 iterações/segundo.
Certifique-se de verificar o guia completo da AMD sobre como melhorar o desempenho de sua GPU AMD e, se funcionar, informe-nos na seção de comentários abaixo.
