Microsoft Olive tornará suas GPUs AMD 10 vezes mais rápidas

Microsoft Olive é uma ferramenta que utiliza a linguagem Python para otimizar modelos para máximo desempenho.

Você finalmente vai querer comprar chips AMD porque a gigante da tecnologia está colaborando com o Microsoft Olive para torná-los 10 vezes mais rápidos, com um aumento surpreendente de 9,9 X no desempenho.

Um novo experimento, conduzido pela AMD, mostra um aumento significativo no desempenho de geração de texto para imagem AI em Radeon RX com o Microsoft Olive. O crescimento surpreendente foi o resultado da ativação do Stable Diffusion com o Microsoft Olive.

A AMD lançou um guia passo a passo de como fazer isso, caso você tenha uma GPU AMD e queira experimentá-la. É moderadamente fácil e pode ser feito em etapas. Você precisará criar um modelo otimizado usando o Microsoft Olive, testá-lo e integrá-lo ao Automatic1111 WebUI.

Se você é um desenvolvedor de software ou gerente de TI, isso pode ser bastante fácil de fazer. Mas existem alguns pré-requisitos para isso:

• Git instalado (Git para Windows)
• Anaconda/Miniconda instalado (Miniconda para Windows)
  • Certifique-se de que o diretório Anaconda/Miniconda seja adicionado ao PATH
• Plataforma com AMD Graphics Processing Units (GPU)
  • Driver: AMD Software: Adrenalin Edition™ 23.7.2 ou mais recente (https://www.amd.com/en/support)

O Microsoft Olive é capaz de melhorar muito o desempenho de suas GPUs AMD

Se você não sabe nada sobre o Microsoft Olive, a ferramenta usa a linguagem de programação Python para converter, otimizar, quantizar e autoajustar modelos para desempenho ideal.

O Microsoft Olive é frequentemente usado com outras ferramentas, especialmente com Stable Diffusion, que é sensível à otimização. Juntos, eles são capazes de construir modelos otimizados que podem ser executados com aplicativos especiais, como o WebUI.

Isso por si só permite uma melhor exploração dos drivers e impulsiona suas capacidades para alcançar um desempenho muito melhor.

O guia da AMD sobre como obter um desempenho 10 X em sua GPU tem muito a ver com esta ferramenta. Essencialmente, estas são as etapas do guia:

1. Com o Microsoft Olive, você poderá gerar um modelo de difusão estável otimizado.
2. Você precisará testar o modelo.
3. Depois de testá-lo, você precisará integrar o modelo com WebUI.
4. Supondo que você já tenha instalado o Automatic1111 WebUI, você precisará executá-lo com o modelo otimizado.

De acordo com o experimento, executado no caminho padrão do PyTorch, o AMD Radeon RX 7900 XTX oferece 1,87 iterações/segundo. Mas usando o modelo otimizado com Microsoft Olive, a mesma GPU oferece 18,59 iterações/segundo.

Certifique-se de verificar o guia completo da AMD sobre como melhorar o desempenho de sua GPU AMD e, se funcionar, informe-nos na seção de comentários abaixo.