Microsoft Olive es una herramienta que utiliza el lenguaje Python para optimizar los modelos para obtener el máximo rendimiento.
- Las GPU AMD pueden funcionar mucho mejor con un modelo optimizado ejecutándose en ellas.
- El modelo optimizado utiliza Microsoft Olive, una herramienta de Python que ajusta los modelos para un rendimiento óptimo.
- AMD lanzó una guía sobre cómo hacerlo.
Finalmente querrá comprar chips AMD porque el gigante tecnológico está colaborando con Microsoft Olive para hacerlos 10 veces más rápidos, con un sorprendente aumento de rendimiento de 9,9 veces.
un nuevo experimento, realizado por AMD, muestra un aumento significativo en el rendimiento de generación de texto a imagen de IA en Radeon RX con Microsoft Oliva. El asombroso crecimiento fue el resultado de habilitar Stable Diffusion con Microsoft Olive.
AMD lanzó una guía paso a paso sobre cómo hacerlo, en caso de que tenga una GPU AMD y quiera probarla. Es moderadamente fácil y se puede hacer en pasos. Deberá crear un modelo optimizado con Microsoft Olive, probarlo e integrarlo con Automatic1111 WebUI.
Si es un desarrollador de software o un administrador de TI, esto puede ser bastante fácil de hacer. Pero hay algunos requisitos previos para ello:
- Git instalado (Git para Windows)
- Anaconda/Miniconda instalada (Miniconda para Windows)
- Asegúrese de que el directorio Anaconda/Miniconda se agregue a PATH
- Plataforma con unidades de procesamiento de gráficos (GPU) de AMD
- Controlador: Software AMD: Adrenalin Edition™ 23.7.2 o posterior (https://www.amd.com/en/support)
Microsoft Olive es capaz de mejorar en gran medida el rendimiento de sus GPU AMD
Si no sabe nada sobre Microsoft Olive, la herramienta utiliza el lenguaje de programación Python para convertir, optimizar, cuantificar y ajustar automáticamente los modelos para un rendimiento óptimo.
Microsoft Olive se usa a menudo con otras herramientas, especialmente con Stable Diffusion, que es sensible a la optimización. Cuando se combinan, pueden crear modelos optimizados que se pueden ejecutar con aplicaciones especiales, como WebUI.
Esto solo permite una mejor exploración de los controladores y aumenta sus capacidades para lograr un rendimiento mucho mejor.
La guía de AMD sobre cómo conseguir un rendimiento 10X en tu GPU tiene mucho que ver con esta herramienta. Esencialmente, estos son los pasos de la guía:
- Con Microsoft Olive, podrá generar un modelo de difusión estable optimizado.
- Tendrás que probar el modelo.
- Después de probarlo, deberá integrar el modelo con WebUI.
- Suponiendo que ya instaló Automatic1111 WebUI, deberá ejecutarlo con el modelo optimizado.
Según el experimento, al ejecutarse en la ruta PyTorch predeterminada, AMD Radeon RX 7900 XTX ofrece 1,87 iteraciones por segundo. Pero usando el modelo optimizado con Microsoft Olive, la misma GPU ofrece 18,59 iteraciones por segundo.
Asegúrese de consultar la guía completa de AMD sobre cómo mejorar el rendimiento de su GPU AMD y, si funciona, infórmenos en la sección de comentarios a continuación.
