Microsoft Olive — это инструмент, использующий язык Python для оптимизации моделей для достижения максимальной производительности.
- Графические процессоры AMD могут работать намного лучше, если на них работает оптимизированная модель.
- Оптимизированная модель использует Microsoft Olive, инструмент Python, который настраивает модели для достижения оптимальной производительности.
- AMD выпустила руководство о том, как это сделать.
Вы, наконец, захотите приобрести чипы AMD, потому что технический гигант сотрудничает с Microsoft Olive, чтобы сделать их в 10 раз быстрее, а производительность увеличилась в 9,9 раз.
Новый эксперимент, проведенный AMD, показывает значительное увеличение производительности преобразования текста в изображение ИИ на Радеон РХ с Microsoft Olive. Поразительный рост стал результатом включения Stable Diffusion с Microsoft Olive.
AMD выпустила пошаговое руководство о том, как это сделать, если у вас есть графический процессор AMD и вы хотите попробовать его. Это относительно просто, и это можно сделать поэтапно. Вам нужно будет создать оптимизированную модель с помощью Microsoft Olive, протестировать ее и интегрировать с Automatic1111 WebUI.
Если вы разработчик программного обеспечения или ИТ-менеджер, это может быть довольно легко сделать. Но для этого есть некоторые предпосылки:
- Установил Гит (Гит для Windows)
- Установлена Анаконда/Миниконда (Миниконда для Windows)
- Убедитесь, что каталог Anaconda/Miniconda добавлен в PATH
- Платформа с графическими процессорами AMD (GPU)
- Драйвер: Программное обеспечение AMD: Adrenalin Edition™ 23.7.2 или новее (https://www.amd.com/en/support)
Microsoft Olive способна значительно повысить производительность ваших графических процессоров AMD.
Если вы ничего не знаете о Microsoft Olive, этот инструмент использует язык программирования Python для преобразования, оптимизации, квантования и автоматической настройки моделей для достижения оптимальной производительности.
Microsoft Olive часто используется с другими инструментами, особенно со Stable Diffusion, который чувствителен к оптимизации. Собранные вместе, они могут создавать оптимизированные модели, которые могут работать со специальными приложениями, такими как WebUI.
Это само по себе позволяет лучше изучить драйверы и расширяет их возможности для достижения гораздо более высокой производительности.
Руководство AMD о том, как добиться 10-кратной производительности на вашем графическом процессоре, во многом связано с этим инструментом. По сути, это шаги руководства:
- С Microsoft Olive вы сможете создать оптимизированную модель стабильной диффузии.
- Вам нужно будет протестировать модель.
- После того, как вы протестируете его, вам нужно будет интегрировать модель с WebUI.
- Предполагая, что вы уже установили Automatic1111 WebUI, вам нужно будет запустить его с оптимизированной моделью.
Согласно эксперименту, при использовании пути PyTorch по умолчанию AMD Radeon RX 7900 XTX обеспечивает 1,87 итерации в секунду. Но при использовании оптимизированной модели с Microsoft Olive тот же графический процессор обеспечивает 18,59 итераций в секунду.
Обязательно ознакомьтесь с полным руководством AMD о том, как повысить производительность вашего графического процессора AMD, и, если оно работает, сообщите нам об этом в разделе комментариев ниже.
