Microsoft Olive сделает ваши графические процессоры AMD в 10 раз быстрее

Microsoft Olive — это инструмент, использующий язык Python для оптимизации моделей для достижения максимальной производительности.

Вы, наконец, захотите приобрести чипы AMD, потому что технический гигант сотрудничает с Microsoft Olive, чтобы сделать их в 10 раз быстрее, а производительность увеличилась в 9,9 раз.

Новый эксперимент, проведенный AMD, показывает значительное увеличение производительности преобразования текста в изображение ИИ на Радеон РХ с Microsoft Olive. Поразительный рост стал результатом включения Stable Diffusion с Microsoft Olive.

AMD выпустила пошаговое руководство о том, как это сделать, если у вас есть графический процессор AMD и вы хотите попробовать его. Это относительно просто, и это можно сделать поэтапно. Вам нужно будет создать оптимизированную модель с помощью Microsoft Olive, протестировать ее и интегрировать с Automatic1111 WebUI.

Если вы разработчик программного обеспечения или ИТ-менеджер, это может быть довольно легко сделать. Но для этого есть некоторые предпосылки:

• Установил Гит (Гит для Windows)
• Установлена ​​Анаконда/Миниконда (Миниконда для Windows)
  • Убедитесь, что каталог Anaconda/Miniconda добавлен в PATH
• Платформа с графическими процессорами AMD (GPU)
  • Драйвер: Программное обеспечение AMD: Adrenalin Edition™ 23.7.2 или новее (https://www.amd.com/en/support)

Microsoft Olive способна значительно повысить производительность ваших графических процессоров AMD.

Если вы ничего не знаете о Microsoft Olive, этот инструмент использует язык программирования Python для преобразования, оптимизации, квантования и автоматической настройки моделей для достижения оптимальной производительности.

Microsoft Olive часто используется с другими инструментами, особенно со Stable Diffusion, который чувствителен к оптимизации. Собранные вместе, они могут создавать оптимизированные модели, которые могут работать со специальными приложениями, такими как WebUI.

Это само по себе позволяет лучше изучить драйверы и расширяет их возможности для достижения гораздо более высокой производительности.

Руководство AMD о том, как добиться 10-кратной производительности на вашем графическом процессоре, во многом связано с этим инструментом. По сути, это шаги руководства:

1. С Microsoft Olive вы сможете создать оптимизированную модель стабильной диффузии.
2. Вам нужно будет протестировать модель.
3. После того, как вы протестируете его, вам нужно будет интегрировать модель с WebUI.
4. Предполагая, что вы уже установили Automatic1111 WebUI, вам нужно будет запустить его с оптимизированной моделью.

Согласно эксперименту, при использовании пути PyTorch по умолчанию AMD Radeon RX 7900 XTX обеспечивает 1,87 итерации в секунду. Но при использовании оптимизированной модели с Microsoft Olive тот же графический процессор обеспечивает 18,59 итераций в секунду.

Обязательно ознакомьтесь с полным руководством AMD о том, как повысить производительность вашего графического процессора AMD, и, если оно работает, сообщите нам об этом в разделе комментариев ниже.