group-telegram.com/Psy_Eyes/1798
Last Update:
AsyncDiff: ускоряем генерацию видео и картинок через распараллеливаем процессов.
Подход схож с такой распределёнкой как Stable Horde, но в ней пока бустится только генерация картинок и текста, а AsyncDiff это универсальное plug-n-play решение для ускорения диффузионных моделей. На данный момент работает с:
* Stable Video Diffusion (SVD)
* AnimateDiff
* SD 1.5
* SD 2.1
* SDXL
* ControlNet
* Stable Diffusion x4 Upscaler
Задание делится на куски и каждая GPU параллельно обрабатывает свою часть контента. Чтобы при генерации фрагменты не зависели друг от друга, денойзинг происходит асинхронно, используя высокое сходство между скрытыми состояниями на последовательных шагах диффузии. Чем больше GPU в сети и фрагментов контента, тем быстрее и качественнее будет результат. Мне по некоторым примерам даже кажется, что Multi-GPU генерация получается четче в плане композиции и деталей.
Эту штуку мне особенно интересно потестить.
Сайт
Гитхаб
BY Psy Eyes
Share with your friend now:
group-telegram.com/Psy_Eyes/1798