Telegram Group & Telegram Channel
Ultra-Scale Playbook - книга по распределённой тренировке от Huggingface

Хороший общий обзор того, как эффективно использовать сотни GPU для обучения самых мощных AI моделей

Она предлагает пошаговый процесс выбора и настройки конфигурации обучения и их оптимизации
Проходятся по всем основным видам параллелизм, их сильным и слабым сторонам и как сделать их быстрыми и эффективными по памяти

Книга не просто теоретизирует, она основана на более 4000 реальных экспериментов, использующие вплоть до 512 GPU

Результаты поданы в виде куче графиков и интерактивных визуализаций

Всего 100 страниц, рекомендую почитать
К тому же они сделали cheatsheet, чтобы проще было запомнить содержание книги

https://huggingface.co/spaces/nanotron/ultrascale-playbook



group-telegram.com/anthropogenes/43151
Create:
Last Update:

Ultra-Scale Playbook - книга по распределённой тренировке от Huggingface

Хороший общий обзор того, как эффективно использовать сотни GPU для обучения самых мощных AI моделей

Она предлагает пошаговый процесс выбора и настройки конфигурации обучения и их оптимизации
Проходятся по всем основным видам параллелизм, их сильным и слабым сторонам и как сделать их быстрыми и эффективными по памяти

Книга не просто теоретизирует, она основана на более 4000 реальных экспериментов, использующие вплоть до 512 GPU

Результаты поданы в виде куче графиков и интерактивных визуализаций

Всего 100 страниц, рекомендую почитать
К тому же они сделали cheatsheet, чтобы проще было запомнить содержание книги

https://huggingface.co/spaces/nanotron/ultrascale-playbook

BY НИИ Антропогенеза (ARI)




Share with your friend now:
group-telegram.com/anthropogenes/43151

View MORE
Open in Telegram


Telegram | DID YOU KNOW?

Date: |

For tech stocks, “the main thing is yields,” Essaye said. Additionally, investors are often instructed to deposit monies into personal bank accounts of individuals who claim to represent a legitimate entity, and/or into an unrelated corporate account. To lend credence and to lure unsuspecting victims, perpetrators usually claim that their entity and/or the investment schemes are approved by financial authorities. On February 27th, Durov posted that Channels were becoming a source of unverified information and that the company lacks the ability to check on their veracity. He urged users to be mistrustful of the things shared on Channels, and initially threatened to block the feature in the countries involved for the length of the war, saying that he didn’t want Telegram to be used to aggravate conflict or incite ethnic hatred. He did, however, walk back this plan when it became clear that they had also become a vital communications tool for Ukrainian officials and citizens to help coordinate their resistance and evacuations. Since January 2022, the SC has received a total of 47 complaints and enquiries on illegal investment schemes promoted through Telegram. These fraudulent schemes offer non-existent investment opportunities, promising very attractive and risk-free returns within a short span of time. They commonly offer unrealistic returns of as high as 1,000% within 24 hours or even within a few hours. The picture was mixed overseas. Hong Kong’s Hang Seng Index fell 1.6%, under pressure from U.S. regulatory scrutiny on New York-listed Chinese companies. Stocks were more buoyant in Europe, where Frankfurt’s DAX surged 1.4%.
from de


Telegram НИИ Антропогенеза (ARI)
FROM American