Telegram Group & Telegram Channel
Ultra-Scale Playbook - книга по распределённой тренировке от Huggingface

Хороший общий обзор того, как эффективно использовать сотни GPU для обучения самых мощных AI моделей

Она предлагает пошаговый процесс выбора и настройки конфигурации обучения и их оптимизации
Проходятся по всем основным видам параллелизм, их сильным и слабым сторонам и как сделать их быстрыми и эффективными по памяти

Книга не просто теоретизирует, она основана на более 4000 реальных экспериментов, использующие вплоть до 512 GPU

Результаты поданы в виде куче графиков и интерактивных визуализаций

Всего 100 страниц, рекомендую почитать
К тому же они сделали cheatsheet, чтобы проще было запомнить содержание книги

https://huggingface.co/spaces/nanotron/ultrascale-playbook



group-telegram.com/anthropogenes/43151
Create:
Last Update:

Ultra-Scale Playbook - книга по распределённой тренировке от Huggingface

Хороший общий обзор того, как эффективно использовать сотни GPU для обучения самых мощных AI моделей

Она предлагает пошаговый процесс выбора и настройки конфигурации обучения и их оптимизации
Проходятся по всем основным видам параллелизм, их сильным и слабым сторонам и как сделать их быстрыми и эффективными по памяти

Книга не просто теоретизирует, она основана на более 4000 реальных экспериментов, использующие вплоть до 512 GPU

Результаты поданы в виде куче графиков и интерактивных визуализаций

Всего 100 страниц, рекомендую почитать
К тому же они сделали cheatsheet, чтобы проще было запомнить содержание книги

https://huggingface.co/spaces/nanotron/ultrascale-playbook

BY НИИ Антропогенеза (ARI)




Share with your friend now:
group-telegram.com/anthropogenes/43151

View MORE
Open in Telegram


Telegram | DID YOU KNOW?

Date: |

He floated the idea of restricting the use of Telegram in Ukraine and Russia, a suggestion that was met with fierce opposition from users. Shortly after, Durov backed off the idea. The gold standard of encryption, known as end-to-end encryption, where only the sender and person who receives the message are able to see it, is available on Telegram only when the Secret Chat function is enabled. Voice and video calls are also completely encrypted. "There are several million Russians who can lift their head up from propaganda and try to look for other sources, and I'd say that most look for it on Telegram," he said. Telegram has gained a reputation as the “secure” communications app in the post-Soviet states, but whenever you make choices about your digital security, it’s important to start by asking yourself, “What exactly am I securing? And who am I securing it from?” These questions should inform your decisions about whether you are using the right tool or platform for your digital security needs. Telegram is certainly not the most secure messaging app on the market right now. Its security model requires users to place a great deal of trust in Telegram’s ability to protect user data. For some users, this may be good enough for now. For others, it may be wiser to move to a different platform for certain kinds of high-risk communications. Continuing its crackdown against entities allegedly involved in a front-running scam using messaging app Telegram, Sebi on Thursday carried out search and seizure operations at the premises of eight entities in multiple locations across the country.
from ca


Telegram НИИ Антропогенеза (ARI)
FROM American