PyTorch и Autograd: метод backward() | PyTorch версии 2.xx
Сергей Дубинин
0:00 / 0:00
PyTorch и Autograd: метод backward() | PyTorch версии 2.xx
450 просмотров · 3 дн. назад
Сергей Дубинин
4,74 тыс. подписчиков
450 просмотров · 3 дн. назад
В этом видео разбираем автоматическое дифференцирование (Autograd) и работу с градиентами в PyTorch.
Вы узнаете, как PyTorch строит граф вычислений и считает градиенты с помощью backward(), разберётесь в нюансах работы с многомерными тензорами и научитесь применять это на практике.
Отдельно обсудим частые ошибки: почему градиенты суммируются, как их правильно обнулять и зачем нужны контекстные менеджеры torch.no_grad и torch.inference_mode для ускорения вычислений на валидации.
Видео подойдёт тем, кто изучает PyTorch и глубокое обучение, и хочет не просто использовать готовые решения, но и понимать, как под капотом работает обратное распространение ошибки (backpropagation).
🎓 МОИ КУРСЫ: https://clck.ru/3WAbcW
📚 МАТЕРИАЛЫ К ВИДЕО
• Код примеров из видео: Скоро будет
⏱ ТАЙМ-КОДЫ
00:00 — Введение
00:23 — Повторение из прошлых видео.
01:11 — Градиенты и метод backward.
07:26 — Отключение отслеживания градиентов.
08:29 — torch.no_grad()
10:25 — torch.inference_mode()
11:46 — Накопление градиентов.
📌 ПОЛЕЗНЫЕ ССЫЛКИ
• Telegram-канал: https://t.me/dubinin_ser
• Плейлист: • PyTorch 2.xx: без формул, только практика!
• Следующее видео: None
💬 ОБСУДИМ ТЕМУ
Остались вопросы по Autograd или хотите разобрать какой-то момент подробнее? Напишите в комментариях. Интересные вопросы могут стать темами следующих видео!
#PyTorch #Autograd #Градиенты #Python