Лекция 5, часть 3: Дифференцирование на вычислительных графах

MIT 18.S096 Матричный анализ для машинного обучения и не только, IAP 2023 Преподаватели: Алан Эдельман, Стивен Г. Джонсон Полный курс: https://ocw.mit.edu/courses/18-s096-m... Плейлист на YouTube:    • MIT 18.S096 Matrix Calculus For Machine Le...   Описание: В самом общем виде правило цепочки можно рассматривать как поток вычислений через «графы», состоящие из узлов (промежуточных значений), соединенных ребрами (функциями, действующими на эти значения). Когда мы распространяем производные через граф от входных значений к выходным, мы получаем структуру автоматического дифференцирования в прямом режиме; Переход от выходов к входам приводит к обратному режиму, к которому мы вернемся в лекции 8. Лицензия: Creative Commons BY-NC-SA Более подробная информация на https://ocw.mit.edu/terms Больше курсов на https://ocw.mit.edu Поддержите OCW по ссылке http://ow.ly/a1If50zVRlQ Мы приветствуем конструктивные комментарии и обсуждения на YouTube-канале OCW и в других социальных сетях. Личные нападки, разжигание ненависти, троллинг и неуместные комментарии запрещены и могут быть удалены. Подробнее на https://ocw.mit.edu/comments.