Как рассчитать функцию потерь, обратное распространение ошибки и градиентный спуск на простейшей ...

Пошаговый пример вычисления функции потерь, обратного распространения ошибки и градиентного спуска на самой простой нейронной сети. Демонстрация на доске с использованием кода на Python и упрощенных математических вычислений. После этого урока у вас будет хорошее представление о том, как обучаются нейронные сети. Демо-код: https://github.com/johnnycode8/basic_... Поддержать меня: https://www.buymeacoffee.com/johnnycode 00:00 Введение 00:18 Структура 2-узловой нейронной сети 00:40 Определение задачи (линейная регрессия) 02:25 Настройка Python для обучения сети 03:02 Начало с угадывания веса 03:40 Функция потерь (Насколько плохим было угадывание?) 04:26 Функция потерь (среднеквадратичная ошибка) 04:40 Зачем удалять ноль из входных данных 05:34 Как вес влияет на функцию потерь 06:47 Обратное распространение ошибки (производная функции потерь по отношению к весу) 11:20 Коррекция веса (градиентный спуск) 11:52 Обучение сети для y=x 13:12 Цель обучения Скорость 14:36 ​​Повторная тренировка сети для y=-2x 15:32 Добавление смещения (пересечения) 16:16 Нахождение производной функции потерь относительно смещения 17:21 Повторная тренировка сети для y=-2x+2 19:01 Выгоревший кот