Перейти к содержимому

Я научил ИИ играть в CartPole, используя только награды (Q-обучение с нуля)

CodeToAGI

0:00 / 0:00

Я научил ИИ играть в CartPole, используя только награды (Q-обучение с нуля)

60 просмотров · 7 дней назад
CodeToAGI
109 подписчиков
60 просмотров · 7 дней назад
В обучении с подкреплением нет ключа к ответам. Агент действует → мир даёт вознаграждение → агент определяет, какие действия были правильными. В этом эпизоде ​​мы создаём с нуля на чистом NumPy полноценный агент табличного Q-обучения, который учится балансировать шест CartPole — и показываем честные результаты для 10 случайных начальных значений (а не только для одного счастливчика). ✅ Полный цикл обучения с подкреплением: агент, среда, состояние, действие, вознаграждение, политика, возврат ✅ Марковский процесс принятия решений + почему мы дисконтируем будущие вознаграждения (γ) ✅ Исследование против эксплуатации (эксперимент с трехруким бандитом в реальном времени) ✅ Q-обучение: Q-таблица + точное обновление Беллмана ✅ Как преобразовать 4 непрерывных числа CartPole в 72 дискретных состояния ✅ Обучение с затухающими ε и α + реальная кривая обучения ✅ Честная оценка: 6 из 10 начальных значений достигают идеальных 500, среднее значение ~342 против случайных 21 ✅ Полный скрипт из 93 строк (5 чистых блоков), готовый к запуску ⏱ ГЛАВЫ (Вставьте точные временные метки из output/youtube_chapters.txt после рендеринга) 💻 Код + Задание github.com/CodeToAGI/deep-learning-series/ep50 📌 Задание (выполните это и оставьте комментарий с результатами): 1. Запустите скрипт и опубликуйте свой начальный параметр + оценку. 2. Измените BINS = (1, 1, 3, 6) и сообщите, что произошло. 3. Установите GAMMA = 0.9 и сообщите о разнице. Следующий эпизод → Глубокие Q-сети (когда таблица становится нейронной сетью) #ОбучениеСПодкреплением #QОбучение #CartPole #ГлубокоеОбучение #python