Я научил ИИ играть в CartPole, используя только награды (Q-обучение с нуля)
CodeToAGI
0:00 / 0:00
Я научил ИИ играть в CartPole, используя только награды (Q-обучение с нуля)
60 просмотров · 7 дней назад
CodeToAGI
109 подписчиков
60 просмотров · 7 дней назад
В обучении с подкреплением нет ключа к ответам.
Агент действует → мир даёт вознаграждение → агент определяет, какие действия были правильными.
В этом эпизоде мы создаём с нуля на чистом NumPy полноценный агент табличного Q-обучения, который учится балансировать шест CartPole — и показываем честные результаты для 10 случайных начальных значений (а не только для одного счастливчика).
✅ Полный цикл обучения с подкреплением: агент, среда, состояние, действие, вознаграждение, политика, возврат
✅ Марковский процесс принятия решений + почему мы дисконтируем будущие вознаграждения (γ)
✅ Исследование против эксплуатации (эксперимент с трехруким бандитом в реальном времени)
✅ Q-обучение: Q-таблица + точное обновление Беллмана
✅ Как преобразовать 4 непрерывных числа CartPole в 72 дискретных состояния
✅ Обучение с затухающими ε и α + реальная кривая обучения
✅ Честная оценка: 6 из 10 начальных значений достигают идеальных 500, среднее значение ~342 против случайных 21
✅ Полный скрипт из 93 строк (5 чистых блоков), готовый к запуску
⏱ ГЛАВЫ
(Вставьте точные временные метки из output/youtube_chapters.txt после рендеринга)
💻 Код + Задание
github.com/CodeToAGI/deep-learning-series/ep50
📌 Задание (выполните это и оставьте комментарий с результатами):
1. Запустите скрипт и опубликуйте свой начальный параметр + оценку.
2. Измените BINS = (1, 1, 3, 6) и сообщите, что произошло.
3. Установите GAMMA = 0.9 и сообщите о разнице.
Следующий эпизод → Глубокие Q-сети (когда таблица становится нейронной сетью)
#ОбучениеСПодкреплением #QОбучение #CartPole #ГлубокоеОбучение #python