Перейти к содержимому

Гиперпараметры, недообучение и переобучение в наивном байесовском классификаторе || Урок 51 || Ма...

Computer Science and Engineering

0:00 / 0:00

Гиперпараметры, недообучение и переобучение в наивном байесовском классификаторе || Урок 51 || Ма...

5 641 просмотр · 6 л. назад
Computer Science and Engineering
69,1 тыс. подписчиков
5 641 просмотр · 6 л. назад
#машинноеобучение #обучающаясяобезьяна На этом занятии мы обсудим недообучение и переобучение гиперпараметров в наивном байесовском классификаторе. Чтобы понять недообучение и переобучение гиперпараметров в наивном байесовском классификаторе, нам необходимо понять наивный байесовский классификатор. На предыдущем занятии мы обсуждали сглаживание Лапласа. Если сглаживание Лапласа не применяется к нашей модели, предположим, слово присутствует только в одном отзыве, и если этот отзыв удален из набора данных, то вероятность этого слова равна нулю. Небольшое изменение в наборе данных приводит к значительному изменению вероятности. Это означает переобучение. Небольшие изменения в решении сильно влияют на это, поэтому мы называем модели с высокой дисперсией. Когда нет сглаживания Лапласа, то есть значение альфа равно нулю, происходит переобучение. По мере увеличения значения альфа мы удаляемся от переобучения. Давайте возьмем альфа равным десяти тысячам. В рассматриваемом нами примере 100 положительных отзывов. Предположим, слово присутствует в десяти вариантах обратной связи. Тогда вероятность равна 10 + 10000 / (100 + 20000). Значение вероятности близко к 0,5. Здесь влияние вероятности слова компенсируется значением альфа. Поскольку альфа равна 10000, то есть десять тысяч плюс десять, где десять не влияет на результат, Таким образом, вероятность любого слова будет близка к 0,5. Поэтому мы получаем одинаковое значение вероятности как для отрицательной, так и для положительной обратной связи. Это означает, что наша модель недообучена. Наша модель смещена в сторону определенного значения. Модели с высоким смещением называются недообученными моделями. Здесь альфа называется гиперпараметром. Изменяя модель, мы переходим к переобучению или недообучению. Поэтому нам необходимо настроить модель, чтобы найти наилучший гиперпараметр. Проверьте точность для разных гиперпараметров и найдите оптимальное значение альфа. Для поиска оптимального значения альфа-канала мы используем класс gridsearchcv из библиотеки sklearn. Это называется компромиссом между смещением и дисперсией. Настройка гиперпараметров осуществляется с помощью кросс-валидации, что легко сделать с помощью класса grid-search. Ссылка на плейлисты:    / @wisdomerscse   Ссылка на наш сайт: https://learningmonkey.in Подписывайтесь на нас в Facebook:   / learningmonkey   Подписывайтесь на нас в Instagram:   / learningmonkey1   Подписывайтесь на нас в Twitter:   / _learningmonkey   Напишите нам: learningmonkey01@gmail.com