Распределение Дирихле | Интуиция и введение | с примером в TensorFlow Probability
Machine Learning & Simulation
0:00 / 0:00
Распределение Дирихле | Интуиция и введение | с примером в TensorFlow Probability
11 188 просмотров · 5 л. назад
Machine Learning & Simulation
34,6 тыс. подписчиков
11 188 просмотров · 5 л. назад
Параметр категориального числа представляет собой вектор параметров. Можно ли задать для него распределение? Да, можно. Это распределение Дирихле. Вот пояснения: https://raw.githubusercontent.com/Cey...
Вектор параметров категориального числа имеет размерность, равную числу состояний этого числа. Например, если мы моделируем погоду как три состояния: облачно, дождливо или солнечно, то нам нужен параметр (вероятность) для каждого из состояний.
К этому вектору вероятностей предъявляются два требования: (1) все элементы должны быть выбраны из интервала [0, 1] (поскольку это вероятности), (2) сумма компонент вектора должна равняться единице. В этом видео мы увидим, что это означает, что D-мерный вектор параметров распределен по (D-1)-мерному симплексу в D измерениях.
Дирихле описывает распределение плотности вероятности на этом симплексе. Параметризацией занимается альфа-вектор, также имеющий D-компоненты, которые мы можем использовать для перемещения вероятностной массы по симплексу.
Вот веб-сайт, который я показал в видео:
https://chart-studio.plotly.com/~davi...
-------
📝: Посмотрите репозиторий канала на GitHub, куда я загружаю все рукописные заметки и файлы исходного кода (вклад приветствуется): https://github.com/Ceyron/machine-lea...
📢: Следите за обновлениями канала и другими интересными материалами по машинному обучению и моделированию в LinkedIn или Twitter: / felix-koehler и / felix_m_koehler
💸: Если вы хотите поддержать мою работу на канале, вы можете стать патроном здесь: / mlsim
-------
Временные метки:
00:00 Введение
00:33 Ограничения на вектор параметров
02:00 Визуализация вектора параметров 2-состояния
05:56 Связь с бета-распределением
07:03 Визуализация вектора параметров 3-состояния
09:25 Общий вектор параметров D-состояния
10:37 Функция плотности вероятности
11:56 Параметры распределения Дирихле
12:24 График: Изучение значений альфа
15:58 TFP: Создание распределения Дирихле
16:49 TFP: Выборка распределения Дирихле
17:16 TFP: Запрос к функции плотности вероятности
17:55 TF: Вычисление многомерной бета-функции
18:47 Заключение