[Вариационный автокодировщик] Автокодирование Вариационный байесовский классификатор | Основы AISC

Сократовские круги по искусственному интеллекту Подробности, включая слайды, см. на сайте https://aisc.a-i.science/events/2019-... Руководитель: Элхам Долатабади Модераторы: Крис Драйден, Флориан Гёбельс Автокодирующий вариационный байесовский классификатор Как можно эффективно осуществлять вывод и обучение в направленных вероятностных моделях, при наличии непрерывных скрытых переменных с трудноразрешимыми апостериорными распределениями и больших наборах данных? Мы представляем стохастический вариационный алгоритм вывода и обучения, который масштабируется до больших наборов данных и, при некоторых мягких условиях дифференцируемости, работает даже в трудноразрешимом случае. Наш вклад состоит из двух частей. Во-первых, мы показываем, что перепараметризация вариационной нижней границы дает оценку нижней границы, которую можно легко оптимизировать с помощью стандартных методов стохастического градиента. Во-вторых, мы показываем, что для независимых одинаково распределенных случайных величин... В наборах данных с непрерывными скрытыми переменными для каждой точки данных апостериорный вывод может быть особенно эффективным за счет подгонки приблизительной модели вывода (также называемой моделью распознавания) к трудноразрешимому апостериорному распределению с использованием предложенного оценщика нижней границы. Теоретические преимущества подтверждаются экспериментальными результатами.