Что на самом деле делает MCMC

В прошлом видео мы нашли апостериорное распределение, взяв выборки прямо из априорного распределения и оценив каждую из них. Это сработало, и результат был ужасным: миллион бросков, и 613 из них что-то значили. Шесть сотых процента. Причина в том, что априорное распределение ничего не знает. Оно бросает каждый дротик в всю стену и не помнит, куда упал последний. Поэтому посмотрите на один из немногих бросков, которые попали удачно, и задайте очевидный вопрос. Если этот бросок принципил удачный, то следующий удачный бросок, скорее всего, будет далеко от него или близко? Близко, очевидно. Немного более крутая линия на протяжении тех же пяти недель все еще хорошая линия. Поэтому перестаньте бросать в всю стену — бросайте следующий бросок рядом с предыдущим. В этом вся идея, а все остальное в этом видео — это просто подсчеты. ПРАВИЛО в четырех строках, и пятой нет. Предложите небольшой шаг рядом. Оценка обе оценки - это оценка видео 8, вероятность, умноженная на предыдущую. Лучше? Переместить. Хуже? Переместить в любом случае, иногда с вероятностью, равной отношению двух оценок. Эти оценки являются логарифмами, поэтому отношение - это разница: если логарифм оценки падает на 2, вероятность перемещения равна e в степени минус 2, примерно 0,14. И поскольку каждый шаг занимает отношение, неудобный знаменатель из теоремы Байеса - вероятность данных - одинаков в обоих случаях и сокращается. На каждом шаге. Вам никогда не нужно это знать. ДВАДЦАТЬ ШАГОВ ВРУЧНУЮ, на плоскости возможных наклонов и базовых линий, с апостериорным распределением, нарисованным в виде контурных эллипсов снизу. Начиная с наклона 5,2 и базовой линии 66, которая намеренно является плохой линией - на врезке показана линия, которая сильно пропускает пять недель. Подробнее о том, как мы это делаем: https://www.partnersinsights.org Шаг 1 предлагает вариант хуже на 10,63, поэтому вероятность перемещения составляет е в степени минус 10,63 - примерно два на сто тысяч. Монета показывает 0,717, поэтому мы остаемся, и оставление места засчитывается: это место снова записывается. Шаг 4 показывает результат лучше на 3,13, поэтому мы перемещаемся, монета не нужна. Затем шаг 8, четвертая линия делает свою работу: хуже на 2,23, поэтому вероятность перемещения составляет е в степени минус 2,23, что равно 0,108. Монета показывает 0,097. Менее одной десятой. Мы перемещаемся в худшее место, намеренно. К шагу 20 он переходит с плохой линии на хорошую - 8 вверх, 1 вниз, выбранный по монете, 11 отклоненных. Все двадцать представлены в виде таблицы, чтобы вы могли проверить те, которые я пропустил. Он не сбился с пути. Оно шло. ТРОПА — ЭТО АПОСТЕРИОР. 20 000 шагов, первые 2000 отброшены, и тропа описывает длинную тонкую диагональную полосу, а не пятно. Наклон и базовая линия коррелируют на уровне -0,90, потому что более крутая линия требует более низкой базовой линии, чтобы пройти через те же пять недель, и прогулка находит это самостоятельно. Возьмите столбец наклона, посчитайте, где он находился, и эта гистограмма — апостериор. Ответ из видео 8 лежит сверху, и они совпадают. Прогулка дает 7,886 +/- 0,467. Точный ответ — 7,891 +/- 0,472. И вот к чему вели последние два видео. Видео 8 потребовало миллион попыток, для этого, и 613 из них имели какую-либо ценность. Эта прогулка использовала 20 000 и получила 632 независимой информации. Тот же ответ, но в пятьдесят раз меньше попыток. Вот что дает вам предложение, сделанное рядом с тем местом, где вы находитесь. УДАЛИТЕ ЧЕТВЕРТУЮ СТРОКУ, и это перестанет быть сэмплером. Тот же путь, то же начальное значение, только движение всегда вверх: он поднимается по гребню, достигает вершины и остается там. Он сообщает о наклоне 7,890, что почти точно соответствует действительности, и ширине 0,0089 против истинного значения 0,472 — интервал примерно в пятьдесят раз уже, чем нужно. Он нашел наилучшую точку и перестал искать, и представляет это как уверенность. Уверенное число, узкий интервал, модель, которая быстро сошлась. Движение только вверх — это не сэмплер, это оптимизатор. Шаги вниз — это неопределенность. На практике возникают две ошибки. Начните с действительно глупого места, и потребуется 54 шага, просто чтобы добраться до цели — не выборки чего-либо, а просто движение, что и есть разминка. И размер шага: 0,04 принимает 91 процент предложений и стоит 27 независимых выборов из 18 000; 4 принимает 1,3 процента и стоит 105; средний принимает 26 процентов и стоит 632. Коэффициент более 23 с одного циферблата. И ловушка: 91 процент принятия выглядит здоровым, но это самый больной из трех вариантов. Meridian и PyMC Marketing работают по принципу NUTS, и это правило все еще лежит в его основе. Что меняется, так это предложение: оно использует уклон ландшафта, чтобы определить, где находится вверх по склону, и следует по нему, что на длинном узком хребте имеет огромное значение. Дальность его прохождения определяется разворотом; размер шага настраивается во время разминки. Таким образом, цепочка — это прогулка...