Пол Кристиано — Механистическое оценивание — IPAM в UCLA

Запись от 31 августа 2026 г. Пол Кристиано из Центра исследований выравнивания представляет доклад «Механистическая оценка» на семинаре IPAM «Основы интерпретируемости». Аннотация: Я представлю формализацию гипотезы о том, что каждое удивительное вычислительное явление имеет хорошее объяснение. Затем я обсужу предварительные работы, направленные на объяснение поведения простых вычислительных систем, и, опираясь на исторический опыт в математике, докажу, что объяснения могут не только всегда существовать, но и быть эффективно обнаружены. Наконец, я буду утверждать, что поиск объяснений сложного поведения в нейронных сетях станет значительным шагом вперед в области выравнивания ИИ и одним из важнейших вкладов, которые математика может внести в безопасность ИИ. Подробнее можно узнать онлайн по адресу: https://www.ipam.ucla.edu/programs/wo...