Карина Курто — Архитектурные ограничения динамики рекуррентных сетей — IPAM в Калифорнийском унив...

Запись от 15 февраля 2024 года. Карина Курто из Университета штата Пенсильвания представляет доклад «Архитектурные ограничения на динамику рекуррентных сетей» на семинаре IPAM «Математические подходы к анализу коннектома». Аннотация: Рекуррентные нейронные сети способны воспроизводить широкий спектр нелинейной динамики, включая аттракторы с неподвижной точкой, предельные циклы, квазипериодические аттракторы и хаос. Как архитектура сети обеспечивает и ограничивает эту динамику? Этот вопрос является ключевым для понимания роли коннектомов в нейронных вычислениях: хотя коннектом не может полностью определить функцию сети, он создает и ограничивает пространство возможностей. Мы исследуем эти ограничения в контексте порогово-линейных сетей — семейства простых моделей, достаточно простых для математического изучения, но демонстрирующих полный спектр нелинейной динамики. Мы изучаем теорию бифуркации как функцию как синаптических весов, так и нейромодуляции и обнаруживаем, что разные архитектуры обеспечивают разные типы ограничений. Математически это можно понять через комбинаторную геометрию определенных конфигураций гиперплоскостей, связанных с моделью. Подробнее можно узнать онлайн по ссылке: https://www.ipam.ucla.edu/programs/wo...