Макрам Шахин — От интернета до периферии и обратно.

Аннотация: Современная робототехника сталкивается с центральной дилеммой: беспрецедентный доступ к моделям интернет-масштаба для цифрового восприятия и рассуждений в противовес бескомпромиссным ограничениям физического мира. Задача состоит в том, чтобы объединить эти высокоуровневые возможности с вычислениями на периферии сети в реальном времени, ограниченной связью и критически важными требованиями к безопасности, работая при этом с демонстрационными наборами данных, которые на порядки меньше триллионов токенов, используемых для базовых моделей передовых разработок. В этом докладе рассматриваются оба конца спектра эффективности: во-первых, с помощью децентрализованных алгоритмов, использующих базовые модели для обеспечения высокоэффективного мониторинга дикой природы с помощью роя дронов, и, во-вторых, с помощью методов архитектурного сжатия в процессе обучения, позволяющих сделать большие модели жизнеспособными на периферии сети. Во-первых, мы переходим от интернета к периферии сети: внедрение передовых моделей машинного зрения в рой дронов для автономного мониторинга кашалотов в рамках проекта CETI. Мы представляем полностью децентрализованный конвейер, охватывающий разведку, обнаружение, планирование движения, многоагентную регистрацию, назначение целей и выполнение индивидуального мониторинга. Далее мы возвращаемся от периферии к обучению: задаемся вопросом, можно ли уменьшить большие модели во время самого обучения. Мы представляем CompreSSM, теоретико-управляемую структуру, которая использует сингулярные значения Ханкеля и сбалансированное усечение для постепенного сжатия моделей пространства состояний в процессе обучения, что позволяет снизить вычислительные затраты как на обучение, так и на вывод. Вместе эти две работы прослеживают полный цикл: цифровой интеллект, развернутый на физических роботах, и ограничения физических ресурсов, влияющие на то, как мы обучаем модели в первую очередь. Биография: Макрам Шахин — аспирант последнего года обучения в области компьютерных наук в MIT CSAIL, научный руководитель — профессор Даниэла Рус. Его исследования посвящены разработке эффективных методов машинного обучения, часто основанных на теории динамических систем, с целью создания автономных агентов, которые устойчиво обобщают данные в условиях реального мира. Он также является научным сотрудником Гарвардского университета, где в рамках проекта CETI разрабатывает воздушные роботизированные системы для автономного мониторинга кашалотов. Макрам имеет диплом инженера-программиста по прикладной математике от CentraleSupélec и степень магистра аэрокосмической инженерии от Технологического института Джорджии.