Семинар RI: Анируддха Маджумдар: Роботы, которые знают, когда они чего-то не знают

Анирудха Маджумдар Доцент Кафедра машиностроения и аэрокосмической техники, Принстонский университет 25 октября 2024 г. https://www.ri.cmu.edu/event/robots-t... Роботы, которые знают, когда чего-то не знают Аннотация: Базовые модели машинного обучения позволили быстро продвинуться в области восприятия, планирования и понимания естественного языка для роботов. Однако существующие системы не обладают строгими гарантиями при необходимости обобщения на новые сценарии. Например, системы восприятия могут не идентифицировать или локализовать незнакомые объекты, а планировщики на основе больших языковых моделей (LLM) могут генерировать ложные результаты, которые приводят к небезопасным последствиям при выполнении роботами. Как мы можем строго количественно оценить неопределенность компонентов машинного обучения, чтобы роботы знали, когда чего-то не знают, и могли действовать соответствующим образом? В этом докладе я представлю работу нашей группы по разработке принципиальных теоретических и алгоритмических методов для обеспечения формальных гарантий для обучаемых роботов, действующих на основе богатых сенсорных данных (например, зрения) и инструкций на естественном языке. Ключевая техническая идея заключается в использовании и расширении мощных методов из теории конформного прогнозирования и теории обобщения для строгой количественной оценки неопределенности таким образом, чтобы это дополняло и масштабировалось с растущими возможностями базовых моделей. Я представлю экспериментальную проверку наших методов обеспечения надежных статистических гарантий для планировщиков LLM, которые запрашивают помощь в случае неопределенности, а также для навигации и манипулирования на основе зрения. Биография: Анирудха Маджумдар — доцент Принстонского университета на кафедре машиностроения и аэрокосмической техники и ассоциированный преподаватель на кафедре компьютерных наук. Он также занимает должность научного сотрудника в Google DeepMind. Маджумдар получил степень доктора философии в области электротехники и компьютерных наук в Массачусетском технологическом институте в 2016 году, а также степень бакалавра технических наук. В 2011 году он получил степень магистра машиностроения и математики в Университете Пенсильвании. Впоследствии, с 2016 по 2017 год, он был постдокторантом в Стэнфордском университете в Лаборатории автономных систем на кафедре аэронавтики и космонавтики. Маджумдар является лауреатом стипендии Слоуна, премии ONR Young Investigator Program (YIP), премии NSF CAREER, премии Google Faculty Research Award (дважды), премии Amazon Research Award (дважды), премии Young Faculty Researcher Award от Toyota Research Institute, премии за лучшую студенческую работу на конференции по робототехническому обучению (CoRL), премии «Статья года» от Международного журнала исследований в области робототехники (IJRR), премии за лучшую статью на Международной конференции по робототехнике и автоматизации (ICRA) и премии за выдающиеся достижения в преподавании (Princeton SEAS).