Стэнфордский семинар — На пути к надежной автономии: обобщаемость, безопасность, воплощение.

10 ноября 2023 г. Дин Чжао из Университета Карнеги-Меллона По мере того, как ИИ все больше интегрируется в физическую автономию, он представляет собой двойной спектр возможностей и рисков. В этом докладе я расскажу о наших усилиях по созданию надежной интеллектуальной автономности для жизненно важных гражданских задач, таких как беспилотные автомобили и роботы-помощники. В этих областях обучающие данные часто демонстрируют значительный дисбаланс, многомодальную сложность и неадекватность. Я начну обсуждение с анализа «длиннохвостых» проблем с редкими событиями и их связи с оценкой безопасности и безопасным обучением с подкреплением. Затем я расскажу о том, как моделирование многомодальных неопределенностей в виде «задач» может повысить обобщаемость за счет обучения в разных областях. Для облегчения метаобучения и непрерывного обучения с многомерными входными данными в области зрения и языка мы разработали структуры преобразователей подсказок для эффективной адаптации и смягчения катастрофического забывания. В случаях, когда речь идёт о задачах типа «неизвестное-неизвестное» с крайне ограниченными данными, мы исследуем потенциал использования внешних знаний из законодательных источников, причинно-следственного анализа и больших языковых моделей. Наконец, мы расширим разработку интеллекта в область проектирования на системном уровне с использованием метафизических морфологий роботов, что может обеспечить более эффективную обобщаемость и безопасность, чем полагаться исключительно на программные решения. Узнайте больше о докладчике: https://www.meche.engineering.cmu.edu...