Трансформеры в Вижене: от нуля до героя
AICamp
0:00 / 0:00
Трансформеры в Вижене: от нуля до героя
43 090 просмотров · 4 года назад
AICamp
14,3 тыс. подписчиков
43 090 просмотров · 4 года назад
Внимание — это всё, что вам нужно.
Этими простыми словами индустрия глубокого обучения изменилась навсегда. Трансформеры изначально были введены в области обработки естественного языка для улучшения языкового перевода, но они продемонстрировали поразительные результаты даже за пределами обработки языка. В частности, недавно они распространились в сообществе компьютерного зрения, продвинув передовые технологии во многих задачах компьютерного зрения. Но что такое трансформеры? Каков механизм самовнимания, и действительно ли он нам нужен? Как они произвели революцию в компьютерном зрении? Заменят ли они когда-нибудь сверточные нейронные сети?
На эти и многие другие вопросы будут даны ответы во время доклада.
В этом техническом докладе мы обсудим:
Часть истории: Зачем нам нужна новая архитектура?
Что такое самовнимание, и откуда взялась эта концепция?
Архитектура трансформеров и их механизмы
Трансформеры в компьютерном зрении: изображение стоит 16x16 слов
Понимание видео с помощью трансформеров: подход «пространство + время»
Проблема масштаба и данных: действительно ли нам нужно внимание?
Будущее компьютерного зрения с помощью трансформеров
Докладчики: Давиде Коккомини, Никола Мессина
Веб-сайт: https://www.aicamp.ai/event/eventdeta...