Перейти к содержимому

Attention is all you need || Разбор трансформеров || Краткое объяснение

Developers Hutt

0:00 / 0:00

Attention is all you need || Разбор трансформеров || Краткое объяснение

23 848 просмотров · 4 г. назад
Developers Hutt
5,39 тыс. подписчиков
23 848 просмотров · 4 г. назад
В статье «Внимание — это всё, что вам нужно» доминировала область обработки естественного языка и генерации текста. Будь то GPT3, BERT или Blenderbot, передовые модели или системы обработки естественного языка, окружающие нас, используют трансформеры. Здесь я как можно быстрее объяснил основу трансформеров (голову внимания). Надеюсь, вам понравится. Ваши отзывы очень важны для меня. Поэтому, пожалуйста, оставьте свой. И как всегда, спасибо за просмотр. По вопросам или обновлениям следите за обновлениями в Instagram: Instagram:   / developershutt   Временные метки: 0:00 Введение 0:43 Ограничения RNN 2:07 Введение в самовнимание 3:30 Позиционное кодирование 5:15 Многоголовое внимание 7:23 Декодер 9:46 Маскированное многоголовое внимание 10:49 Что нужно помнить