Как ИИ учится без размеченных данных: SimCLR, DINO и MAE (честный разбор)

До сих пор каждой модели в этой серии требовались метки. Сегодня мы отбрасываем метки. В этом эпизоде ​​мы создаём SimCLR с нуля за 99 строк кода на PyTorch, визуализируем реальные признаки, которые он изучает, и показываем честные результаты для 10 начальных значений. Что вы увидите: Почему метки являются настоящим узким местом (ImageNet содержит 1,28 миллиона размеченных изображений) Как работает контрастное обучение: два случайных изображения → положительная пара, всё остальное – отрицательное Функция потерь NT-Xent с полностью проработанным числовым примером Полный скрипт из 99 строк (метки не использовались в обучении) Реальный t-SNE изученных признаков — кластеризуются ли похожие изображения? Честные результаты: на чистых цифрах SimCLR не лучше, чем необработанные пиксели (97,25% против 98,33%). На сдвинутых + зашумленных изображениях результат увеличивается до 87% против 54%. DINO и маскированные автокодировщики простым языком. Как именно строятся базовые модели (BERT, GPT и т. д.). ⏱ ГЛАВЫ (вставьте точные временные метки из output/youtube_chapters.txt после слияния) 💻 Полный код: github.com/CodeToAGI/deep-learning-series/ep54 🎯 Задание (выполните и опубликуйте результаты): Запустите скрипт → опубликуйте ваше начальное значение генератора случайных чисел + оба результата (чистые и сдвинутые + зашумленные). Установите TEMP = 0.1, затем TEMP = 2.0 → сообщите о результатах. Установите BATCH = 32 → сообщите о результатах. Следующий эпизод: Поиск нейронной архитектуры и AutoDL (EP55) #СамостоятельноеОбучение #SimCLR #ГлубокоеОбучение #PyTorch #машинноеОбучение