Дообучение LLM с помощью PEFT и LoRA: модель Gemma и датасет HuggingFace

В этом видео я показываю код тонкой настройки новейшей модели параметров Gemma 2B от Google в экосистеме HuggingFace. Я создал новый набор данных Databricks-dolly-mini, полученный из набора данных Databricks-dolly-15k. Затем этот новый набор данных используется для тонкой настройки Gemma 2b с целью визуализации процесса обучения и результатов. ⌚️ ⌚️ ⌚️ ВРЕМЕННЫЕ МЕТКИ ⌚️ ⌚️ ⌚️ 0:00 - Введение 1:24 - Предварительные сведения и установка 2:44 - Запуск инференса на предварительно обученной модели Gemma-2b 4:44 - Мотивация для параметрически эффективной тонкой настройки (PEFT) 7:58 - Создание пользовательского набора данных для тонкой настройки 11:58 - Советы по тонкой настройке (параметры) 19:29 - Контролируемая тонкая настройка 20:30 - Визуализация и интерпретация результатов обучения 23:04 - Заключение ССЫЛКИ ПО ТЕМЕ Colab Notebook: https://github.com/ai-bites/generativ... Google's Gemma: https://blog.google/technology/develo... Набор данных Databricks Dolly 15k: https://huggingface.co/datasets/datab... Новый мини-набор данных Databricks Dolly: https://huggingface.co/datasets/ai-bi... Статья о LoRA: https://arxiv.org/abs/2106.09685 Мое видео о LoRA:    • LoRA (Low-rank Adaption of AI Large Langua...   Мое видео о QLoRA:    • QLoRA paper explained (Efficient Finetunin...   МОИ ОСНОВНЫЕ ССЫЛКИ YouTube:    / @aibites   Twitter:   / ai_bites   Patreon:   / ai_bites   Github: https://github.com/ai-bites КТО Я? Я исследователь и практик в области машинного обучения, одинаково хорошо знакомый с трудностями академической среды и стартапов. Я начал свою карьеру в качестве инженера-программиста 16 лет назад. Благодаря моей любви к математике (в сочетании с проблеском удачи) я получил степень магистра в области компьютерного зрения и робототехники в 2016 году, когда началась нынешняя революция в области искусственного интеллекта. С тех пор моя жизнь изменилась к лучшему. #машинноеобучение #глубокоеобучение #aibites