Тонкая настройка БЕЗУМНОЙ модели местного Mistral 7B — шаг за шагом — together.ai

Тонкая настройка СУПЕР местной модели Mistral 7B — шаг за шагом — together.ai 👊 Станьте участником и получите доступ к GitHub:    / allaboutai   📧 Подпишитесь на рассылку: https://www.allabtai.com/newsletter/ 🌐 Мой сайт: https://www.allabtai.com В этом видео я настраиваю модель Mistral 7B с помощью самостоятельно сгенерированного набора данных. Мы пошагово разберём, как создать набор данных, преобразовать его в JSONL, загрузить, начать тонкую настройку, скачать модель, преобразовать её в .gguf и протестировать. GH llama.cpp: https://github.com/ggerganov/llama.cpp Reddit: https://www.reddit.com/r/LocalLLaMA/c... 00:00 Введение в локальную тонкую настройку 00:18 Блок-схема 01:14 Создание набора данных Mistral 7B 05:59 Проверка набора данных 06:56 Загрузка набора данных 07:26 Запуск задания тонкой настройки 10:58 Конвертация модели в GGUF 12:39 Тестирование нашей настроенной модели 16:09 Заключение