Unsloth Studio позволяет дообучать LLM прямо в браузере

Unsloth Studio — это веб-интерфейс, ориентированный на локальные ресурсы, для всего жизненного цикла LLM — поиск, загрузка, чат, тонкая настройка и экспорт моделей, всё из вашего браузера на вашем собственном оборудовании. Три команды — и вы готовы к работе. В этом видео я подробно рассказываю о том, что такое Studio, как она работает изнутри и как её настроить. Мы рассматриваем конвейер обучения, пути вывода (как сафетенсоры, так и GGUF через llama.cpp), систему рецептов данных для автоматического создания наборов данных, конвейер экспорта и то, какое оборудование GPU вам действительно нужно для его запуска. Примечание: это видео создано с помощью ИИ. Я разработал рабочий процесс, который использует OpenCode для исследования репозиториев с открытым исходным кодом, чтобы написать скрипт о общедоступных кодовых базах. Некоторая информация в этом видео может быть неточной. Если вы поддерживаете один из проектов, которые я рассматриваю, и заметите несоответствие между тем, что говорится в видео, и тем, что находится в кодовой базе, пожалуйста, оставьте комментарий, и я проведу расследование. 0:00 Введение 1:00 Что такое Unsloth Studio? 2:56 Установка и настройка 6:36 Подробный анализ конвейера обучения 11:02 Вывод результатов (Safetensors и GGUF) 13:45 Рецепты данных 14:45 Конвейер экспорта 16:27 Требования к оборудованию 21:11 Архитектурные и проектные решения 23:16 Для кого это предназначено? 24:51 Начало работы Unsloth Studio: https://github.com/unslothai/unsloth Документация Unsloth: https://unsloth.ai/docs