Перейти к содержимому

Fine Tuning de Modelos de Lenguaje 🚀 Guía con Unsloth y QLoRA

Nichonauta

0:00 / 0:00

Fine Tuning de Modelos de Lenguaje 🚀 Guía con Unsloth y QLoRA

3 830 просмотров · 1 мес. назад
Nichonauta
22,2 тыс. подписчиков
3 830 просмотров · 1 мес. назад
Aprende cómo realizar el Fine Tuning de modelos de lenguaje utilizando Unsloth y la técnica QLoRA para ajustar modelos a tareas específicas. En este video exploramos el proceso de entrenamiento de modelos de pesos abiertos para mejorar su desempeño en habilidades concretas, diferenciando cuándo es mejor usar RAG y cuándo es necesario un ajuste fino. Descubrirás cómo preparar un modelo para una tarea determinada, la importancia de elegir el tamaño adecuado y cómo gestionar los datasets de entrenamiento. Veremos las diferencias técnicas entre métodos como QLoRA, LoRA y el entrenamiento completo, analizando el impacto en el uso de VRAM y el tiempo de ejecución. Exploraremos la configuración de parámetros clave como la tasa de aprendizaje (learning rate), la longitud de contexto y el número de épocas o pasos. Además, veremos cómo utilizar la interfaz de Unsloth para facilitar este proceso complejo que, por debajo, se basa en Python y pesos en formato SafeTensors provenientes de Hugging Face. 📝 Índice: 00:00:00 Diferencia entre RAG y Fine Tuning 00:00:42 Cómo funciona el Fine Tuning con Unsloth 00:01:31 Modelos recomendados y acceso en Hugging Face 00:03:13 Selección del modelo y tipos de entrenamiento 00:05:56 La importancia del dataset y la generalización 00:09:49 Configuración de parámetros y adaptadores LoRA 00:12:37 Proceso de inicio de entrenamiento y uso de GPU 00:14:26 Cómo cargar y usar el adaptador LoRA Si este video te ayuda, suscríbete para ver más tutoriales sobre inteligencia artificial, automatización y creación de contenido. #InteligenciaArtificial #FineTuning #Unsloth #MachineLearning #IA ✅ Canal WhatsApp: https://www.whatsapp.com/channel/0029... Contacto: nichonauta@gmail.com Sitio web: nichonauta.com