Fine Tuning de Modelos de Lenguaje 🚀 Guía con Unsloth y QLoRA
Nichonauta
0:00 / 0:00
Fine Tuning de Modelos de Lenguaje 🚀 Guía con Unsloth y QLoRA
3 830 просмотров · 1 мес. назад
Nichonauta
22,2 тыс. подписчиков
3 830 просмотров · 1 мес. назад
Aprende cómo realizar el Fine Tuning de modelos de lenguaje utilizando Unsloth y la técnica QLoRA para ajustar modelos a tareas específicas. En este video exploramos el proceso de entrenamiento de modelos de pesos abiertos para mejorar su desempeño en habilidades concretas, diferenciando cuándo es mejor usar RAG y cuándo es necesario un ajuste fino.
Descubrirás cómo preparar un modelo para una tarea determinada, la importancia de elegir el tamaño adecuado y cómo gestionar los datasets de entrenamiento. Veremos las diferencias técnicas entre métodos como QLoRA, LoRA y el entrenamiento completo, analizando el impacto en el uso de VRAM y el tiempo de ejecución.
Exploraremos la configuración de parámetros clave como la tasa de aprendizaje (learning rate), la longitud de contexto y el número de épocas o pasos. Además, veremos cómo utilizar la interfaz de Unsloth para facilitar este proceso complejo que, por debajo, se basa en Python y pesos en formato SafeTensors provenientes de Hugging Face.
📝 Índice:
00:00:00 Diferencia entre RAG y Fine Tuning
00:00:42 Cómo funciona el Fine Tuning con Unsloth
00:01:31 Modelos recomendados y acceso en Hugging Face
00:03:13 Selección del modelo y tipos de entrenamiento
00:05:56 La importancia del dataset y la generalización
00:09:49 Configuración de parámetros y adaptadores LoRA
00:12:37 Proceso de inicio de entrenamiento y uso de GPU
00:14:26 Cómo cargar y usar el adaptador LoRA
Si este video te ayuda, suscríbete para ver más tutoriales sobre inteligencia artificial, automatización y creación de contenido.
#InteligenciaArtificial #FineTuning #Unsloth #MachineLearning #IA
✅ Canal WhatsApp: https://www.whatsapp.com/channel/0029...
Contacto: nichonauta@gmail.com
Sitio web: nichonauta.com