¿Qué puede hacer una IA local? Pruebas reales en una NVIDIA 5090M

🛒 Olares ONE: https://one.olares.com/products/olare... 🌐 Blog: https://www.jonatancastro.com/ 💬 Telegram: https://t.me/jonatancastroyt 🧵 Foro: http://foro.jonatancastro.com/ Llevo semanas poniendo a trabajar la IA local en el Olares ONE: controlando luces en Home Assistant, trabajando con archivos, configurando servicios y resolviendo tareas largas. He probado más de 30 modelos y variantes para averiguar cuáles hacen bien el trabajo, cuánto tardan y dónde fallan. Explico cómo funcionan los LLM, los tokens, los parámetros, la cuantización y el contexto, además de las diferencias entre cargar un modelo, procesar el prompt y generar la respuesta. Después pasamos a las pruebas con llama.cpp y OpenClaw, la comparación de modelos y una demostración desde Telegram. Olares me envió el equipo para esta review. No me pagan por el vídeo; la marca ha revisado los datos técnicos del guion, pero las opiniones y conclusiones son mías. Olares OS tendrá su propio vídeo más adelante. 📺 Vídeos relacionados: ¿Qué puede hacer una IA local? Pruebas reales:    • ¿Qué puede hacer una IA local? Pruebas reales   Openclaw controla mi Home Assistant:    • Openclaw controla mi Home Assistant   NVIDIA RTX 5090 y 96GB de RAM en un “mini” PC Olares ONE, ArkKVM, NAS Terramaster F4-425 Pro:    • NVIDIA RTX 5090 y 96GB de RAM en un “mini”...   ⏱️ Capítulos: 00:00 Más de 30 modelos de IA local a prueba 00:30 Transparencia y Olares ONE frente a Olares OS 00:57 Cómo funcionan los LLM: tokens y parámetros 02:11 Más parámetros no siempre significa mejor 02:40 Cuantización y contexto 03:30 Carga, prefill y generación de tokens 04:24 Hardware del Olares ONE y RTX 5090 Laptop 05:40 Qué modelos caben en 24 GB de VRAM 06:15 IA local frente a IA en la nube 06:57 Suscripciones y precio equivalente de API 07:45 Cómo elegir un modelo para cada tarea 08:03 Metodología: seis suites y 33 comprobaciones 08:29 Resultados: Ornith, Qwopus y Qwen 09:20 Pruebas de tareas y tiempos de ejecución 10:26 Por qué hice las pruebas sin MCP 11:01 OpenClaw desde Telegram y tiempos de respuesta 11:31 Conclusiones: utilidad y limitaciones 12:25 Para quién tiene sentido y próximo vídeo de Olares OS Mi equipo de grabación Cámara: Sony ZV-E1 Lente: Sigma 16mm F1.4 E-Mount https://amzn.to/3SGFQvb Micrófono: Comica VM40 https://amzn.to/4hZi9tX Disclaimer: siempre que sea posible, los enlaces serán afiliados; ayudan al canal y a ti no te costará nada. #IALocal #OlaresONE #OpenClaw #NVIDIA #HomeAssistant