AI local para oficina en un Mac con 32 GB | Portabile AI Light
Luigi Bacigalupo
0:00 / 0:00
AI local para oficina en un Mac con 32 GB | Portabile AI Light
187 просмотров · 5 дн. назад
Luigi Bacigalupo
4 подписчика
187 просмотров · 5 дн. назад
¿Puede un Mac con 32 GB de memoria ejecutar un modelo de inteligencia artificial local útil para tareas de oficina?
En este vídeo pruebo OPEN AI GPT-OSS 20B en mi MacBook Pro M2 Max de 16" con 32 GB, usando Portabile AI Light: una aplicación para macOS que he desarrollado yo. Permite buscar y descargar modelos GGUF desde Hugging Face, cargarlos en el Mac y usarlos con documentos.
Con Portabile AI Light, hasta 4 personas a la vez pueden trabajar desde el navegador (Mac o PC con Windows) con 24 acciones listas para administración, legal, RR. HH., comercial y finanzas.
Durante la prueba muestro:
• Cómo buscar modelos GGUF sin salir de la aplicación.
• Cómo comprobar la memoria antes de cargar un modelo.
• Una acción de documentos (plazos y fechas) con un contrato de ejemplo con empresas ficticias, con las citas del texto original.
• La velocidad de generación en tiempo real, los tokens y el tiempo hasta el primer token.
Memoria recomendada (orientativa, según mis pruebas con gpt-oss-20b, un modelo de OpenAI de 20B parámetros que ocupa unos 12 GB y que, en mis pruebas, ha dado buenos resultados para su tamaño):
• Modelos pequeños (por ejemplo de 4B): 16 GB.
• Documentos con hasta 4 personas a la vez, con un modelo como gpt-oss-20b: al menos 32 GB, por ejemplo un Mac Studio M5 Max con 36 GB.
• Modelos de texto GGUF de 27B a 36B: de 48 GB a 64 GB.
Son recomendaciones mías, no mediciones en esos equipos: mi prueba es en un MacBook Pro M2 Max con 32 GB. El rendimiento depende del modelo, la cuantización, el contexto y la configuración del Mac. La aplicación estima la memoria antes de cargar un modelo.
Portabile AI Light para macOS: Apple Silicon y macOS 26.3 o posterior. Próximamente en el Mac App Store.
Más información: https://portabile.eu/pages/portabile-...