Перейти к содержимому

AI local para oficina en un Mac con 32 GB | Portabile AI Light

Luigi Bacigalupo

0:00 / 0:00

AI local para oficina en un Mac con 32 GB | Portabile AI Light

187 просмотров · 5 дн. назад
Luigi Bacigalupo
4 подписчика
187 просмотров · 5 дн. назад
¿Puede un Mac con 32 GB de memoria ejecutar un modelo de inteligencia artificial local útil para tareas de oficina? En este vídeo pruebo OPEN AI GPT-OSS 20B en mi MacBook Pro M2 Max de 16" con 32 GB, usando Portabile AI Light: una aplicación para macOS que he desarrollado yo. Permite buscar y descargar modelos GGUF desde Hugging Face, cargarlos en el Mac y usarlos con documentos. Con Portabile AI Light, hasta 4 personas a la vez pueden trabajar desde el navegador (Mac o PC con Windows) con 24 acciones listas para administración, legal, RR. HH., comercial y finanzas. Durante la prueba muestro: • Cómo buscar modelos GGUF sin salir de la aplicación. • Cómo comprobar la memoria antes de cargar un modelo. • Una acción de documentos (plazos y fechas) con un contrato de ejemplo con empresas ficticias, con las citas del texto original. • La velocidad de generación en tiempo real, los tokens y el tiempo hasta el primer token. Memoria recomendada (orientativa, según mis pruebas con gpt-oss-20b, un modelo de OpenAI de 20B parámetros que ocupa unos 12 GB y que, en mis pruebas, ha dado buenos resultados para su tamaño): • Modelos pequeños (por ejemplo de 4B): 16 GB. • Documentos con hasta 4 personas a la vez, con un modelo como gpt-oss-20b: al menos 32 GB, por ejemplo un Mac Studio M5 Max con 36 GB. • Modelos de texto GGUF de 27B a 36B: de 48 GB a 64 GB. Son recomendaciones mías, no mediciones en esos equipos: mi prueba es en un MacBook Pro M2 Max con 32 GB. El rendimiento depende del modelo, la cuantización, el contexto y la configuración del Mac. La aplicación estima la memoria antes de cargar un modelo. Portabile AI Light para macOS: Apple Silicon y macOS 26.3 o posterior. Próximamente en el Mac App Store. Más información: https://portabile.eu/pages/portabile-...