Перейти к содержимому

Ya No Necesitas Una GPU Enorme (Qwen 3.8 Flash Next)

Jorge Marfil и Jorge Marfil

0:00 / 0:00

Ya No Necesitas Una GPU Enorme (Qwen 3.8 Flash Next)

22 126 просмотров · 17 ч назад
Jorge Marfil и Jorge Marfil
22 126 просмотров · 17 ч назад
Qwen 3.8 Flash Next tiene 125.000 millones de parámetros, pero solo unos 6.000 millones trabajan en cada token, y otros 51.000 millones son una tabla de consulta de frases hechas pensada para vivir fuera de tu tarjeta gráfica. Este vídeo sigue esa idea: si la parte más grande de un modelo abierto de primera fila ya no necesita la memoria cara, cuánta máquina hace falta de verdad para tener Qwen en local. ¿Qué puedes correr en tu hardware? Descúbrelo aquí: https://localanalysis.ai/jm Primero, los cuatro cambios de la arquitectura dichos en cristiano: Gated DeltaNet en tres capas de cada cuatro, un flujo residual de cuatro carriles donde uno se convirtió en autopista, una tabla de n-gramas en la línea de Engram de DeepSeek y el cambio al optimizador Muon. Después, lo que midió gente de fuera en los primeros días, con 23 GB menos en cada tarjeta y salida idéntica en los prompts comprobados, y 46 GB de un archivo que nunca pisaron el acelerador. Luego viene lo que Qwen no publica, el mínimo. Ninguna de sus páginas dice cuánta RAM, VRAM o disco hace falta en casa, así que el suelo lo ponen quienes publican las versiones cuantizadas. Verás las versiones según la RAM, desde una gráfica de 12 GB con 32 GB de RAM hasta 64 GB, los Mac y los equipos con Strix Halo, y lo que cuenta la gente con tarjetas de 12 GB y de 16 GB. Y la distancia entre el titular de 100 tokens por segundo y la tabla de verdad, donde la Q2 rápida llega a 94 en una RTX 5070 de 12 GB con 64 GB de DDR5 y la IQ3_S, mejor, va a 53, además de la calidad frente al Qwen 3.8 27B, los tiempos de carga de uno a tres minutos y la licencia. Las velocidades y resultados de Reddit, Hacker News y comentarios de YouTube son informes individuales de usuarios. Son ilustrativos, no medias, así que sirven como ejemplo de lo que hizo una máquina y no como promesa para la tuya. Importa si mueves modelos en casa con una gráfica modesta y mucha memoria barata al lado, o si dudas entre comprar un Mac o un PC de 64 GB para IA en local. 00:00 Una carpeta que nadie anunció 01:40 Lo que yo pensaba al principio 02:21 Qué ha salido exactamente 03:11 ¿Este equipo acaba lo que empieza? 03:47 Tres capas de cada cuatro no miran atrás 04:56 La atención que sí lee, pero poco 06:21 La cinta por la que pasa todo 07:36 Un diccionario de frases hechas 08:38 La frase que lo explica todo 10:46 Un optimizador sin glamour 12:20 Cuando la curva y los tests no coinciden 13:45 Primera medida, el motor de servidores 14:58 Segunda medida, alguien con un Strix Halo 16:25 Tercera medida, los relojes de Hugging Face 17:30 Lo que no cuenta el día del lanzamiento 19:35 ¿Cuánta máquina hace falta de verdad? 27:54 Dónde me quedo #Qwen #IALocal #VRAM