Ya No Necesitas Una GPU Enorme (Qwen 3.8 Flash Next)
Jorge Marfil и Jorge Marfil
0:00 / 0:00
Ya No Necesitas Una GPU Enorme (Qwen 3.8 Flash Next)
22 126 просмотров · 17 ч назад
Jorge Marfil и Jorge Marfil
22 126 просмотров · 17 ч назад
Qwen 3.8 Flash Next tiene 125.000 millones de parámetros, pero solo unos 6.000 millones trabajan en cada token, y otros 51.000 millones son una tabla de consulta de frases hechas pensada para vivir fuera de tu tarjeta gráfica. Este vídeo sigue esa idea: si la parte más grande de un modelo abierto de primera fila ya no necesita la memoria cara, cuánta máquina hace falta de verdad para tener Qwen en local.
¿Qué puedes correr en tu hardware? Descúbrelo aquí: https://localanalysis.ai/jm
Primero, los cuatro cambios de la arquitectura dichos en cristiano: Gated DeltaNet en tres capas de cada cuatro, un flujo residual de cuatro carriles donde uno se convirtió en autopista, una tabla de n-gramas en la línea de Engram de DeepSeek y el cambio al optimizador Muon. Después, lo que midió gente de fuera en los primeros días, con 23 GB menos en cada tarjeta y salida idéntica en los prompts comprobados, y 46 GB de un archivo que nunca pisaron el acelerador.
Luego viene lo que Qwen no publica, el mínimo. Ninguna de sus páginas dice cuánta RAM, VRAM o disco hace falta en casa, así que el suelo lo ponen quienes publican las versiones cuantizadas. Verás las versiones según la RAM, desde una gráfica de 12 GB con 32 GB de RAM hasta 64 GB, los Mac y los equipos con Strix Halo, y lo que cuenta la gente con tarjetas de 12 GB y de 16 GB. Y la distancia entre el titular de 100 tokens por segundo y la tabla de verdad, donde la Q2 rápida llega a 94 en una RTX 5070 de 12 GB con 64 GB de DDR5 y la IQ3_S, mejor, va a 53, además de la calidad frente al Qwen 3.8 27B, los tiempos de carga de uno a tres minutos y la licencia.
Las velocidades y resultados de Reddit, Hacker News y comentarios de YouTube son informes individuales de usuarios. Son ilustrativos, no medias, así que sirven como ejemplo de lo que hizo una máquina y no como promesa para la tuya.
Importa si mueves modelos en casa con una gráfica modesta y mucha memoria barata al lado, o si dudas entre comprar un Mac o un PC de 64 GB para IA en local.
00:00 Una carpeta que nadie anunció
01:40 Lo que yo pensaba al principio
02:21 Qué ha salido exactamente
03:11 ¿Este equipo acaba lo que empieza?
03:47 Tres capas de cada cuatro no miran atrás
04:56 La atención que sí lee, pero poco
06:21 La cinta por la que pasa todo
07:36 Un diccionario de frases hechas
08:38 La frase que lo explica todo
10:46 Un optimizador sin glamour
12:20 Cuando la curva y los tests no coinciden
13:45 Primera medida, el motor de servidores
14:58 Segunda medida, alguien con un Strix Halo
16:25 Tercera medida, los relojes de Hugging Face
17:30 Lo que no cuenta el día del lanzamiento
19:35 ¿Cuánta máquina hace falta de verdad?
27:54 Dónde me quedo
#Qwen #IALocal #VRAM