Перейти к содержимому

DeepSeek y Huawei ROMPEN con NVIDIA: IA local SIN CUDA ¿Cómo lo hicieron?

Cognix

0:00 / 0:00

DeepSeek y Huawei ROMPEN con NVIDIA: IA local SIN CUDA ¿Cómo lo hicieron?

17 461 просмотр · 2 дн. назад
Cognix
1,12 тыс. подписчиков
17 461 просмотр · 2 дн. назад
¿DeepSeek y Huawei realmente lograron una alternativa a CUDA de NVIDIA? En este video analizamos qué hay detrás del lanzamiento de las nuevas librerías de kernels de DeepSeek para los chips Ascend de Huawei y, sobre todo, qué significa realmente ese famoso 99,8% de utilización. DeepSeek publicó versiones para Ascend de tecnologías como DeepGEMM, DeepEP, FlashMLA y TileKernels, buscando llevar operaciones fundamentales de los grandes modelos de IA a hardware de Huawei. A primera vista, esto parece un golpe directo al ecosistema CUDA de NVIDIA, pero los benchmarks cuentan una historia mucho más interesante. El 99,8% no significa que Huawei sea 99,8% tan rápido como NVIDIA. El número representa la utilización del techo teórico del hardware del Ascend 950DT. En este video comparamos ese resultado con una NVIDIA H100 y una B200 para entender dónde está realmente la diferencia. También analizamos qué es TileLang, por qué no fue creado por DeepSeek, cómo funciona sobre Apache TVM y CANN, qué parte de la pila de software sigue dependiendo de Huawei y cuáles son las limitaciones actuales para utilizar estos sistemas fuera de los laboratorios de DeepSeek. Además, revisamos DeepEP Ascend y sus problemas actuales para el entrenamiento distribuido, el estado del hardware Ascend 950, la disponibilidad de los chips, la compatibilidad con vLLM y llama.cpp y por qué todavía estamos lejos de poder decir que CUDA ha sido reemplazado. La conclusión es mucho más interesante que el titular: DeepSeek está demostrando que es posible conseguir una utilización extraordinariamente alta del hardware de Huawei, pero la verdadera batalla sigue estando en el rendimiento del hardware, la memoria, los frameworks, los drivers, la disponibilidad y el ecosistema. Si te interesa la IA local, DeepSeek, Huawei Ascend, NVIDIA, CUDA, GPUs, aceleradores de IA, LLMs y el futuro del hardware para inteligencia artificial, este análisis te ayudará a separar los titulares de lo que realmente muestran los datos. Capítulos: 00:00 ¿DeepSeek acaba de romper CUDA? 01:12 El verdadero origen de esta historia 02:21 DeepSeek lleva sus kernels a Huawei 03:42 Las cuatro operaciones que importan en los LLM 05:01 El 99,8% que confundió a todos 06:28 ¿99,8% de qué? 07:42 Ascend 950 vs NVIDIA B200 09:04 La gran diferencia de rendimiento 10:16 TileLang NO es un reemplazo de CUDA 11:47 CUDA vs CANN: qué hay realmente debajo 13:02 El problema de DeepEP y el entrenamiento distribuido 14:32 El hardware de Huawei todavía no está disponible 15:45 ¿Puede competir Huawei con NVIDIA? 16:52 La verdadera ventaja: memoria y ecosistema 17:38 ¿DeepSeek realmente rompió el dominio de CUDA? 18:05 La conclusión: 99,8% de qué #DeepSeek #Huawei #CUDA #NVIDIA #IA #InteligenciaArtificial #IAlocal #Ascend #GPU #LLM