Перейти к содержимому

DeepSeek vuelve a SACUDIR la industria de la IA… ¿qué ha pasado ahora?

Cognix

0:00 / 0:00

DeepSeek vuelve a SACUDIR la industria de la IA… ¿qué ha pasado ahora?

14 816 просмотров · 9 ч назад
Cognix
1,69 тыс. подписчиков
14 816 просмотров · 9 ч назад
DeepSeek vuelve a sacudir la industria de la inteligencia artificial con una revelación que podría cambiar la forma en que entendemos los costes de ejecutar modelos de IA a gran escala. La compañía ha publicado en código abierto DeepInfer, su motor de inferencia, y DeepSeek Recipe, un sistema diseñado para optimizar el procesamiento de prompts, acelerar la generación de respuestas y mejorar el rendimiento de los centros de datos. En este vídeo analizamos cómo funciona la infraestructura de DeepSeek, por qué su sistema puede generar ingresos con costes operativos mucho más bajos y qué técnicas de ingeniería utiliza para aprovechar mejor las GPU y la memoria. También exploramos cómo estas optimizaciones pueden aumentar la velocidad de inferencia y reducir el coste de servir modelos de inteligencia artificial. Descubrirás cómo funcionan el paralelismo de expertos, el balanceo dinámico de carga, la decodificación especulativa con DSpark y la gestión de memoria mediante repetición acotada. Además, veremos cómo DeepSeek Recipe utiliza Rust para acelerar la tokenización y ayudar a proteger los sistemas frente a ataques de inyección de prompts. También analizamos la compatibilidad con las arquitecturas Blackwell de NVIDIA y Ascend 950 de Huawei, las implicaciones para la industria de los semiconductores y las limitaciones de lo que DeepSeek ha liberado realmente. Porque, aunque el código abierto permite conocer una parte importante de su tecnología, algunos componentes críticos de su infraestructura siguen siendo privados. ¿Estamos ante una nueva forma de competir en inteligencia artificial? ¿Puede una mejor ingeniería reducir la dependencia de enormes presupuestos de computación y obligar a los proveedores de servicios de IA a bajar sus precios? En este análisis de Cognix exploramos las claves técnicas y estratégicas de DeepInfer, DeepSeek Recipe y el futuro de la inferencia de modelos de lenguaje. Capítulos: 00:00 DeepSeek revela los secretos de su infraestructura 00:48 Los números detrás de su sistema de inferencia 01:25 DeepInfer: el motor de código abierto 02:00 Cómo reduce el trabajo de procesamiento de los prompts 02:45 El paralelismo de expertos y el uso de GPU 03:35 EPLB: balanceo inteligente de carga 04:25 DSpark y la decodificación especulativa 05:20 Cómo optimiza la memoria de las conversaciones 06:20 DeepSeek Recipe: tokenización con Rust 07:15 Protección frente a ataques de inyección de prompts 08:00 NVIDIA Blackwell frente a Huawei Ascend 950 08:45 Lo que DeepSeek todavía mantiene en secreto 09:35 Los requisitos de hardware para alcanzar este rendimiento 10:35 ¿Puede la ingeniería superar al gasto en GPU? 11:40 El impacto en los precios de la inteligencia artificial 12:35 Conclusiones y debate Si te interesa la inteligencia artificial, los modelos de lenguaje, la inferencia de LLM, el hardware para IA, las GPU, la infraestructura de los centros de datos y las tecnologías de código abierto, suscríbete a Cognix para descubrir análisis sobre los avances que están transformando el sector tecnológico. Déjame tu opinión en los comentarios: ¿crees que las empresas occidentales tendrán que reducir sus precios ante los avances de DeepSeek? #DeepSeek #InteligenciaArtificial #DeepInfer #IA #LLM #NVIDIA #Huawei #CodigoAbierto #GPU #MachineLearning