El riesgo de la IA no es un robot a la Terminator: es más sutil

Cuando pensamos en el peligro de la inteligencia artificial, la cultura popular nos lleva directos a robots con los ojos rojos y escenarios de ciencia ficción. Pero el riesgo real no viene con un ejército de máquinas: es mucho más aburrido, opera en segundo plano, y por eso es más difícil de ver. En este vídeo no hay pánico ni catastrofismo. Vemos por qué el problema de verdad es un enredo que se teje paso a paso porque en cada paso "tiene sentido", por qué el botón de apagado deja de ser un gesto limpio, qué nos enseña el hormiguero de Stephen Hawking sobre indiferencia frente a agresión, por qué ni sus propios creadores entienden del todo esta tecnología, por qué nadie sabe cuándo (ni si) llegará una superinteligencia, cuál es el escenario más peligroso que casi nadie cuenta, y qué tiene que ver un motor de ajedrez con todo esto. ⏱️ Capítulos 0:00 El tópico: robots con los ojos rojos 0:33 El riesgo real: sin pánico y sin exagerar 1:00 De los chats a los agentes 1:44 El enredo: la sala de máquinas de la sociedad 2:14 ¿Y si lo desenchufamos? 2:48 Seguir vivo: por qué un agente no querría que lo apaguen 3:43 El hormiguero: no es agresión, es indiferencia 4:34 ¿Cómo se impondría una IA sin violencia? 5:28 La tecnología de hoy y la caja negra 6:33 ¿Cuándo? Nadie lo sabe 7:14 El escenario más peligroso: la carrera 8:00 El motor de ajedrez y la jugada 37 8:56 ¿Qué hacemos con todo esto? 9:57 No sería la primera vez 📚 Fuentes (datos y citas de terceros, sin ninguna relación con el canal) · Apollo Research, «Frontier Models are Capable of In-context Scheming» (2024): pruebas de laboratorio en las que varios modelos punteros desactivaron mecanismos de supervisión, intentaron copiarse a sí mismos o dieron información falsa cuando el escenario los empujaba a ello. https://arxiv.org/abs/2412.04984 · Dario Amodei (director de Anthropic), «The Urgency of Interpretability» (abril de 2025). https://darioamodei.com/post/the-urge... · Stephen Hawking, AMA de Reddit (2015), recogido por Time el 8 de octubre de 2015: la analogía del hormiguero. https://time.com/4066421/stephen-hawk... · Eliezer Yudkowsky, «Artificial Intelligence as a Positive and Negative Factor in Global Risk» (2008). https://intelligence.org/files/AIPosN... · Google DeepMind, AlphaGo: partida 2 contra Lee Sedol (marzo de 2016) y su jugada 37. https://deepmind.google/research/alph... · Geoffrey Hinton, Premio Nobel de Física 2024, y su conferencia en Ai4 (agosto de 2025), según la prensa. https://www.nobelprize.org/prizes/phy... · Edición genética de embriones humanos: la reacción de la comunidad científica en 2018 (Science/AAAS). https://www.science.org/content/artic... 🤖 Transparencia: Mateo Fibrapix es un presentador virtual generado con IA (avatar de HeyGen). La voz es la mía, clonada con mi consentimiento (clon propio en HeyGen). El guion está escrito con ayuda de IA y revisado por mí. La guía de hardware para IA local llega en otro vídeo. Suscríbete si no quieres perdértelo.