Los creadores de la IA advierten: podría destruir a la humanidad

🤖 ¿Creéis que un riesgo superior al 10% de extinción humana justificaría frenar el desarrollo de la inteligencia artificial, aunque China u otros laboratorios continuaran avanzando? Os leo en los comentarios. Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, ha dimitido y acusa a ambos laboratorios de competir irresponsablemente por alcanzar una superinteligencia capaz de mejorarse a sí misma. La respuesta de Evan Hubinger, responsable de alineamiento de Anthropic, resulta todavía más inquietante: reconoce que aún no existe un plan para controlar una futura superinteligencia y estima en más del 10% la posibilidad de que provoque una catástrofe existencial durante la próxima década. Juan Ramón Rallo analiza si estas advertencias reflejan un peligro real o forman parte de la estrategia previa a una salida a bolsa. También examina por qué ninguna empresa ni país quiere detenerse unilateralmente, cómo la IA ya escribe más del 80% del código integrado por Anthropic y por qué coordinar un freno mundial resulta tan complicado. ¿Estamos ante una exageración, una campaña de marketing o una carrera tecnológica que nadie sabe detener? 👍 Dale a Me gusta si te ha resultado interesante 🛎️ Suscríbete y activa la campana en «Todas» para recibir los nuevos vídeos ━━━━━━━━━━━━━━━━━━━━━━ Apoya el canal: ▶️ Únete al canal: https://www.youtube.com/juanrallo/join 💰 Patreon:   / juanrallo   👕 Tienda Laissez Faire: https://laissez-faire.es 📺 Canal secundario:    / @juanrallo2   🎥 Twitch:   / juanrallo   💳 PayPal: https://bit.ly/2VEQ4QF ━━━━━━━━━━━━━━━━━━━━━━ #inteligenciaartificial #ia #anthropic #openai #chatgpt #claude #superinteligencia #riesgoexistencial #seguridadia #tecnologia #juanramonrallo #rallo 0:00 Quienes crean la IA creen que podría extinguirnos 2:09 La dimisión de Jacob Coxon 3:40 Tres advertencias sobre la superinteligencia 4:23 Investigadores que abandonan los laboratorios 5:43 Anthropic admite un riesgo superior al 10% 6:32 El peligro de la automejora recursiva 7:10 Claude ya escribe más del 80% del código 8:05 ¿Una campaña para preparar la salida a bolsa? 9:59 La propuesta de Bernie Sanders para frenar la IA 10:45 ¿Buscan las empresas una regulación proteccionista? 11:54 El nuevo y potente modelo interno de OpenAI 13:21 El salto respecto a GPT-6 Astra 14:39 Un modelo superior desarrollado en dos semanas 15:22 La capacidad avanza más rápido que el alineamiento 17:10 ¿Por qué los investigadores continúan trabajando? 18:05 La carrera que ninguna empresa puede abandonar 20:13 Coordinar un freno entre los laboratorios 21:14 El dilema del prisionero de la inteligencia artificial 22:35 La objeción de conciencia de los investigadores 23:48 Cuando la inteligencia artificial se construye a sí misma 24:23 Un problema de alineamiento todavía sin resolver 25:25 Un 10% de extinción y un 90% de oportunidad