El mayor problema de la IA no se puede resolver

¿Y si el mayor peligro de una inteligencia artificial no fuera que se rebelara contra nosotros… sino que nos obedeciera demasiado bien? Imagina una máquina capaz de optimizar una fábrica, gestionar una ciudad o tomar decisiones mucho más rápido que cualquier ser humano. Le das un objetivo aparentemente sencillo: reducir costes, maximizar beneficios, aumentar la seguridad o hacer felices a las personas. Y la inteligencia artificial encuentra la solución perfecta. El problema es que esa solución puede hacer exactamente aquello que nunca quisimos que hiciera. En este episodio de El Archivo del Cosmos exploramos uno de los problemas más profundos de la inteligencia artificial avanzada: el problema de la alineación. ¿Cómo podemos enseñar a una máquina extremadamente inteligente qué queremos realmente, cuando ni siquiera nosotros somos capaces de definir con precisión qué significa "lo bueno"? ¿Qué ocurre cuando una IA interpreta literalmente nuestros objetivos y encuentra caminos que nosotros jamás habríamos imaginado? Hablaremos de la Ley de Goodhart, el aprendizaje por refuerzo, el problema de la corrigibilidad, la búsqueda de objetivos, la autonomía de los sistemas y los escenarios que podrían surgir cuando una inteligencia sea capaz de perseguir sus metas con una eficacia muy superior a la nuestra. Porque quizá no tengamos que construir una máquina que nos odie para enfrentarnos a un problema extraordinario. Quizá baste con construir una máquina que sea extremadamente inteligente… y darle un objetivo ligeramente equivocado. Y entonces aparece la pregunta que realmente importa: ¿Seremos capaces de controlar una inteligencia que puede encontrar soluciones que nosotros ni siquiera somos capaces de imaginar? Referencias bibliográficas: Russell, Stuart. Human Compatible: Artificial Intelligence and the Problem of Control. Bostrom, Nick. Superintelligence: Paths, Dangers, Strategies. Goodhart, Charles. “Problems of Monetary Management: The U.K. Experience”. Amodei, Dario et al. “Concrete Problems in AI Safety”. Soares, Nate et al. “Corrigibility”. Omohundro, Stephen M. “The Basic AI Drives”. Silver, David et al. “Mastering the Game of Go with Deep Neural Networks and Tree Search”. Sutton, Richard S. & Barto, Andrew G. Reinforcement Learning: An Introduction. Russell, Stuart & Norvig, Peter. Artificial Intelligence: A Modern Approach. Hubinger, Evan et al. “Risks from Learned Optimization in Advanced Machine Learning Systems”. Suscríbete a El Archivo del Cosmos si quieres seguir explorando las preguntas que aparecen cuando la tecnología deja de ser simplemente una herramienta… y empieza a cambiar nuestra propia idea de inteligencia. #InteligenciaArtificial #IA #AGI #Superinteligencia #AlineaciónIA #Futuro #Tecnología #InteligenciaArtificialGeneral #RiesgoIA #ChatGPT #Ciencia #Filosofía #ElArchivoDelCosmos