Los Detalles: “Una IA ‘mintió’ y casi provoca un conflicto entre EE.UU. y China”

En este nuevo capítulo de Pit TechTalk, el periodista Cristián Chaparro (@cristianchaparro) y el empresario Iván Zilic ponen sobre la mesa uno de los casos más inquietantes sobre el uso de la inteligencia artificial: ¿qué ocurre cuando confiamos en una IA que entrega información falsa como si fuera verdadera? El tema de este capítulo es “IA mentirosa”, a partir de un sorprendente episodio revelado por CNN: un informe de inteligencia elaborado con ayuda de inteligencia artificial identificó erróneamente la carga de un buque chino que navegaba por Medio Oriente como componentes relacionados con un programa de armas nucleares. La información encendió las alarmas. Estados Unidos comenzó a preparar una operación para interceptar la embarcación, personal militar armado se alistó para abordarla e incluso había aeronaves militares en el aire. Pero había un problema enorme: la información era falsa. Una revisión posterior determinó que un chatbot utilizado por un analista había identificado incorrectamente la carga del barco. La operación fue detenida antes de concretarse y el episodio abrió nuevamente el debate sobre los riesgos de utilizar sistemas de inteligencia artificial en decisiones de alta criticidad. Para analizar el caso, Pit TechTalk recibe a Patricio Campos, CEO de Resility y especialista en ciberseguridad e inteligencia artificial, con quien se aborda un problema que va mucho más allá del mundo militar. ¿Por qué una inteligencia artificial puede “inventar” información? ¿Por qué entrega respuestas falsas con tanta seguridad? ¿Hasta dónde podemos confiar en un chatbot? ¿Qué ocurre cuando las personas dejan de verificar lo que responde una IA? ¿Y quién debe asumir la responsabilidad cuando una decisión basada en inteligencia artificial sale mal? Un caso extremo que sirve para comprender un problema que también puede afectarnos diariamente cuando utilizamos IA para trabajar, investigar, tomar decisiones o simplemente buscar información. La inteligencia artificial puede ser una herramienta extraordinariamente poderosa, pero una respuesta convincente no necesariamente es una respuesta verdadera. ▶️ Mira el capítulo completo de Pit TechTalk y descubre qué podemos aprender de un error de inteligencia artificial que estuvo a punto de convertirse en una grave crisis internacional. Comparte este capítulo, suscríbete a nuestro canal de YouTube @pitchile, escucha Pit TechTalk en Spotify @pitchile y revisa nuestros capítulos también a través de UCV Televisión para todo Chile. Pit TechTalk — tecnología, conectividad, innovación y las conversaciones que ayudan a entender el mundo digital.