Los verdaderos riesgos catastróficos de la IA

Las alarmas y titulares sobre riesgos catastróficos de la Inteligencia Artificial no provienen solo de la especulación, sino de advertencias formales emitidas por investigadores de ciencias de la computación, comités de seguridad tecnológica e informes de bioseguridad. Más allá del uso bélico intencionado por parte de ejércitos o actores maliciosos, los principales motivos técnicos y estructurales por los que los expertos advierten sobre un posible impacto a gran escala son: Democratización de riesgos biológicos y químicos (Doble uso) El problema del alineamiento (Alignment Problem) Comportamiento instrumental y resistencia al apagado Ataques a infraestructuras críticas Escalada automatizada y tiempo de reacción nulo