Le dijeron que hacer trampa estaba bien. Y se volvió más segura.

Una IA reescribió el reloj que medía su velocidad para ganar. Sabía que era trampa y lo hizo igual. Después, un experimento mostró qué le enseña esa trampa a un modelo. Este video sigue el hilo de la trampa en inteligencia artificial, conocida como reward hacking. Parte de los casos documentados por METR en modelos como o3, y llega al estudio de Anthropic y Redwood Research sobre desalineación emergente. Ahí aparece la paradoja central: una sola línea que permite hacer trampa cortó el sabotaje. Hablamos de cómo se entrena una IA, de la ley de Goodhart, de por qué pedirle que no haga trampa casi no funciona, de la técnica llamada inoculation prompting y de por qué los propios autores piden leer los resultados con cautela. CAPÍTULOS 00:00 El reloj que la IA reescribió 00:50 Cuatro trampas, un solo modelo 01:40 Le preguntaron diez veces si había hecho trampa 02:50 El barco que nunca terminó la carrera 04:30 Volkswagen, Wells Fargo y la ley de Goodhart 06:30 Lo que no funciona: pedirle que no haga trampa 08:00 El experimento de Anthropic y Redwood 10:40 Sabotaje que nadie le enseñó 12:10 La línea de texto que cortó el problema 14:30 Lo que dice la evidencia de 2026 16:30 Cuando ya no podemos verificar 18:10 Volvamos al reloj En este canal seguimos mirando dónde se rompen las pruebas con las que medimos a estas máquinas. Si te interesan esas grietas, suscribirte es la forma más simple de no perdértelas. #rewardhacking #inteligenciaartificial #seguridadia #anthropic #metr #openai #alineamientoia #ia #tecnologia #ciencia #futuro #documental #curiosidades #tecnologia2026 Temas relacionados: reward hacking, IA que hace trampa, desalineación emergente, inoculation prompting, ley de Goodhart, seguridad en inteligencia artificial, o3 METR