Todos cagados por la IA.

Description •·················•·················• Links. Canal principal: ‪@DotDager‬ Canal de cine/filosofía: ‪@ElAntroDeDager‬ Canal de musiquita: ‪@DagerMusic‬ Twitch:   / dagerxiv   Discord:   / discord   IG:   / dager.32   Kick: https://kick.com/dotdager Video editado y miniatura hecha por ‪@1Ursoc‬ 1ursocc@gmail.com Music by Karl Casey / ‪ ‪@WhiteBatAudio‬ Todas las fuentes citadas y utilizadas en el video: El hilo de renuncia de Coxon: https://x.com/hilbertspaess/status/20... Otras fuentes sobre el tema de Coxon: https://www.wired.com/story/anthropic... https://www.axios.com/2026/09/09/anth... https://www.washingtonpost.com/techno... https://apnews.com/article/anthropic-... Artículos de Anthropic sobre los incidentes cyber: https://www.anthropic.com/research/al... https://www.anthropic.com/news/invest... El asunto de Hugging Face: https://openai.com/index/hugging-face... El informe internacional de seguridad de IA: https://internationalaisafetyreport.o... El paper clásico de problemas concretos de seguridad (el que coautorea Amodei): https://arxiv.org/abs/1606.06565 El paper del botón para apagar la IA: https://arxiv.org/abs/1611.08219 Sobre los límites de RLHF: https://arxiv.org/abs/2307.15217 Ejemplos concretos de fallos Los ejemplos divertidos de specification gaming: https://deepmind.google/blog/specific... El estudio sobre modelos aduladores: https://www.anthropic.com/research/to... Cuando OpenAI revirtió GPT-4o por chupamedias: https://openai.com/index/expanding-on... Paper sobre sobreoptimizar la recompensa: https://arxiv.org/abs/2210.10760 Experimento donde el modelo manipula su recompensa: https://www.anthropic.com/research/re... Los entornos clásicos para probar fallos de seguridad: https://arxiv.org/abs/1711.09883 Cómo aparecen objetivos malos con recompensas correctas: https://deepmind.google/blog/how-unde... El paper original de RLHF: https://arxiv.org/abs/1706.03741 Otros papers relevantes sobre scheming, monitoreo y alineamiento: https://proceedings.mlr.press/v162/la... https://arxiv.org/abs/2312.09390 https://arxiv.org/abs/2412.14093 https://arxiv.org/abs/2412.04984 https://arxiv.org/pdf/2108.07258 Libros relevantes: El clásico Superintelligence de Bostrom (de los mejores): https://www.simonandschuster.com/auth... El libro introductorio de Brian Christian: https://brianchristian.org/books/ El libro de Stuart Russell sobre control humano: https://www.penguinrandomhouse.com/bo... El libro escéptico AI Snake Oil, aporta nuance: https://www.aisnakeoil.com/p/faq-abou... El manual técnico de Dan Hendrycks: https://www.aisafetybook.com/ Sobre el consenso (y desacuerdo) de los expertos: La gran encuesta a investigadores de IA: https://arxiv.org/abs/2401.02843 Crítica a cómo se interpreta esa encuesta: https://www.scientificamerican.com/ar... El argumento por priorizar los daños actuales: https://www.nature.com/articles/d4158...