Перейти к содержимому

OpenAI despidió a 3 investigadores de seguridad: ¿te afecta?

Brainglab

0:00 / 0:00

OpenAI despidió a 3 investigadores de seguridad: ¿te afecta?

46 просмотров · 2 недели назад
Brainglab
840 подписчиков
46 просмотров · 2 недели назад
OpenAI despidió a Tomek Korbak, su principal contacto técnico con METR, los auditores externos que investigaron el ataque de sus agentes a Hugging Face, y a otros dos investigadores de seguridad, Mikita Balesni y Jasmine Wang. Los tres dicen que fue por priorizar la seguridad; OpenAI, que violaron sus políticas sobre información sensible. ¿Quién revisa ahora la IA que usas? Te mostramos la carta de los tres, la respuesta de OpenAI («una grave violación de la confianza», sin decir cuál) y las dos versiones lado a lado. Lo que no cuadra: el paper que advierte que vigilar lo que piensa la IA «puede ser frágil» lo encabezan dos de los despedidos y lo firma el científico jefe de OpenAI. Y lo probamos: el razonamiento de Claude Haiku 5.5 nos llegó vacío, aunque se cobra igual. Además: el acceso que OpenAI promete a sus evaluadores, quién protege en California al que habla con un auditor y qué revisar si usas agentes en tu trabajo. 📰 Fuentes (consultadas el 09 y 10-10-2026): • La carta de Tomek Korbak, Jasmine Wang y Mikita Balesni (08-10-2026): https://mikitabalesni.com/letter/lett... • Tomek Korbak en X (08-10-2026): https://x.com/tomekkorbak/status/2108... • Mikita Balesni en X (08-10-2026): https://x.com/balesni/status/21082628... • Jasmine Wang en X (08-10-2026): https://x.com/j_asminewang/status/210... • OpenAI Newsroom en X (09-10-2026): https://x.com/OpenAINewsroom/status/2... • NPR (09-10-2026): https://www.npr.org/2026/10/09/nx-s1-... • Fortune (09-10-2026): https://fortune.com/2026/10/09/openai... • TechCrunch (08-10-2026): https://techcrunch.com/2026/10/08/fir... • TechCrunch, la primicia del WSJ (01-10-2026): https://techcrunch.com/2026/10/01/ope... • METR, la investigación del incidente de Hugging Face (26-08-2026): https://metr.org/blog/2026-08-26-open... • Jakub Pachocki, «Una mente alienígena» (OpenAI, 06-09-2026): https://openai.com/es-419/index/an-al... • Ficha técnica de GPT-6 Astra (03-09-2026): https://deploymentsafety.openai.com/g... • OpenAI en YouTube, «Introducing GPT-6 Astra» (03-09-2026):    • Introducing GPT-6 Astra: the most intellig...   • El paper «Chain of Thought Monitorability» (arXiv, 15-07-2025): https://arxiv.org/abs/2507.11473 • Sam Altman en X (12-09-2026): https://x.com/sama/status/20988115634... • OpenAI, principios para evaluaciones de terceros (22-09-2026): https://openai.com/es-419/index/prior... • Anthropic, evaluación embebida con Accenture (18-09-2026): https://www.anthropic.com/news/accent... • Documentación de Claude, «Pensamiento»: https://platform.claude.com/docs/es/b... • Documentación de OpenAI, «Reasoning models»: https://developers.openai.com/api/doc... • SB 53 de California: https://leginfo.legislature.ca.gov/fa... • Fortune, con Charlie Bullock (LawAI) (05-10-2026): https://fortune.com/2026/10/05/openai... • Institute for Law & AI, sobre la SB 53: https://law-ai.org/whistleblower-prot... • Joshua Achiam en X (09-10-2026): https://x.com/jachiam0/status/2108649... • Neel Nanda en X (08-10-2026): https://x.com/NeelNanda5/status/21083... • Ro Khanna en X (08-10-2026): https://x.com/RoKhanna/status/2108312... • Hacker News (09-10-2026): https://news.ycombinator.com/item?id=... • Nuestra prueba (10-10-2026): Claude Haiku 5.5 en Claude Code 2.1.295, dos intentos con un acertijo de lógica 🔗 Te lo contamos antes: • OpenAI: renuncia en seguridad y dice que «la cultura está rota» (la alarma que no apagó nada):    • OpenAI: renuncia en seguridad y dice que «...   • OpenAI y la seguridad nuclear: lo que la IA debería copiar:    • OpenAI y la seguridad nuclear: lo que la I...   0:00 La noticia 1:37 La respuesta de OpenAI 2:10 Las dos versiones 2:44 Lo que piensa tu IA 3:16 Lo probamos 4:04 Los auditores 4:36 Lo que no cuadra 5:13 GPT-6 Astra 5:39 El acceso que promete 6:06 ¿Quién protege al que habla? 6:40 ¿Quién revisa tu IA? 7:08 Las reacciones 7:39 Nuestra lectura 📺 Todas las noticias de OpenAI y ChatGPT:    • Noticias de OpenAI y ChatGPT   💬 Tú no puedes leer lo que piensa el modelo que usas: ¿usarías un agente que nadie audita? Te leemos en los comentarios: opina con libertad, siempre con respeto. Las noticias tech de Brainglab: noticias de tecnología e IA para quienes trabajan con tecnología, con datos verificados en la fuente. Suscríbete y activa la campanita 🔔 🌐 https://brainglab.com #OpenAI #IA #SeguridadIA