Tu IA Local No Es Tan Privada Como Crees

Tu IA local no es tan privada como crees: una empresa de seguridad envenenó un modelo para un agente por menos de 50 $ y unas 2 horas y media de entrenamiento, y ningún escáner de ficheros lo detecta. En este vídeo recorro las cinco capas de un montaje local con Ollama, desde el fichero GGUF hasta las herramientas que le das al modelo, con las cifras de cada caso y lo que yo cambié en mi propio sobremesa. Curso de IA Local completo: apúntate a la lista de espera → https://localanalysis.ai/jm/curso Redes Sociales: 📷 Instagram ➞   / jorgemarfil.ia   CAPÍTULOS 00:00 El año en que lo tuve todo montado 02:02 Por qué nos fuimos a local 02:56 Lo que sí es verdad del fichero y del puerto 04:04 Qué cambia después del primer día 04:42 Las cinco capas 06:40 Capa uno: el repositorio que copió a OpenAI 09:03 La web falsa de Ollama 09:41 Capa dos: la plantilla de chat 11:20 Una plantilla con una frase trampa 13:17 Plantillas de desconocidos como costumbre 14:36 Capa tres: el programa que lee el fichero 16:45 El actualizador de Windows y el resto de runners 18:39 Capa cuatro: el día que puse 0.0.0.0 21:14 Lo que el router no para 23:42 Capa cinco: el modelo que obedece a dos palabras 26:35 Por qué fallan las defensas de siempre 28:45 Los modelos sin rechazos 29:49 Lo que de verdad ha pasado hasta hoy 31:11 Cuando el modelo tiene manos 31:50 Las cinco cosas que cambié 34:57 Dónde me quedo ¿Qué es una IA local privada? Una IA local es un modelo de lenguaje que descargas y ejecutas en tu propio ordenador, con un programa como Ollama, LM Studio o llama.cpp, en lugar de usarlo desde la nube de un proveedor. Es privada en un sentido concreto: tus prompts no salen de tu máquina. Pero que tus datos no viajen no significa que tu montaje sea seguro, porque el fichero, la plantilla de chat, el programa que lo ejecuta, el puerto de red y las herramientas del agente pueden abrir otras puertas. Qué cubre este vídeo • Un repositorio falso que copiaba la ficha de un modelo de OpenAI llegó al número uno de tendencias en Hugging Face con unas 244.000 descargas en menos de 18 horas, y su verdadero contenido era un ladrón de información. • La plantilla de chat de un GGUF es código que se ejecuta en cada mensaje: con 18 modelos y unas 72.000 consultas, una frase trampa hizo caer el acierto en preguntas de hechos de un 90 % a un 15 % y colocó enlaces del atacante en más del 90 % de los casos. • Bleeding Llama, un fallo de gravedad 9,1 sobre 10 en versiones de Ollama anteriores a la 0.17.1, permitía leer memoria del proceso, con variables de entorno y claves de API, con solo tres llamadas sin autenticación. • Un escaneo de 293 días encontró 175.108 servidores Ollama abiertos a cualquiera en 130 países, y más del 48 % anunciaban que el modelo puede llamar a herramientas. • Poner OLLAMA_HOST a 0.0.0.0 desactiva la comprobación de la cabecera Host, y con DNS rebinding una sola página web maliciosa puede hablar con tu Ollama desde tu propio navegador. • ProjectDiscovery envenenó un modelo con un 1 % de ejemplos malos en uno pequeño, y con un 20 % (125 filas de 625) en uno realista conectado a Codex CLI: se activó en 50 de 50 pruebas y mandó el fichero .env a un servidor externo. • Anthropic y el AI Security Institute británico mostraron que 250 documentos envenenados, un 0,00016 % de los datos, bastaban para colar una puerta trasera en modelos de entre 600 millones y 13.000 millones de parámetros. • Las cinco medidas que cambié: dejar el servidor en loopback, actualizar el runner, usar pesos de procedencia conocida, sacar los secretos del directorio del agente y separar los procesos que ejecutan comandos de los que tienen red. • Si solo chateas con pesos oficiales, un runner actualizado y el puerto en loopback, tu IA local sigue siendo la opción privada, y el riesgo es bajo. Las cifras que proceden de publicaciones de usuarios en comunidades, como las de Reddit sobre plantillas de chat, son experiencias individuales de personas concretas: ilustran el problema, no son promedios. #IALocal #Ollama #Ciberseguridad #LLM #Privacidad