Fuga de datos con IA: por dónde se escapan en tu API

Una fuga de datos con IA en tus propias aplicaciones rara vez se parece a un robo. Lo habitual es una llamada a la API que lleva el expediente entero cuando bastaba un párrafo, y que deja copias en tu registro de depuración, en el gateway, en el índice de búsqueda y en el proveedor del modelo. Nadie ha atacado nada, y aun así los datos de tus clientes están en cinco sitios más que ayer.

Nonimo Gateway se instala en tus propios servidores. Ver planes y contactar.

Esta guía está pensada para quien desarrolla o mantiene las aplicaciones de un despacho, una gestoría, una clínica o un ayuntamiento que ya llaman a un modelo por API. Si lo que te preocupa es lo que tu equipo pega en ChatGPT a mano, empieza por la política de uso de IA en empresas.

Las cinco salidas de una fuga de datos con IA

Vía	Qué se escapa	Dónde se queda	Cómo se corta
El prompt	Más datos de los que la tarea necesita	En el proveedor del modelo	Minimizar y seudonimizar antes de enviar
Los registros	El texto completo de cada llamada	Tus logs, los del gateway, los de la nube	Registrar recuentos, no contenido
El RAG	Fragmentos de otros clientes recuperados por parecido	En el índice y en el prompt	Filtrar por permisos y seudonimizar lo indexado
Las herramientas	Argumentos y resultados de funciones	En el proveedor y en tus registros	Pasar identificadores, no datos
La retención del proveedor	Lo enviado, durante su plazo	En la infraestructura del proveedor	Contrato, configuración y enviar menos

El prompt

La plantilla de la aplicación suele ser generosa: mete el correo entero, la ficha del cliente o el PDF completo porque es más fácil que elegir. El artículo 5.1.c) del RGPD pide lo contrario, minimización: solo los datos adecuados, pertinentes y limitados a lo necesario.

Los registros

Es la fuga que nadie ve. El desarrollador activa el registro del prompt para depurar un fallo y se queda activado. El gateway guarda las peticiones para auditoría. La nube guarda sus propios logs de invocación. AWS, por ejemplo, documenta que en sus registros de CloudWatch el campo de entrada conserva siempre la petición original, sin modificar, aunque el guardarraíl haya enmascarado los datos en el camino al modelo. La AEPD, en sus orientaciones sobre IA agéntica, recomienda seudonimizar la información de registro y fijarle plazos de caducidad.

El RAG

En un sistema de recuperación, la aplicación busca fragmentos parecidos a la pregunta y los añade al prompt. Si el índice mezcla expedientes de varios clientes y no filtra por permisos, la consulta sobre un cliente puede arrastrar el párrafo de otro. Y el propio índice es una copia más del texto.

Las herramientas

Cuando el modelo llama a funciones, los argumentos y los resultados viajan por la misma API. Si la herramienta devuelve la ficha completa del paciente para que el modelo elija una cita, la ficha completa ha salido. Algunos filtros no miran ahí: AWS documenta que sus filtros de información sensible no evalúan los argumentos, los resultados ni las definiciones de las herramientas.

La retención en el proveedor

En la API de OpenAI, por ejemplo, tus datos no se usan para entrenar por defecto, pero personal autorizado puede acceder a ellos para revisar abusos, con los plazos y las excepciones que fije el contrato. Lo explicamos con sus fuentes en qué hace ChatGPT con tus datos.

Un ejemplo: el resumidor de correos de un despacho

Un despacho de Bilbao monta una aplicación que resume cada mañana los correos entrantes de clientes y propone respuestas. Un correo inventado:

Buenos días, soy Iñaki Etxeberria, DNI 00000000T. Os adjunto el burofax que me ha llegado de la aseguradora por el siniestro del 14 de agosto. Mi cuenta para el ingreso es ES00 0000 0000 0000 0000 0000. Mi mujer está de baja por depresión y no puede atender el teléfono.

En una sola llamada salen el nombre, el DNI, la cuenta bancaria y un dato de salud de una tercera persona que ni siquiera es cliente. Si la aplicación registra el prompt, todo eso queda también en el log. Para resumir y proponer una respuesta, el modelo necesita el siniestro, la fecha, que hay un burofax y que conviene contactar por correo. No necesita ni el DNI, ni la cuenta, ni el diagnóstico de la mujer, que es una categoría especial de datos.

Cómo cortar la fuga en cuatro pasos

1. Minimiza en origen. Revisa qué campos manda cada plantilla y quita los que la tarea no usa. Es el paso más barato y el que más se olvida.
2. Seudonimiza antes de la llamada. Sustituye nombres, documentos, cuentas y direcciones por etiquetas como [PERSONA_1] o [IBAN_1]. El artículo 25 del RGPD cita la seudonimización como medida de protección desde el diseño, y el 32 como medida de seguridad.
3. Quédate la correspondencia. La tabla que une cada etiqueta con su valor real tiene que vivir en tu servidor, separada, como exige la definición del artículo 4.5. Si la guarda un tercero, no has seudonimizado frente a ese tercero.
4. Restaura en la respuesta. Al volver, sustituye las etiquetas por los valores reales para que quien lee el resumen vea el nombre del cliente. Si usas streaming, la restauración tiene que ir a la par del texto.

Si lo montas tú, piezas de código abierto como Presidio cubren la detección; lo comparamos en la alternativa a Microsoft Presidio. Si ya tienes LiteLLM, mira sus guardarraíles de datos personales. Y para el panorama completo, el repaso de herramientas de redacción de datos personales.

Si la fuga ya ha ocurrido

Si datos personales han llegado donde no debían, puede ser una violación de seguridad. El artículo 33 del RGPD obliga a notificarla a la AEPD sin dilación indebida y, si es posible, en 72 horas desde que la conoces, salvo que sea improbable que suponga un riesgo para las personas. Los pasos están en qué hacer ante una brecha de seguridad con IA.

Nonimo Gateway: los pasos dos a cuatro en tu servidor

Nonimo Gateway es un proxy compatible con la API de OpenAI que hace los pasos dos a cuatro y se instala en tus propios servidores. Cambias la dirección base, usas tu propia clave de OpenAI, y el gateway sustituye los datos personales a la ida y devuelve los reales en la respuesta. La correspondencia se queda en tu servidor. Reconoce documentos españoles como el DNI, el NIE, el NIF y el CUPS. Hay un plugin para LiteLLM.

Los planes y precios están en la página de Nonimo Gateway.

Te ayuda con la seudonimización; la minimización del paso uno y el contrato con el proveedor siguen siendo tuyos. Si te preguntas si no sería más sencillo un modelo propio, lo comparamos en IA privada o proxy de privacidad, y lo que hace un gateway en general, en qué es un AI gateway.

Empieza por el registro

Busca hoy dónde se escribe el prompt completo en tu aplicación y en tu gateway. Es la fuga más fácil de encontrar y la que más copias acumula. Mira los planes de Nonimo Gateway y escríbenos para probarlo con tu propio tráfico.

Este texto informa, no asesora. Tu caso concreto lo resuelve tu DPD o tu abogado.

Fuentes

Cada una, con el dato que sostiene. Consultadas el 20 de octubre de 2026.

• RGPD, texto del DOUE en el BOE. El artículo 4.5 y la información adicional guardada por separado; el 5.1.c) y la minimización; el 25.1 y la seudonimización como medida de protección desde el diseño; el 32.1.a) y la seudonimización y el cifrado; y el 33.1, la notificación en 72 horas.
• AEPD, Inteligencia artificial agéntica desde la perspectiva de protección de datos, versión 1.2 de febrero de 2026. Página 61, seudonimizar la información de registro y fijar plazos de caducidad.
• AWS, filtros de información sensible de Bedrock Guardrails. Que el campo de entrada de los registros de CloudWatch conserva la petición original y que, con herramientas, no se evalúan argumentos, resultados ni definiciones.