Qué es un AI gateway y cuándo conviene uno privado
· Escrito y mantenido por Nonimo
Un AI gateway, o LLM gateway, es la pieza que se pone entre tus aplicaciones y las APIs de los modelos de lenguaje. En lugar de que cada sistema llame por su cuenta a OpenAI con su propia clave, todos le hablan al gateway, y el gateway decide a qué modelo mandar cada pedido, con qué clave, con qué límites y qué deja anotado.
Nonimo Gateway se instala en tus propios servidores. Ver planes y contactarnos.
Para un equipo de sistemas es orden y control de costos. Para quien responde por los datos de clientes, pacientes o empleados, es otra cosa: un punto por el que pasa todo el texto que tus apps le mandan a la IA y que, muchas veces, lo guarda. Si ese texto tiene nombres, CUIT o domicilios, el gateway es una base de datos personales más, y la Ley 25.326 se le aplica como a cualquier otra.
Qué es un AI gateway, en concreto
Un AI gateway es un proxy especializado. Recibe las llamadas que tus aplicaciones harían a un proveedor de modelos, las reenvía y devuelve la respuesta. En el medio puede hacer varias cosas, según el producto:
- Ruteo. Manda cada pedido al modelo que corresponde, y si uno falla, prueba con otro.
- Claves centralizadas. Las claves de la API viven en el gateway, no repartidas en el código de cada app.
- Límites y cuotas. Cuánto puede gastar cada equipo o cada aplicación.
- Caché. Si la misma pregunta llega dos veces, puede contestar sin volver a llamar al modelo.
- Registros. Qué app llamó, cuándo, cuántos tokens, cuánto costó y, en muchos casos, el texto completo del pedido y de la respuesta.
Ese último punto es el que cambia la conversación. Un registro de costos no tiene datos de nadie. Un registro de prompts tiene todo lo que tus usuarios escribieron.
AI gateway, gateway de privacidad y proxy: no hacen lo mismo
Los nombres se mezclan, y conviene separarlos antes de elegir.
| Pieza | Qué resuelve | Qué hace con los datos personales |
|---|---|---|
| AI gateway de ruteo | Un solo punto de entrada, claves, costos, caché | Los deja pasar tal cual y, si registra prompts, los guarda |
| Guardrails de contenido | Bloquear pedidos o respuestas que violan una regla interna | Puede detectar datos y frenar el pedido, o enmascararlos sin devolverlos |
| Proxy de privacidad | Que el proveedor no reciba datos de personas | Los reemplaza antes de la llamada y los repone en la respuesta |
No son excluyentes. Un proxy de privacidad puede ir delante o detrás de un gateway de ruteo que ya tengas. Cómo se combinan con productos concretos lo comparamos en guardrails de PII en LiteLLM, en Cloudflare AI Gateway y los datos personales y en Kong AI Gateway, páginas en inglés.
Un AI gateway que guarda prompts y la Ley 25.326
La Ley 25.326 no menciona los gateways, pero su artículo 2 define dato personal como información de cualquier tipo referida a personas determinadas o determinables. Un prompt que dice resumime el reclamo de Fulano, CUIT tal, es exactamente eso. Y un archivo de registros con miles de esos prompts es una base de datos.
De ahí salen cuatro preguntas que conviene contestar antes de prender el registro completo:
- ¿Quién guarda los registros? Si el gateway es un servicio de un tercero en la nube, ese tercero trata datos por tu cuenta. El artículo 25 le prohíbe usarlos para otro fin y le pide destruirlos al terminar el servicio, salvo que lo autorices a guardarlos hasta dos años, pero eso lo tenés que ver en su contrato.
- ¿Dónde los guarda? El artículo 12 prohíbe transferir datos personales a países sin protección adecuada, salvo excepciones. La lista de la AAIP incluye, entre otros, a la Unión Europea, Uruguay y Nueva Zelanda, pero no a Estados Unidos. Para ir ahí hacen falta el consentimiento expreso del titular o cláusulas contractuales como las modelo que aprobó la AAIP.
- ¿Cuánto tiempo? El artículo 4 pide que los datos sean adecuados, pertinentes y no excesivos para la finalidad, y que se destruyan cuando dejan de ser necesarios. Guardar prompts completos por años para depurar un error de una semana no pasa esa vara.
- ¿Quién los puede leer? El artículo 9 pide medidas técnicas y organizativas de seguridad. Un registro de prompts al que entra todo el equipo de desarrollo es un problema de seguridad aunque nadie haga nada malo.
El marco internacional va en la misma dirección. Argentina aprobó el Convenio 108 del Consejo de Europa por la Ley 27.483 y su protocolo modificatorio, el llamado Convenio 108+, por la Ley 27.699. El texto del protocolo repite el principio: datos adecuados, pertinentes y no excesivos para los fines del tratamiento.
Cómo encaja cada proveedor de IA en las figuras de prestación de servicios y de cesión lo explicamos en inteligencia artificial y protección de datos en Argentina.
Cuándo te conviene un AI gateway privado
Un gateway privado es uno que corre en tus servidores, en tu cuenta de AWS o de Azure o en tu propia sala de servidores, y no en la nube de un tercero. Conviene cuando se dan varias de estas señales:
- Tus apps mandan a la IA texto de clientes, pacientes o empleados, no sólo documentación interna.
- Necesitás registros para auditar, pero no querés que un servicio más tenga copia de esos textos.
- Tus clientes empresariales te piden por contrato saber dónde terminan sus datos.
- Ya tenés varias apps llamando a la API y las claves están desparramadas en el código.
- Trabajás con datos sensibles, como los de salud, que la ley protege con más fuerza.
Si ninguna aplica, por ejemplo porque tu app con IA se limita a resumir manuales internos, un gateway gestionado puede alcanzar. Si aplican varias, lo privado deja de ser un lujo.
Pero ojo: un gateway privado resuelve dónde quedan los registros, no lo que recibe el proveedor del modelo. El texto sigue viajando entero a la API de OpenAI. Para eso hace falta una capa más.
Un ejemplo: el asistente de un estudio contable
Un estudio contable de Rosario, que llamaremos Ferreyra y Asociados, armó un asistente interno que redacta respuestas a consultas de clientes monotributistas. La app arma un prompt así, con datos inventados:
Redactá una respuesta para el cliente.
Cliente: Mariela Ostrovsky, CUIT 27-00000000-0
Domicilio fiscal: Av. Pellegrini 0000, Rosario
Consulta: facturó $ 0.000.000 en el año y pregunta si pasa de categoría.
Sin gateway, cada desarrollador probaba con su propia clave. Con un gateway de ruteo en la nube, el estudio ordenó las claves y los costos, pero sumó un problema: el registro completo de prompts quedó en un servicio externo, con nombres, CUIT y domicilios de cientos de clientes. Qué se puede hacer con un CUIT en manos equivocadas lo contamos en qué pueden hacer con mi CUIT o CUIL.
Con un gateway privado más un proxy de privacidad, el mismo pedido sale del estudio con marcadores en lugar del nombre, el CUIT y el domicilio. El modelo redacta la respuesta sobre la estructura del caso, el proxy repone los datos reales al volver y el registro guarda conteos de lo que se reemplazó, sin el contenido. La respuesta al cliente es la misma; lo que cambió es quién vio qué.
Dónde encaja Nonimo Gateway
Nonimo Gateway es un proxy de privacidad privado que se instala en tus propios servidores. Reemplaza los datos personales antes de que el pedido llegue a la API del modelo y repone los valores reales en la respuesta.
Es compatible con la API de OpenAI: cambiás el base_url y tu código sigue igual.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://ia.tu-estudio.internal/v1",
api_key=os.environ["OPENAI_API_KEY"],
)
Usás tu propia clave de OpenAI, y si ya tenés LiteLLM como gateway, se suma como plugin. Antes de mandar tráfico real, probalo con textos de tu propia operación para ver qué reemplaza y qué tenés que minimizar vos.
Los planes y precios están en la página de Nonimo Gateway.
Ayuda con la minimización y la seguridad que pide la ley, pero no reemplaza tu política de privacidad, tus contratos con proveedores ni una política de uso de IA para el equipo.
Si estás evaluando si te hace falta un modelo propio en lugar de la API, lo vemos en IA privada o proxy de privacidad. Y por dónde se escapan los datos en tus propias apps, en fuga de datos con IA.
En resumen
Un AI gateway ordena el acceso a los modelos: una dirección, las claves en un lugar, costos a la vista. No protege por sí mismo los datos que pasan por él, y si guarda prompts, se convierte en una base de datos personales que la Ley 25.326 te pide cuidar. Un gateway privado deja esos registros en tu casa. Un proxy de privacidad hace que el proveedor del modelo no reciba los datos. Para un estudio o una pyme que trabaja con datos de clientes, lo razonable es pensar las dos cosas juntas.
Si querés probar Nonimo Gateway en tus servidores, mirá los planes y escribinos.
Fuentes
Consultadas el 21 de octubre de 2026.
- Ley 25.326 de Protección de los Datos Personales. Texto actualizado en InfoLEG. Artículos 2 (definiciones), 4 (calidad de los datos), 9 (seguridad), 12 (transferencia internacional) y 25 (prestación de servicios informatizados).
- AAIP, Transferencias internacionales de datos personales. Página oficial. Países con protección adecuada y cláusulas contractuales modelo.
- Ley 27.483, aprobación del Convenio 108 del Consejo de Europa. Texto en argentina.gob.ar.
- Ley 27.699, aprobación del protocolo modificatorio del Convenio 108 (Convenio 108+). Texto en argentina.gob.ar. Artículo 7 del protocolo, que reemplaza el artículo 5 del convenio.
Nonimo es el software que hace esto en tu propia computadora: tapa nombres, mails y expedientes antes de que el texto llegue a ChatGPT. Sin cuenta, y la app lo hace sin que los datos de tus clientes salgan de tu equipo.
Preguntas frecuentes
¿Qué es un AI gateway?
Es un intermediario que se ubica entre tus aplicaciones y las APIs de los modelos de lenguaje. Les da a todas tus apps una sola dirección para llamar a la IA y, según el producto, suma ruteo entre modelos, manejo central de las claves, límites de uso, caché, control de costos y registros de cada llamada.
¿Un LLM gateway es lo mismo que un AI gateway?
En la práctica, sí: son dos nombres para la misma pieza. LLM gateway pone el acento en los modelos de lenguaje y AI gateway es el término más amplio, que algunos productos usan también para modelos de imagen o de voz. Lo que importa no es el nombre sino qué hace con el texto que pasa por él.
¿Un AI gateway protege los datos personales?
No por sí mismo. Un gateway ordena el tráfico hacia los modelos, pero el texto llega igual al proveedor, con nombres, CUIT y domicilios incluidos, salvo que el gateway tenga una capa que los reemplace antes de mandarlo. Y si guarda los prompts en sus registros, suma una base más con datos personales que tenés que cuidar.
¿Qué dice la Ley 25.326 de los registros de un gateway?
La ley no habla de gateways, pero sus reglas alcanzan a esos registros. Si guardan prompts con datos de personas identificables, son datos personales: tenés que protegerlos según el artículo 9, conservarlos sólo mientras hagan falta y, si los aloja un tercero en otro país, revisar la transferencia internacional del artículo 12.
¿Cuándo conviene un AI gateway privado?
Cuando por el gateway pasan datos de clientes, pacientes o empleados y no querés que un servicio más los reciba o los guarde. Un gateway privado corre en tus propios servidores, así que los registros quedan bajo tu control. Si además reemplaza los datos personales antes de llamar al modelo, el proveedor de IA tampoco los recibe.
¿Necesito cambiar mi código para usar un gateway?
En general, muy poco. Muchos gateways exponen una API compatible con la de OpenAI, así que alcanza con cambiar la dirección base, el base_url, en el cliente que ya usás. El resto del código, los prompts y las respuestas siguen igual.