O que é um AI gateway e quando precisa de um privado

Um AI gateway, a que também se chama LLM gateway, é a peça que fica entre as suas aplicações e as API dos modelos de linguagem. Todas as chamadas passam por ele: guarda as chaves num só sítio, decide para que modelo vai cada pedido, conta o que se gasta e regista o que entra e o que sai. Para uma equipa com três ou quatro aplicações a falar com a OpenAI, é o que evita chaves espalhadas por servidores e faturas sem dono.

O Nonimo Gateway instala-se nos seus próprios servidores. Ver os planos e falar connosco.

O que um gateway não faz por si é cuidar dos dados pessoais. Se guarda o texto dos pedidos, o processo do cliente que a aplicação manda para a API fica copiado em mais um sítio, e esse sítio fica sujeito ao RGPD, à Lei n.º 58/2019 e à fiscalização da CNPD como qualquer outro ficheiro. É essa cópia que decide se o seu gateway deve ser privado e se lhe falta uma camada de privacidade.

O que faz um AI gateway, função a função

Os produtos variam, mas o núcleo repete-se. A última coluna é a que interessa a quem responde pela proteção de dados.

função	o que resolve	o que toca nos dados pessoais
chaves centralizadas	as aplicações usam chaves internas e a do fornecedor fica num só sítio	nada no conteúdo
encaminhamento	se um modelo falha ou sobe de preço, o pedido segue para outro	o texto vai para quem o receber
quotas e custos	limites por equipa ou por aplicação	contagens, não texto
cache	uma pergunta repetida não volta a ser paga	guarda pedidos e respostas
registos	ver o que cada aplicação pediu e quando	pode guardar o texto inteiro

Fonte: funções habituais de um gateway; os pormenores dependem de cada produto.

Para a aplicação, a mudança costuma ser uma linha. Em vez de chamar a OpenAI, chama o gateway, que fala a mesma língua:

from openai import OpenAI

client = OpenAI(
    base_url="https://ia.interno.exemplo.pt/v1",  # o gateway, não a OpenAI
    api_key="chave-interna-da-aplicacao",
)

Há gateways que se instalam nos seus servidores e outros que vivem na nuvem de quem os vende. O LiteLLM, de código aberto, descreve o seu proxy como um gateway autoalojado com chaves virtuais e controlo de custos (documentação do LiteLLM); o Cloudflare AI Gateway corre na rede da Cloudflare e as suas funções base não têm custo, segundo a página de preços.

AI gateway, LLM gateway, proxy: o mesmo lugar no esquema

Em Portugal leem-se as três designações, muitas vezes na mesma proposta comercial. Não se preocupe com o nome. Pergunte onde fica a peça (nos seus servidores ou nos do fornecedor), o que guarda e durante quanto tempo, e se mexe no conteúdo ou só o encaminha.

Os registos do AI gateway e o RGPD

É nos registos que um gateway deixa de ser um tema de infraestrutura. Um pedido de uma aplicação de um escritório de advogados leva nomes, moradas, factos do processo. Se o gateway o guarda inteiro, há agora um ficheiro novo de dados pessoais, muitas vezes sem que ninguém o tenha decidido.

O RGPD não proíbe esse ficheiro, mas pede-lhe contas. Pelo artigo 5.º, n.º 1, alínea c), os dados devem ser «adequados, pertinentes e limitados ao que é necessário»; pela alínea e), conservados só durante o período necessário. Se o gateway for um serviço de terceiros, o artigo 28.º exige que só recorra a subcontratantes que apresentem «garantias suficientes».

A CNPD, autoridade de controlo nacional nos termos do artigo 3.º da Lei n.º 58/2019, inclui na Diretriz/2023/1, entre as medidas técnicas, «ativar e conservar os registos de auditoria (log)». A diretriz não pede que esses registos guardem o conteúdo do que se trata: um registo de auditoria serve para saber quem fez o quê e quando, e para isso o texto do processo do cliente não faz falta. Separar as duas coisas é a primeira decisão de quem configura um gateway.

Um aviso concreto vem da própria AWS. Na documentação dos filtros de informação sensível do Bedrock Guardrails, mesmo com a máscara ligada, o campo input dos registos no CloudWatch guarda sempre o pedido original sem alterações (documentação da AWS). Mascarar o que vai para o modelo e mascarar o que fica nos registos são duas configurações, e convém verificar as duas.

Quando precisa de um AI gateway privado

Um gateway na nuvem de um fornecedor é cómodo e chega para muitos casos: protótipos, ferramentas internas que não tocam em dados de pessoas, textos de marketing. Passa a fazer sentido tê-lo nos seus servidores quando se juntam alguns destes sinais:

• as aplicações enviam dados de clientes, doentes ou trabalhadores, e não apenas texto genérico;
• a profissão tem sigilo próprio, como a advocacia, a contabilidade certificada ou a saúde;
• um cliente grande lhe manda um questionário de segurança que pergunta, linha a linha, por onde passam os dados;
• já tem servidores próprios ou uma conta na AWS ou no Azure com quem trate deles;
• quer manter uma lista curta de subcontratantes, em vez de acrescentar mais um entre a aplicação e a OpenAI.

Ter o gateway em casa resolve a pergunta «quem mais vê isto?». Não resolve a outra: o que chega ao fornecedor do modelo. O que a OpenAI faz depois com o que recebe pela API está explicado no guia sobre o que o ChatGPT faz com os seus dados, e para escolher fornecedor servem os critérios do RGPD e da Lei 58/2019.

Onde entra um proxy de privacidade

O gateway decide para onde vai o pedido. Um proxy de privacidade decide o que vai dentro dele. Os dois podem conviver: a aplicação fala com o proxy, o proxy troca os dados pessoais por marcadores e passa o pedido ao gateway ou diretamente à API, e quando a resposta volta repõe os valores reais antes de a entregar.

O que se ganha é que o modelo trabalha com «[CLIENTE_1]» em vez do nome da cliente, e os registos a jusante guardam marcadores. É pseudonimização na aceção do artigo 4.º, n.º 5, do RGPD: o texto continua a ser dado pessoal para quem guarda a correspondência, como explica o guia sobre pseudonimização no RGPD, mas o que sai de casa deixa de identificar a pessoa por si só.

Muitos gateways já trazem alguma função de dados pessoais, e vale a pena ler a letra pequena:

gateway	o que a documentação diz sobre dados pessoais
Cloudflare AI Gateway	o DLP marca ou bloqueia; ao analisar respostas em streaming, espera pela resposta completa
Portkey	a redação usa marcadores numerados e é, nas palavras do fornecedor, irreversível por desenho
LiteLLM	com o guardrail do Presidio, mascara ou bloqueia por tipo de dado e pode repor os marcadores na resposta

Fontes: Cloudflare, DLP; Portkey, PII redaction; LiteLLM, PII masking. Consultadas a 20 de outubro de 2026.

Travar pedidos com dados é um trabalho diferente. Quando precisa que a resposta volte com os nomes certos e com documentos nacionais, é para isso que existe o Nonimo Gateway. Há mais pormenor nas comparações (em inglês) sobre o Cloudflare AI Gateway, os guardrails do LiteLLM e o Portkey.

Nonimo Gateway: a camada de privacidade nos seus servidores

O Nonimo Gateway é um proxy de privacidade que substitui os dados pessoais antes de o pedido chegar à API do modelo e repõe os dados reais na resposta. Instala-se nos seus próprios servidores e a correspondência fica lá. É compatível com a API da OpenAI: muda o base_url e o código fica igual.

Usa a sua própria chave da OpenAI. Reconhece os documentos e números nacionais de cada país que serve, e há um plugin para quem já tem o LiteLLM como gateway. Os planos e preços estão na página do Nonimo Gateway.

Se a pergunta que tem é se precisa mesmo de um modelo próprio, o guia sobre LLM local ou proxy de privacidade faz essa conta; se quer ver por onde escapam os dados de uma aplicação, leia o de fuga de dados com IA.

Um gateway que guarde só o que deve

Se já tem um AI gateway, abra hoje a configuração dos registos e veja o que fica escrito, onde e durante quanto tempo. Se vai montar um, decida antes de o ligar que dados pessoais devem chegar ao modelo e quais podem ficar em casa. Veja os planos do Nonimo Gateway e fale connosco.

Fontes

Verificadas a 20 de outubro de 2026.

• Regulamento (UE) 2016/679, Regulamento Geral sobre a Proteção de Dados, versão portuguesa, EUR-Lex. Artigo 4.º, n.º 5, pseudonimização; artigo 5.º, n.º 1, alíneas c) e e), minimização e limitação da conservação; artigo 28.º, n.º 1, garantias suficientes do subcontratante.
• CNPD, Diretriz/2023/1, sobre medidas organizativas e de segurança aplicáveis aos tratamentos de dados pessoais, aprovada a 10 de janeiro de 2023. N.º 4, a CNPD como autoridade de controlo nacional nos termos do artigo 3.º da Lei n.º 58/2019; n.º 20, B, ii, d), vi, ativar e conservar os registos de auditoria.
• Documentação do LiteLLM. O proxy como gateway autoalojado com chaves virtuais e controlo de custos.
• LiteLLM, PII masking com Presidio. Máscara ou bloqueio por tipo de dado e reposição dos marcadores na resposta.
• Cloudflare AI Gateway, preços. Funções base sem custo.
• Cloudflare AI Gateway, DLP. Marcar ou bloquear; a análise de respostas em streaming espera pela resposta completa.
• Portkey, PII redaction. Marcadores numerados e redação irreversível por desenho.
• AWS, Bedrock Guardrails, filtros de informação sensível. O campo input dos registos no CloudWatch guarda o pedido original.