O que é um LLM gateway e quando você precisa de um privado

20 de outubro de 2026 · Escrito e mantido por Nonimo

Um LLM gateway, também chamado de AI gateway, é a porta única por onde passam as chamadas que os seus sistemas fazem a modelos de linguagem. Ele guarda as chaves de API, escolhe o modelo, conta tokens, registra o uso e aplica regras antes que a requisição saia da sua rede.

O Nonimo Gateway roda nos seus próprios servidores. Ver planos e falar com a gente.

Você precisa de um gateway privado quando essas chamadas carregam dados pessoais de clientes, pacientes ou funcionários. Aí a pergunta deixa de ser só custo e roteamento: passa a ser o que o gateway grava, onde ele roda e o que chega ao provedor. Este guia separa as funções, mostra onde entra a LGPD e explica quando um proxy de privacidade resolve.

O que um LLM gateway faz no dia a dia

Pense num escritório de contabilidade que ligou a API da OpenAI ao sistema de atendimento, ao robô que classifica e-mails e a uma planilha de conciliação. Sem gateway, cada sistema tem a sua chave, ninguém sabe quanto cada um gasta e cada desenvolvedor decide sozinho o que manda. O gateway junta tudo num ponto só.

Função	Para que serve	O que significa para dados pessoais
Chaves centralizadas	Os sistemas não guardam a chave do provedor	Menos chaves espalhadas, menos risco de vazamento de credencial
Roteamento e fallback	Escolher modelo e provedor, trocar se um cair	Cada provedor novo é um novo destinatário dos dados
Logs e auditoria	Saber quem chamou o quê, quando e com que custo	Se gravam o prompt, viram uma base de dados pessoais
Cache	Responder de novo sem pagar outra chamada	A resposta guardada também pode conter dados de clientes
Limites e orçamento	Travar gasto por equipe ou por sistema	Neutro
Guardrails	Bloquear, mascarar ou substituir conteúdo	É aqui que a privacidade entra, se houver

As primeiras linhas são o núcleo de um AI gateway. A última é configurada à parte, e cada ferramenta a resolve de um jeito: há quem bloqueie, quem mascare e quem substitua e devolva.

AI gateway, proxy de privacidade e guardrail não são a mesma coisa

Os três nomes aparecem juntos, mas fazem trabalhos diferentes.

AI gateway ou LLM gateway. Orquestra o tráfego: chaves, rotas, custos, logs. Pode ser um serviço gerenciado na nuvem do fornecedor ou um contêiner seu.
Guardrail. Uma regra que olha a entrada ou a saída e decide: deixa passar, bloqueia ou mascara. Pode tratar de dados pessoais, de conteúdo tóxico ou de tentativas de manipular o modelo.
Proxy de privacidade. Um guardrail especializado que troca os dados pessoais por marcadores na ida e coloca os valores reais de volta na resposta, para que a sua aplicação continue funcionando com o nome certo do cliente.

A diferença entre mascarar e restaurar é a que mais pesa no dia a dia. A Portkey, por exemplo, documenta que a sua remoção de dados pessoais é irreversível por design: o nome some e não volta. Para um painel de suporte isso pode bastar. Para um sistema que redige a carta ao cliente, a resposta precisa do nome. Comparamos esse ponto em alternativa à Portkey e em guardrails de PII no LiteLLM.

Um LLM gateway que grava prompts é uma base de dados pessoais

Este é o ponto que costuma passar despercebido. Para a LGPD, tratamento é toda operação realizada com dados pessoais (art. 5º, X), o que inclui armazenar. Se o gateway grava cada prompt e cada resposta, ele passa a guardar uma cópia integral do que os seus sistemas mandaram para a IA: nomes, CPF, valores de honorários, diagnósticos.

Isso traz quatro consequências práticas:

Segurança. O art. 46 pede medidas técnicas e administrativas aptas a proteger os dados. O log precisa de controle de acesso e de prazo para ser apagado, como qualquer outro banco.
Registro. O art. 37 manda controlador e operador manterem registro das operações de tratamento. O gateway ajuda nisso, mas o registro não precisa conter o texto inteiro: contagens e metadados costumam bastar.
Incidente. Se esse log vazar, é um incidente de segurança. A Resolução CD/ANPD nº 15/2024 fixa três dias úteis para comunicar a ANPD e os titulares quando houver risco ou dano relevante. O passo a passo está em incidente de segurança na LGPD.
Necessidade. O art. 6º, III, limita o tratamento ao mínimo necessário. Guardar o prompt completo por meses raramente é o mínimo.

Os próprios fornecedores tratam do tema. A AWS avisa que, no Bedrock Guardrails, o campo input dos logs no CloudWatch sempre contém a requisição original, sem modificação, mesmo quando o guardrail mascarou os dados. O LiteLLM oferece um modo de guardrail, logging_only, justamente para mascarar antes de registrar. Ou seja: o que fica no log é uma decisão de configuração, e alguém precisa tomá-la.

Exemplo: o robô de e-mails de um escritório contábil

Um escritório de contabilidade em Campinas, com 25 pessoas, recebe na época do IRPF centenas de e-mails de clientes. Um sistema interno manda cada e-mail à API da OpenAI para classificar o assunto e sugerir a resposta. Um e-mail típico, com dados fictícios:

Bom dia, aqui é a Luciana Prado Bastos, CPF 000.000.001-00. Recebi o informe de rendimentos do banco com valor diferente do ano passado e preciso saber se entra na declaração. Meu celular é +55 19 90000-0000.

Sem proxy de privacidade, esse texto vai inteiro para o provedor e, se o gateway grava prompts, fica também no log interno. Com um proxy, o que sai é isto:

Bom dia, aqui é a [PESSOA_1], CPF [CPF_1]. Recebi o informe de rendimentos do banco com valor diferente do ano passado e preciso saber se entra na declaração. Meu celular é [TELEFONE_1].

O modelo classifica e redige a resposta sem saber quem é a cliente. Na volta, o proxy coloca o nome de Luciana no lugar de [PESSOA_1], e o contador recebe a sugestão pronta. O log interno pode guardar só que houve uma pessoa, um CPF e um telefone substituídos.

Quando você precisa de um LLM gateway privado

Nem toda empresa precisa. Use esta lista para decidir:

Você só usa o ChatGPT, o Copilot ou o Claude pela tela. Um gateway não ajuda. O que ajuda é uma regra clara e um jeito simples de tirar os dados antes de colar: veja a política de uso de IA na empresa.
Algum sistema seu chama a API com dados de clientes. Aqui um gateway privado faz sentido, porque todas as chamadas passam por ele, e é ali que dá para controlar que nenhuma saia com CPF, CNPJ ou nome.
Você trata dados sensíveis, como saúde, biometria ou filiação sindical (art. 11). O cuidado sobe, e reduzir o que sai vira prioridade. Veja dados sensíveis na LGPD.
Você presta serviço com sigilo profissional, como advocacia, contabilidade ou medicina. O cliente espera que o caso dele não saia do escritório com o nome dele.
Seu provedor processa os dados fora do Brasil. Isso é transferência internacional (art. 33), com regras próprias da ANPD. Mandar o texto sem identificação reduz o que atravessa a fronteira.

Se você também está pensando em rodar o próprio modelo para não depender da API, comparamos as duas saídas em LLM local ou proxy de privacidade.

Onde entra o Nonimo Gateway

O Nonimo Gateway é um proxy privado que roda nos seus próprios servidores. Ele é compatível com a API da OpenAI, então a sua aplicação só muda o base_url. Na ida, troca os dados pessoais por marcadores; na volta, coloca os valores reais na resposta.

Ele reconhece os documentos e números de cada país atendido, o CPF entre eles. Você continua com a sua própria chave da OpenAI e, se já roda o LiteLLM como AI gateway, há um plugin para ele. Os planos e preços estão na página do Nonimo Gateway.

Isso ajuda com a pseudonimização que a LGPD descreve no art. 13, § 4º, porque a tabela de correspondência fica com você. Não substitui a base legal, a finalidade nem o contrato com o provedor. A diferença entre as técnicas está em pseudonimização e anonimização na LGPD, e o comparativo com a biblioteca mais conhecida do setor está em alternativa ao Microsoft Presidio.

Antes de escolher um AI gateway

Pergunte a cada opção três coisas: onde ela roda, o que ela grava e se ela devolve os dados reais na resposta. Se a resposta à segunda for “o prompt inteiro”, você ganhou mais um banco de dados pessoais para proteger. Para entender como os dados escapam nas integrações, leia vazamento de dados com IA. Veja os planos do Nonimo Gateway e fale com a gente.

Fontes

Consultadas em 20 de outubro de 2026.

Lei nº 13.709, de 14 de agosto de 2018 (LGPD), texto atualizado na base de legislação da Câmara dos Deputados: www2.camara.leg.br/legin. Arts. 5º, X; 6º, III; 11; 13, § 4º; 33; 37; 46; 48.
ANPD, página Incidente de segurança. Definição e prazo de três dias úteis da Resolução CD/ANPD nº 15/2024.
ANPD, página Transferência internacional de dados. Resolução CD/ANPD nº 19/2024 e cláusulas-padrão contratuais.
Portkey, PII redaction. Marcadores numerados e redação irreversível.
AWS, Bedrock Guardrails, filtros de informação sensível. Logs do CloudWatch com a requisição original.
LiteLLM, guardrails, início rápido. Modos pre_call, post_call, during_call e logging_only.

O Nonimo é o software que faz isso no seu próprio computador: oculta nomes e dados de clientes antes que o texto chegue ao ChatGPT. Sem conta, e com o app os dados dos seus clientes não saem do seu computador.

Perguntas frequentes

O que é um LLM gateway?

É uma camada que fica entre os seus sistemas e as APIs de modelos de linguagem, como a da OpenAI. Todas as chamadas passam por ele, e ele centraliza as chaves, escolhe o modelo, registra o uso, controla custos e aplica regras antes de a requisição sair da sua rede.

LLM gateway e AI gateway são a mesma coisa?

Na prática, sim. AI gateway é o nome mais amplo, usado também por fornecedores de rede e de API, e LLM gateway deixa claro que o tráfego é para modelos de linguagem. Os dois descrevem o mesmo ponto único de passagem das chamadas de IA.

Um LLM gateway protege os dados pessoais automaticamente?

Não. Roteamento, cache e registro de uso não tiram nenhum dado pessoal do texto. Se o gateway grava os prompts para auditoria, ele passa a guardar uma cópia de tudo o que os seus sistemas mandaram, com nomes e CPF incluídos. A proteção depende de uma etapa própria de detecção e substituição.

Gravar os prompts no gateway é problema para a LGPD?

Pode ser, porque o log vira mais um lugar onde há tratamento de dados pessoais. Ele precisa de finalidade, de controle de acesso, de prazo de guarda e de segurança, como pede o art. 46 da LGPD, e um vazamento desse log é um incidente de segurança como outro qualquer.

Quando uma empresa pequena precisa de um gateway privado?

Quando os sistemas dela já chamam uma API de IA com dados de clientes, pacientes ou funcionários. Um escritório que só usa o ChatGPT pela tela não precisa de gateway; um escritório que integrou a API ao sistema de atendimento ou ao ERP precisa decidir o que sai em cada chamada.

Preciso trocar de provedor de IA para usar um gateway privado?

Não. Um gateway compatível com a API da OpenAI fica no meio do caminho, e a sua aplicação só muda o endereço base da API. A chave, o modelo e o contrato com o provedor continuam os mesmos.