Cos'è un AI gateway e quando conviene averlo privato

Un AI gateway, o LLM gateway, è il punto centrale da cui passano tutte le chiamate che le tue applicazioni fanno ai modelli linguistici: custodisce le chiavi, sceglie il modello, controlla i costi e registra il traffico. Serve quando le applicazioni che usano l’IA sono più di una e nessuno sa più quante chiavi girano e quanto si spende.

Nonimo Gateway si installa sui tuoi server. Vedi i piani e scrivici.

Un gateway, però, non decide che cosa del testo può uscire. Se lo studio manda al modello la bozza di una lettera con nome, codice fiscale e situazione debitoria del cliente, il gateway la inoltra intera e spesso la conserva nei suoi log. Qui vediamo cosa fa un AI gateway, che cosa comporta per il GDPR e quando conviene un gateway privato con uno strato di privacy davanti al modello.

Cos’è un AI gateway, funzione per funzione

Il gateway nasce per mettere ordine. Invece di dieci applicazioni che chiamano dieci API con chiavi sparse nei file di configurazione, c’è un servizio solo che parla con i fornitori. Le funzioni tipiche sono queste:

• Chiavi centralizzate. Le chiavi vere dei fornitori restano nel gateway; le applicazioni ricevono chiavi interne che si possono revocare una per una.
• Instradamento. La richiesta va al modello giusto per costo o capacità, con un modello di riserva se quello scelto non risponde.
• Limiti e costi. Tetti di spesa per reparto o per applicazione, conteggio dei token, avvisi.
• Cache. Domande identiche ricevono la risposta già calcolata.
• Registrazione. Ogni chiamata lascia una traccia: chi, quando, quale modello, spesso anche il testo della richiesta e della risposta.

Un esempio di gateway open source è LiteLLM, che si presenta come gateway self-hosted con chiavi virtuali, conteggio dei costi e risposte nel formato di OpenAI qualunque sia il fornitore. Esistono anche gateway gestiti, che girano sull’infrastruttura del fornitore.

AI gateway o LLM gateway: lo stesso componente

I due nomi indicano la stessa cosa. «LLM gateway» è più frequente fra gli sviluppatori, «AI gateway» nei listini dei fornitori di rete e di API management. Qualcuno dice «proxy LLM». Quello che conta non è il nome ma tre domande: dove gira, che cosa registra, che cosa fa al contenuto della richiesta.

Il registro del gateway è un archivio di dati personali

Un prompt con il nome di un cliente contiene un dato personale. Se il gateway lo registra, il log diventa un archivio di dati personali e il GDPR lo segue: l’articolo 5 chiede che i dati siano «limitati a quanto necessario» rispetto alle finalità, e l’articolo 25 chiede di progettare il trattamento con misure come la pseudonimizzazione fin dall’inizio.

Il rapporto sui rischi dei modelli linguistici commissionato dal Comitato europeo per la protezione dei dati lo dice in modo esplicito: i log dei sistemi di monitoraggio possono conservare dati personali delle interazioni degli utenti, e fra le misure indica di segnalare o anonimizzare le informazioni sensibili prima che vengano elaborate o registrate.

Per uno studio professionale ci sono tre conseguenze pratiche:

1. Gateway gestito da terzi. Se il log sta presso il fornitore del gateway, quel fornitore tratta dati per tuo conto ed è responsabile del trattamento ai sensi dell’articolo 28. Serve un contratto, oltre a quello con il fornitore del modello.
2. Gateway sui tuoi server. I dati non escono verso un terzo in più, ma il log resta un archivio da proteggere, con una durata di conservazione decisa da te.
3. Informazione al cliente. Per i professionisti, l’articolo 13 della legge 132/2025 chiede di comunicare al cliente le informazioni sui sistemi di IA utilizzati. Sapere dove passa e dove resta il testo rende quella informativa più semplice da scrivere: ne parliamo in informativa sull’intelligenza artificiale ai clienti.

	Gateway gestito	Gateway sui tuoi server	Gateway più proxy di privacy
Dove gira	Infrastruttura del fornitore	AWS, Azure o in sede	AWS, Azure o in sede
Chi vede il testo completo	Fornitore del gateway e del modello	Fornitore del modello	Nessuno fuori dai tuoi server
Dove restano i log	Presso il fornitore	Presso di te	Presso di te, senza i dati sostituiti nel testo inviato
Contratti ex art. 28	Due	Uno	Uno, su testo pseudonimizzato

Quando conviene un AI gateway privato

Un gateway gestito va bene per molti casi. Conviene tenerlo sui tuoi server quando:

• le richieste contengono dati di clienti, pazienti o dipendenti, non solo testi generici;
• il segreto professionale ti impone di sapere esattamente chi vede che cosa (lo spieghiamo in ChatGPT e segreto professionale);
• tratti categorie particolari, come i dati sanitari di una clinica;
• vuoi decidere tu quanto durano i log e chi li legge;
• il questionario dell’assicurazione cyber o di un cliente grande chiede dove transitano i dati.

Tenere il gateway in casa, però, risolve solo metà del problema. Il testo arriva comunque al fornitore del modello così come lo ha scritto l’applicazione.

Dove si inserisce un proxy di privacy

Il proxy di privacy lavora sul contenuto. Prima che la richiesta lasci i tuoi server sostituisce nomi, codici fiscali, IBAN e indirizzi con segnaposto; quando arriva la risposta rimette i valori veri al loro posto. Il modello ragiona sul testo, ma non vede le identità.

Alcuni gateway offrono filtri, con logiche diverse. Il DLP di Cloudflare AI Gateway, per esempio, documenta due azioni, segnalare e bloccare, e nessuna sostituzione. LiteLLM permette di collegare Presidio e di mascherare o bloccare per tipo di dato, con un’opzione per rimettere i valori sostituiti. Abbiamo confrontato queste strade in Cloudflare AI Gateway e i dati personali, in LiteLLM e i guardrail PII e in alternativa a Microsoft Presidio.

Un esempio: lo studio di commercialisti

Lo Studio Fontana, 22 persone a Bergamo, ha tre applicazioni che chiamano OpenAI: una scrive le risposte alle email dei clienti, una riassume le comunicazioni dell’Agenzia delle Entrate, una prepara le bozze delle lettere di sollecito. Mettono LiteLLM sul loro server per avere una chiave sola e un tetto di spesa per applicazione.

Una richiesta tipica contiene: «Gentile Sig.ra Elena Rinaldi, codice fiscale…, residente in via Verdi 14, risulta un debito di 3.420 euro». Con il solo gateway, quel testo arriva a OpenAI intero e finisce nei log interni. Con un proxy di privacy dietro al gateway, a OpenAI arriva qualcosa come «Gentile PERSONA_1, codice fiscale CODICE_FISCALE_1, residente in INDIRIZZO_1», e la lettera torna allo studio con il nome e l’indirizzo veri. L’importo resta, perché serve al modello per scrivere la lettera.

Nonimo Gateway, lo strato di privacy dentro casa

Nonimo Gateway è un proxy di privacy compatibile con OpenAI. Gira sui tuoi server. L’applicazione, o il tuo gateway, cambia solo il base_url.

Sostituisce i dati personali prima che la richiesta arrivi al modello e rimette i valori veri nella risposta. La corrispondenza resta sul tuo server. Riconosce i documenti e i numeri nazionali dei paesi serviti, codice fiscale compreso: il tema è lo stesso di come oscurare il codice fiscale prima di usare l’IA. Usi la tua chiave OpenAI, e se hai già LiteLLM c’è un plugin.

Piani e prezzi sono nella pagina di Nonimo Gateway.

Ti aiuta con la pseudonimizzazione nel senso dell’articolo 4, punto 5, del GDPR: i contratti con il fornitore del modello e la base giuridica restano tuoi. Se stai valutando di ospitare un modello in proprio, leggi LLM locale o proxy di privacy; per le strade da cui i dati escono nelle chiamate API, fuga di dati con l’IA.

Prima di scegliere il gateway

Se hai già un AI gateway, guarda oggi che cosa registra, dove e per quanto. Se lo stai per installare, decidi prima quali dati devono arrivare al modello e quali no. Vedi i piani di Nonimo Gateway e scrivici.

Fonti

Verificate il 20 ottobre 2026; il testo del GDPR riletto il 21 ottobre 2026.

• Regolamento (UE) 2016/679, testo italiano (EUR-Lex): la pseudonimizzazione all’articolo 4, punto 5; la minimizzazione all’articolo 5, paragrafo 1, lettera c; la protezione fin dalla progettazione all’articolo 25, paragrafo 1; il responsabile del trattamento e il contratto scritto all’articolo 28, paragrafi 1, 3 e 9.
• Comitato europeo per la protezione dei dati, AI Privacy Risks & Mitigations: Large Language Models, programma Support Pool of Experts, marzo 2025 (PDF): i log di monitoraggio che conservano dati personali (p. 25) e la segnalazione o anonimizzazione delle informazioni sensibili prima dell’elaborazione o della registrazione (p. 29). Il rapporto esprime le opinioni dell’autrice, non la posizione ufficiale del Comitato.
• Legge 23 settembre 2025, n. 132, art. 13 (Normattiva): l’informazione al cliente sui sistemi di intelligenza artificiale usati dal professionista.
• LiteLLM, documentazione (docs.litellm.ai): gateway self-hosted con chiavi virtuali e conteggio dei costi, risposte nel formato di OpenAI.
• LiteLLM, PII masking con Presidio (docs.litellm.ai): mascheramento o blocco per tipo di dato e l’opzione output_parse_pii.
• Cloudflare AI Gateway, configurare il DLP (developers.cloudflare.com): le azioni documentate, segnalare e bloccare.

---

Questa pagina ha finalità informative e non è un parere legale. I dettagli dei prodotti di terzi sono stati verificati sulle loro pagine ufficiali il 20 ottobre 2026 e possono cambiare.