LLM locale o proxy di privacy: ti serve un'IA privata?
· Scritto e aggiornato da Nonimo
Un LLM locale vale la spesa quando i dati non possono uscire dalla tua rete in nessuna forma, nemmeno pseudonimizzati, oppure quando devi lavorare offline o addestrare il modello sui tuoi documenti. In quasi tutti gli altri casi, per uno studio o una PMI basta continuare a usare l’API di un fornitore e togliere i dati personali dalla richiesta prima che parta.
Nonimo Gateway si installa sui tuoi server. Vedi i piani e scrivici.
La scelta non è fra «IA nel cloud, quindi rischiosa» e «IA privata, quindi sicura». È fra due modi diversi di distribuire il lavoro e la responsabilità. Questa guida mette in fila le domande che uno studio legale, un commercialista o una clinica dovrebbero farsi prima di comprare server con GPU.
Tre cose diverse che si vendono come IA privata
L’espressione «IA privata» copre almeno tre architetture. Il rapporto sui rischi dei modelli linguistici commissionato dal Comitato europeo per la protezione dei dati distingue tre modelli di servizio in modo simile.
- Modello come servizio. Chiami l’API di un fornitore. I dati passano dai suoi sistemi e il contratto decide che cosa può farne. Il rapporto lo dice chiaramente: questa strada è comoda ma richiede che i dati degli utenti transitino dai sistemi del fornitore.
- Modello pronto, ospitato da te. Scarichi un modello a pesi aperti, eventualmente lo adatti, e lo servi su macchine tue. È quello che quasi tutti chiamano LLM locale.
- Modello sviluppato in proprio. Sviluppi e addestri un modello tuo, sulla tua infrastruttura. Il rapporto osserva che può dare più privacy, ma richiede risorse di calcolo e competenze significative.
Esiste poi una quarta via, che non è un’architettura del modello: tenere l’API e mettere davanti uno strato che sostituisce i dati personali. Il modello resta del fornitore, le identità restano in casa.
Quanto costa davvero un LLM locale
Non diamo cifre, perché cambiano con il modello, il volume e il prezzo dell’hardware. Le voci, però, sono sempre le stesse.
| Voce | Che cosa comporta |
|---|---|
| Macchine | Server con GPU adatte al modello scelto, ridondanza se il servizio non può fermarsi, spazio e energia |
| Persone | Qualcuno che installi, aggiorni, monitori e metta in sicurezza il modello, non solo il server |
| Qualità | Prove sui tuoi testi in italiano: un modello aperto non rende sempre come quelli dei grandi fornitori |
| Aggiornamenti | Dipendi da chi ha pubblicato il modello per correzioni e nuove versioni |
| Responsabilità | Il trattamento è tutto tuo: log, accessi, conservazione, incidenti |
Su quest’ultimo punto il rapporto del Comitato è utile. Chi ospita un modello pronto diventa responsabile di integrazione, manutenzione e sicurezza, e spesso non sa che cosa contenevano i dati con cui il modello è stato addestrato. Se poi adatti il modello per offrirlo ad altri, i ruoli previsti dall’AI Act possono cambiare: il quadro è in AI Act e deployer.
Un LLM locale, infine, non spegne il GDPR. I prompt dei tuoi utenti restano dati personali, i log del server restano un archivio da proteggere e la sicurezza dell’articolo 32 resta un tuo obbligo.
Quando un LLM locale ha senso
Ci sono casi in cui ospitare il modello è la scelta giusta:
- Nessun dato può uscire, in nessuna forma. Contratti con la pubblica amministrazione o con clienti che escludono qualunque trattamento esterno, anche di testo pseudonimizzato.
- Lavoro senza rete. Ambienti isolati, laboratori, impianti.
- Addestramento sui tuoi documenti. Se vuoi adattare il modello ai tuoi archivi, ricorda che secondo il Comitato europeo, nel parere 28/2024, se un modello addestrato su dati personali possa dirsi anonimo lo valutano caso per caso le autorità di controllo.
- Volumi molto alti e stabili, che giustificano un investimento fisso e un team dedicato.
Se nessuna di queste frasi descrive il tuo studio, il costo di un LLM locale compra un’autonomia che probabilmente non ti serve.
Quando basta tenere l’API e pseudonimizzare
Per gran parte del lavoro di uno studio, il modello non ha bisogno di sapere chi è il cliente. Per riassumere un ricorso, rispondere a una email o leggere una fattura servono il contenuto e la struttura, non il nome e il codice fiscale.
Qui entra la pseudonimizzazione, che il GDPR definisce all’articolo 4, punto 5: dati che non si possono più attribuire a una persona senza informazioni aggiuntive, conservate separatamente e protette. L’articolo 25 la cita come misura di protezione fin dalla progettazione, l’articolo 32 come misura di sicurezza.
Attenzione a un punto che chiariamo anche in i dati pseudonimizzati sono dati personali?: per chi tiene la tabella dei segnaposto restano dati personali, e il contratto con il fornitore del modello serve ancora. Ma se quella tabella non lascia mai i tuoi server, al fornitore arriva un testo che da solo non dice chi sono i tuoi clienti.
Un esempio: il poliambulatorio
Il Poliambulatorio San Marco, a Padova, vuole che un modello prepari la lettera per il medico di base a partire dagli appunti della visita. Gli appunti contengono nome, data di nascita, tessera sanitaria e diagnosi: dati relativi alla salute, quindi categorie particolari dell’articolo 9 del GDPR, per cui il Codice privacy, all’articolo 2-septies, prevede anche le misure di garanzia stabilite dal Garante.
La direzione valuta un LLM locale e scopre che servono macchine nuove e almeno una persona dedicata. La seconda opzione: tenere l’API già contrattualizzata e far passare le richieste da un proxy di privacy. Il modello riceve «PERSONA_1, nata il DATA_1, riferisce dolore toracico da tre giorni» e restituisce la lettera, in cui il proxy rimette nome e data veri. La diagnosi resta nel testo, perché senza di essa la lettera non serve: per questo la valutazione dei rischi va fatta comunque. Il quadro sui referti è in referti medici e intelligenza artificiale.
Le domande da farsi prima di decidere
- Esiste un contratto o un obbligo che vieta di far uscire anche il testo pseudonimizzato?
- Il modello ha bisogno delle identità per fare il lavoro, o solo del contenuto?
- Chi, nel tuo studio o fra i tuoi fornitori, manterrà un modello fra un anno?
- Hai provato un modello aperto sui tuoi testi in italiano?
- Che cosa registri oggi delle richieste, e dove?
Nonimo Gateway: l’API, senza le identità
Nonimo Gateway è la quarta via, sui tuoi server. È compatibile con OpenAI: l’applicazione cambia il base_url e continua a usare la tua chiave. Sostituisce i dati personali prima della chiamata e rimette i valori veri nella risposta. Riconosce i documenti nazionali, codice fiscale compreso. C’è anche un plugin per LiteLLM.
Piani e prezzi sono nella pagina di Nonimo Gateway. Per le altre strade tecniche, dalle librerie ai guardrail dei gateway, c’è la nostra panoramica sui software di PII redaction e il confronto con Presidio.
Se il problema è più ampio della scelta del modello, parti da cos’è un AI gateway e da fuga di dati con l’IA.
Prima di comprare le GPU
Prova a togliere i dati personali dalle richieste che fai già e guarda che cosa resta da proteggere. Se resta poco, l’API ti basta. Vedi i piani di Nonimo Gateway e scrivici.
Fonti
Verificate il 20 ottobre 2026; il testo del GDPR e del Codice privacy riletto il 21 ottobre 2026.
- Regolamento (UE) 2016/679, testo italiano (EUR-Lex): il considerando 26 sui dati pseudonimizzati, la pseudonimizzazione all’articolo 4, punto 5, le categorie particolari all’articolo 9, la protezione fin dalla progettazione all’articolo 25, paragrafo 1, e la sicurezza all’articolo 32, paragrafo 1, lettera a.
- Codice in materia di protezione dei dati personali, D.Lgs. 196/2003, art. 2-septies (Normattiva): le misure di garanzia per i dati genetici, biometrici e relativi alla salute.
- Comitato europeo per la protezione dei dati, AI Privacy Risks & Mitigations: Large Language Models, programma Support Pool of Experts, marzo 2025 (PDF): i tre modelli di servizio e le risorse richieste da un modello sviluppato in proprio (p. 27); le responsabilità di chi ospita un modello pronto e la scarsa conoscenza dei dati di addestramento (p. 33). Il rapporto esprime le opinioni dell’autrice, non la posizione ufficiale del Comitato.
- Comitato europeo per la protezione dei dati, comunicato sul parere 28/2024, 18 dicembre 2024 (edpb.europa.eu): l’anonimato di un modello addestrato su dati personali va valutato caso per caso dalle autorità.
Questa pagina ha finalità informative e non è un parere legale.
Nonimo è il software che lo fa sul tuo computer: maschera i nomi dei clienti e i codici prima che il testo arrivi a ChatGPT. Senza account, e con l’app i dati dei tuoi clienti non escono dal tuo computer.
Domande frequenti
Che cos'è un LLM locale?
È un modello linguistico che gira su macchine tue, in sede o in un cloud che controlli, invece di essere chiamato tramite l'API di un fornitore. Di solito è un modello a pesi aperti scaricato e servito dal tuo team.
Un LLM locale risolve il problema del GDPR?
No, lo sposta. I dati non vanno più a un fornitore esterno, ma il trattamento resta tuo con tutti gli obblighi: sicurezza, log, tempi di conservazione, accessi. E in più devi mantenere il modello e le macchine.
Quanto costa un LLM locale?
Dipende dal modello e dal volume, e non esiste una cifra valida per tutti. Le voci sono sempre le stesse: server con GPU, energia, spazio, persone che sappiano installare, aggiornare e mettere in sicurezza il modello, e il tempo per valutare se risponde bene in italiano.
Cosa significa IA privata?
Non ha una definizione unica. Si usa per un modello ospitato in proprio, per un servizio cloud con un contratto che esclude l'addestramento sui tuoi dati, o per un'API usata dietro a uno strato che toglie i dati personali. Sono tre cose con rischi diversi.
I dati pseudonimizzati restano dati personali?
Sì, per chi conserva le informazioni che permettono di ricondurli alle persone, quindi per te che tieni la tabella dei segnaposto: lo dice il considerando 26 del GDPR. Se però quella tabella non lascia i tuoi server, al fornitore del modello arrivano solo segnaposto e l'esposizione si riduce molto.
Quando conviene davvero ospitare un modello in proprio?
Quando nessun dato, neppure pseudonimizzato, può uscire dalla tua rete, quando devi lavorare senza connessione o quando vuoi addestrare il modello sui tuoi documenti. In questi casi i costi di macchine e persone sono il prezzo dell'autonomia.