LLM local ou proxy de confidentialité : faut-il une IA privée ?
· Écrit et tenu à jour par Nonimo
Non, la plupart des cabinets et des PME n’ont pas besoin d’héberger leur propre modèle. Un LLM local se justifie quand aucune donnée ne doit sortir, même sous pseudonyme, ou quand vous avez déjà l’équipe pour l’exploiter. Dans les autres cas, garder l’API d’un grand fournisseur et remplacer les données personnelles avant l’envoi couvre l’essentiel du risque, pour une fraction de l’effort.
Nonimo Gateway s’installe sur vos propres serveurs. Voir les offres et nous écrire.
La vraie question n’est pas « cloud ou chez soi », mais « qu’est-ce qui sort, et vers qui ». Ce guide compare honnêtement les deux voies, avec ce que chacune coûte en matériel et en personnes, sans chiffres sortis d’un chapeau.
LLM local, IA privée : de quoi parle-t-on ?
Le terme « IA privée » recouvre plusieurs montages, qu’on confond souvent dans les discussions entre associés.
| Montage | Où tourne le modèle | Qui voit les requêtes |
|---|---|---|
| LLM local sur un poste | l’ordinateur de l’utilisateur | personne d’autre |
| LLM local sur vos serveurs | votre salle serveur ou votre infrastructure | votre équipe technique |
| Modèle dans un espace dédié | un hébergeur, sur des ressources réservées | vous et l’hébergeur |
| API publique avec proxy de confidentialité | chez le fournisseur du modèle | le fournisseur, mais sans les données personnelles remplacées |
Les deux premières lignes sont ce qu’on appelle un LLM local.
Ce que coûte vraiment un LLM local
On parle volontiers du prix des cartes graphiques. C’est la partie la plus visible, pas forcément la plus lourde.
Le matériel. Un modèle de langage utile tourne sur des processeurs graphiques, et plus le modèle est grand, plus il en faut. L’ANSSI, dans ses recommandations de sécurité pour un système d’IA générative, recommande de dédier ces composants GPU au système d’IA (R16) et de l’héberger dans un environnement de confiance cohérent avec vos besoins de sécurité (R11). Si vous passez par un cloud public, elle recommande de privilégier un hébergement qualifié SecNumCloud quand les données sont sensibles (R14).
Les personnes. Il faut quelqu’un pour choisir un modèle, le tester sur vos documents, suivre les nouvelles versions, surveiller le serveur et répondre quand il ne répond plus. Dans un cabinet de vingt personnes, ce profil n’existe généralement pas, et un prestataire qui le fournit devient un intervenant de plus avec accès aux données.
La qualité. Les modèles que l’on peut faire tourner chez soi ne sont pas ceux que proposent les API commerciales. Certains suffisent pour classer des courriels ou extraire des champs, d’autres décevront sur une note de synthèse juridique. Pour le savoir, il faut les tester sur vos propres cas, pas sur un classement publié.
La sécurité du système lui-même. Un modèle hébergé chez vous est un système d’IA que vous exploitez. Les recommandations de l’ANSSI, de la journalisation au cloisonnement, s’adressent alors à vous, et non plus à votre fournisseur.
Quand un LLM local se justifie
Héberger son modèle reste un choix rationnel dans plusieurs situations :
- Aucune donnée ne doit sortir, même pseudonymisée : secret de la défense, dossiers d’enquête, certaines expertises judiciaires.
- Vous devez fonctionner hors connexion, sur un site isolé ou dans un réseau coupé d’Internet.
- Les données de santé sont au cœur du traitement, et votre établissement dispose déjà d’un hébergement adapté. La CNIL rappelle, dans sa fiche sur le cloud, le recours à un hébergeur certifié HDS pour les données de santé, conformément à l’article L1111-8 du code de la santé publique.
- Vous voulez maîtriser précisément la version du modèle et la figer pendant des années pour un usage réglementé.
- Vous avez déjà l’équipe : un service informatique qui exploite des serveurs GPU et sait évaluer un modèle.
Quand garder l’API et pseudonymiser suffit
Pour la majorité des usages d’un cabinet d’avocats, d’un cabinet d’expertise comptable ou d’une PME, le problème n’est pas le modèle, c’est le nom du client, son adresse, son NIR ou son IBAN dans la requête. Si ces données sont remplacées avant l’envoi, le fournisseur reçoit un texte où les personnes ne sont plus nommées, et pour résumer ou rédiger, le modèle n’a généralement pas besoin du vrai nom.
Le RGPD cite expressément la pseudonymisation parmi les mesures attendues, à l’article 25 sur la protection des données dès la conception et à l’article 32 sur la sécurité. Mais l’article 4, point 5, rappelle que des données pseudonymisées peuvent encore être rattachées à une personne grâce à des informations conservées à part. Elles restent donc personnelles : le contrat de sous-traitance avec le fournisseur, le registre et les durées de conservation restent nécessaires. Notre guide pour anonymiser un document avant une IA détaille cette différence, et notre guide sur les données sensibles montre où elles se cachent dans un dossier.
| Critère | API directe | API et proxy de confidentialité | LLM local |
|---|---|---|---|
| Données personnelles chez le fournisseur | en clair | remplacées avant l’envoi | aucune, pas de fournisseur |
| Matériel GPU à acheter ou louer | non | non | oui |
| Compétences à recruter | peu | peu | exploitation et évaluation de modèles |
| Qualité des réponses | celle du modèle commercial | celle du modèle commercial | celle du modèle que vous pouvez faire tourner |
| Contrat avec le fournisseur | nécessaire | nécessaire | sans objet pour le modèle |
Un exemple : un cabinet d’expertise comptable à Nantes
Le cabinet Guérin Le Goff compte 25 collaborateurs. Il veut une application interne qui résume les courriels des clients et prépare les lettres de relance pour les pièces manquantes. Les textes contiennent des noms, des numéros SIREN, des IBAN, parfois un NIR glissé dans une attestation.
Première piste étudiée : un LLM local. Il faudrait un serveur GPU, une salle qui l’accueille, et un prestataire pour l’installer, le mettre à jour et le surveiller. Personne au cabinet ne sait juger si un modèle ouvert rédige une relance correcte en français administratif.
Seconde piste : garder l’API déjà utilisée, ajouter devant un proxy qui remplace noms, IBAN et NIR avant l’envoi, puis remet les vraies valeurs dans la lettre. Le fournisseur reçoit, par exemple, « Madame CLIENT_1, il nous manque le relevé du compte IBAN_1 ». Le collaborateur lit la lettre avec le vrai nom. Le cabinet garde un seul contrat à encadrer et aucun matériel à exploiter.
Nonimo Gateway, pour garder l’API sans les noms
Nonimo Gateway est un proxy privé qui s’installe sur vos propres serveurs. Il expose une API compatible OpenAI, vous changez base_url, et il remplace les données personnelles avant que la requête ne parte, puis remet les vraies valeurs dans la réponse. Il reconnaît les documents et numéros nationaux de chaque pays servi, dont le NIR, et vous utilisez votre propre clé OpenAI. Un plugin est aussi disponible pour LiteLLM.
Les offres et les prix sont sur la page de Nonimo Gateway.
Pour situer ce choix parmi les outils existants, voyez notre panorama des logiciels de masquage des données personnelles et notre comparaison avec Presidio. Si vous avez déjà un gateway en place, notre guide sur l’AI gateway explique où le proxy s’insère, et notre guide sur la fuite de données avec l’IA recense ce qui peut sortir en dehors du prompt.
Avant d’acheter un serveur GPU
Posez d’abord la question des données, pas du modèle. Si ce qui vous inquiète est le nom des clients dans les requêtes, un LLM local est une réponse coûteuse à un problème qu’un proxy règle. Si rien ne doit sortir, même sous pseudonyme, le LLM local est la bonne voie, et il mérite un vrai budget humain. Voyez les offres de Nonimo Gateway et écrivez-nous avant de trancher.
Sources
Sources vérifiées le 20 octobre 2026.
- CNIL, RGPD, chapitre 1, article 4 : la définition de la pseudonymisation au point 5.
- CNIL, RGPD, chapitre 4 : la pseudonymisation dans la protection des données dès la conception (article 25), les garanties exigées du sous-traitant (article 28) et la pseudonymisation parmi les mesures de sécurité (article 32).
- ANSSI, Recommandations de sécurité pour un système d’IA générative, version 1.0 du 29 avril 2024 : l’hébergement dans un environnement de confiance (R11), l’hébergement SecNumCloud en cloud public pour les données sensibles (R14), les composants GPU dédiés (R16), et la liste des trente-cinq recommandations, de la conception à l’exploitation.
- CNIL, Sécurité : Cloud, informatique en nuage : le recours à un hébergeur certifié HDS pour les données de santé, au titre de l’article L1111-8 du code de la santé publique, et la qualification SecNumCloud pour les données d’une sensibilité particulière.
Nonimo masque, sur votre propre ordinateur, les noms de clients et les identifiants avant que votre texte n’arrive à ChatGPT. Sans compte, et l’application fait ce travail sans que les données de vos clients quittent votre machine.
Questions fréquentes
Qu'est-ce qu'un LLM local ?
Un LLM local est un modèle de langage qui tourne sur votre propre matériel, poste de travail ou serveur, au lieu d'être appelé par l'API d'un fournisseur. Les requêtes ne quittent pas votre infrastructure, mais vous prenez en charge le matériel, les mises à jour et la sécurité du modèle.
Une IA privée est-elle forcément un LLM local ?
Non. On parle d'IA privée pour un modèle hébergé chez vous, pour un modèle déployé dans un espace dédié chez un hébergeur, ou pour une API publique dont les requêtes sont nettoyées avant l'envoi. Ce qui compte est de savoir quelles données sortent, et vers qui.
Quand faut-il héberger son propre modèle ?
Quand aucune donnée ne doit sortir, même pseudonymisée, ou quand vous devez fonctionner sans connexion. C'est aussi un choix défendable si vous avez déjà une équipe capable d'exploiter des serveurs GPU et d'évaluer des modèles dans la durée.
Que coûte un LLM local, en dehors du matériel ?
Surtout du temps de personnes compétentes. Il faut choisir un modèle, le tester sur vos cas réels, le mettre à jour, surveiller le serveur et appliquer les mesures de sécurité qu'on attend de tout système d'IA. Ces tâches ne disparaissent pas après l'installation.
Pseudonymiser avant l'API suffit-il pour le RGPD ?
Cela réduit ce qui sort, sans clore la question. Des données pseudonymisées restent des données personnelles au sens de l'article 4 du RGPD, donc le contrat avec le fournisseur, le registre et les durées de conservation restent nécessaires.
Une clinique peut-elle envoyer des données de santé à une API d'IA ?
Pas sans précautions lourdes. Les données de santé sont une catégorie particulière au sens du RGPD, et la CNIL renvoie, pour leur hébergement par un tiers, à un hébergeur certifié HDS. Retirer l'identité du patient avant l'envoi limite ce qui part, sans dispenser de cette analyse.