[nonimo]
DE
App herunterladen

Nonimo Gateway auf Ihrem Server

Sagen Sie Ja zur KI, ohne dass auch nur eine personenbezogene Angabe Ihr Netzwerk verlässt.

Nonimo Gateway maskiert personenbezogene Daten auf Ihren eigenen Servern, bevor ein Aufruf an die KI hinausgeht, und setzt sie in der Antwort wieder ein. Es läuft als Container vor der OpenAI-API, und am Code Ihrer Dienste ändert sich nichts außer der base_url.

  • Auf Ihren eigenen Servern
  • Ihre Inhalte laufen nicht über Nonimo
  • Steuer-ID, SV-Nummer, IBAN und Kennnummern weiterer Länder
POST /v1/chat/completions
  1. Aus Ihrem internen Chatbot

    Fasse die Akte von Lena Schneider zusammen und schreibe an lena.schneider@example.com.

  2. Beim Anbieter in Ihrem Netzwerk maskiert

    Fasse die Akte von [PERSON_1] zusammen und schreibe an [E-MAIL_1].

  3. Der Anbieter antwortet

    Guten Tag [PERSON_1], wir haben Ihre Akte geprüft, sie ist vollständig.

  4. Zurück an Ihren Dienst echte Daten

    Guten Tag Lena Schneider, wir haben Ihre Akte geprüft, sie ist vollständig.

Beispiel mit erfundenen Daten. Über das Gateway laufen die API-Aufrufe Ihrer Dienste an die KI; ChatGPT im Browser nicht (dafür gibt es Nonimo für Organisationen).

Inbetriebnahme

Datenmaskierung und Pseudonymisierung in drei Schritten

Ohne Eingriff in den Code Ihrer Dienste: ein Container auf Ihrem Server und eine neue base_url.

  1. Ein Container im eigenen Rechenzentrum oder in Ihrer Cloud.

    Technische Details

    Er läuft auf Ihren Servern oder in Ihrem Cloud-Konto, neben Ihren Diensten, und mehrere Instanzen können parallel laufen.

  2. Ihr Code spricht weiter die OpenAI-API. Nur die Adresse ändert sich.

    Technische Details

    Das Gateway spricht die OpenAI-API. Ihre Dienste zeigen auf das Gateway und rufen weiter /v1/chat/completions oder /v1/responses auf, inklusive Function Calling. Ziel kann OpenAI oder jede kompatible API sein.

  3. Die Daten gehen als Platzhalter hinaus und kommen in der Antwort echt zurück.

    Technische Details

    Jede Anfrage wird geprüft, bevor sie zu Ihrem Anbieter geht: Personenbezogene Daten werden durch Platzhalter ersetzt, und in der Antwort erhält jeder Platzhalter seinen Wert zurück. Die KI-Anfragen Ihrer Dienste laufen über das Gateway, bevor sie Ihr Netzwerk verlassen.

Das offizielle OpenAI-SDK funktioniert unverändert; Sie richten den Client nur auf das Gateway aus:

Python
from openai import OpenAI

# Derselbe Client, derselbe Schlüssel: nur base_url ändert sich
client = OpenAI(base_url="http://ihr-server:8080/v1")
resp = client.chat.completions.create(
    model="gpt-4o",
    messages=[{"role": "user", "content": "Fasse die Akte von Lena Schneider zusammen."}],
)
Node
import OpenAI from "openai";

// Derselbe Client, derselbe Schlüssel: nur baseURL ändert sich
const client = new OpenAI({ baseURL: "http://ihr-server:8080/v1" });
const resp = await client.chat.completions.create({
  model: "gpt-4o",
  messages: [{ role: "user", content: "Fasse die Akte von Lena Schneider zusammen." }],
});
curl
# Dieselbe Anfrage wie immer, nur gegen Ihren Server
curl http://ihr-server:8080/v1/chat/completions \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o",
    "messages": [{"role": "user", "content": "Fasse die Akte von Lena Schneider zusammen."}]
  }'

Echte Daten zurück

Die Antwort kommt mit den echten Daten zurück

Ihr Anbieter sieht nur Platzhalter. Ihr Dienst erhält die Antwort mit den echten Daten, jede an ihrer Stelle.

chatbot.example.com

Interner Chatbot

Fasse das Ticket zusammen, das Jonas Weber[PERSON_1] (jonas.weber@example.com[E-MAIL_1]) angelegt hat.

Antwort

Das Ticket von Jonas Weber[PERSON_1] betrifft ein VPN-Problem, das seit Montag besteht. Ich schicke an jonas.weber@example.com[E-MAIL_1] eine Anleitung, wie er sich wieder verbinden kann.

Platzhalter aufgelöst: 2 von 2 Gesendete personenbezogene Daten: 0

Kundenservice

Schreibe eine E-Mail an Sabine Hoffmann[PERSON_1] (sabine.hoffmann@example.com[E-MAIL_1]), dass ihre Unterlagen eingegangen sind.

Antwort

Guten Tag Sabine Hoffmann[PERSON_1], wir bestätigen den Eingang Ihrer Unterlagen. Sobald alles bearbeitet ist, melden wir uns unter sabine.hoffmann@example.com[E-MAIL_1].

Platzhalter aufgelöst: 2 von 2 Gesendete personenbezogene Daten: 0

Agent mit Tools

Prüfe den Stand des Antrags von Thomas Wagner[PERSON_1], Steuer-ID 12 345 678 901[STEUER_ID_1].

Das Modell ruft eine Funktion auf

antrag_suchen({ "antragsteller": "Thomas Wagner[PERSON_1]", "steuer_id": "12 345 678 901[STEUER_ID_1]" })

Ihr Tool erhält den echten Wert; der Anbieter hat nur den Platzhalter gesehen.

Platzhalter aufgelöst: 2 von 2 Gesendete personenbezogene Daten: 0

HR

Bereite das Willkommensschreiben für Julia Fischer[PERSON_1] vor; ihr Gehalt geht auf das Konto DE00 0000 0000 0000 0000 00[IBAN_1].

Antwort

Liebe Julia Fischer[PERSON_1], herzlich willkommen im Team. Ihr Gehalt überweisen wir auf das Konto DE00 0000 0000 0000 0000 00[IBAN_1].

Platzhalter aufgelöst: 2 von 2 Gesendete personenbezogene Daten: 0
  • Jede Angabe, ihr PlatzhalterEs schreibt nichts um und fasst nichts zusammen, und jede Angabe behält im ganzen Gespräch ihren Platzhalter.
  • Die Erkennung läuft in Ihrem NetzwerkFür die Erkennung verlassen die Daten Ihr Netzwerk nicht.
  • Function CallingIhre Tools erhalten die JSON-Argumente mit dem echten Wert.

Für Ihren Datenschutzbeauftragten: Das ist Pseudonymisierung im Sinne von Art. 4 Nr. 5 DSGVO, und die Zuordnung zu den echten Daten bleibt in Ihrer Infrastruktur. Was DSGVO und BDSG dazu sagen, steht in den Fragen.

Den Unterschied zwischen Pseudonymisierung und Anonymisierung erklären wir im Leitfaden Pseudonymisierung vs. Anonymisierung: was die KI sehen darf.

Technische Details

Die Erkennung läuft in Ihrem Netzwerk: Die Daten verlassen es dafür nicht. Es schreibt nichts um und fasst nichts zusammen, sondern markiert nur, was eine personenbezogene Angabe ist, und innerhalb eines Gesprächs behält jede Angabe von Anfang bis Ende ihren Platzhalter. Bei Tool-Aufrufen maskiert es die Textwerte in den Argumenten, ohne deren Struktur zu verändern, und wenn das Modell eine Funktion aufrufen will, setzt es die echten Werte ein, damit Ihr Tool mit den richtigen Daten arbeitet.

Was an OpenAI geht

Schreibe eine E-Mail an [PERSON_1] ([E-MAIL_1]), dass ihre Unterlagen eingegangen sind.

Was Ihr Dienst erhält

Guten Tag Sabine Hoffmann, wir bestätigen den Eingang Ihrer Unterlagen. Sobald alles bearbeitet ist, melden wir uns unter sabine.hoffmann@example.com.

Landesspezifische Kennnummern

Datenmaskierung für landesspezifische Kennnummern, von der Steuer-ID bis zum Codice fiscale

Jede Kennnummer in ihrem eigenen Format. Wählen Sie ein Land und sehen Sie, was bei der KI ankommt.

Außerdem erkannt · Deutschland

  • NameErika Mustermann[PERSON_1]
  • Telefon+49 30 0000000[TELEFON_1]
  • IBANDE00 0000 0000 0000 0000 00[IBAN_1]
  • AdresseMusterstraße 1, 10115 Berlin[ADRESSE_1]
  • E-Mailerika@example.com[E-MAIL_1]

In allen Ländern

  • API-Schlüssel[API_SCHLUESSEL_1]
  • Kartennummern[KARTE_1]
  • Reisepässe (MRZ)[PASSNUMMER_1]
Ihr Dienst → Gateway → api.openai.com
  • Steuer-ID[STEUER_ID_1]
  • SV-Nummer[SV_NUMMER_1]

Ihr Dienst sendet

Bereite das Schreiben an Jonas Weber vor, Steuer-ID 12 345 678 901.

Die KI erhält

Bereite das Schreiben an [PERSON_1] vor, Steuer-ID [STEUER_ID_1].

Erfundene Daten und ungültige Beispielnummern.

Vollständige Tabelle der Kennnummern nach Land

Das Gateway erkennt die üblichen personenbezogenen Angaben (Namen, E-Mail-Adressen, Telefonnummern, Adressen, API-Schlüssel) und zusätzlich landesspezifische Kennnummern in ihrem eigenen Format. Dazu kommen IBAN, Kartennummern und die maschinenlesbare Zone (MRZ) von Reisepässen.

LandKennnummern
DeutschlandSteuer-ID, Sozialversicherungsnummer
FrankreichNIR (numéro de sécurité sociale), SIREN, SIRET
ItalienCodice fiscale, partita IVA, carta d’identità elettronica (CIE), tessera sanitaria
SpanienDNI, NIE, NIF, Sozialversicherungsnummer (NUSS)
PortugalNIF, NISS
BrasilienCPF, CNPJ, CNH (Führerschein)
Vereinigtes KönigreichNational Insurance number, NHS number
IrlandPPS number
AustralienTFN, Medicare
USASocial Security number
In allen LändernIBAN, Reisepässe (maschinenlesbare Zone), Kartennummern

Im Vergleich zu Presidio

Sie prüfen gerade Presidio? Nonimo Gateway ist sofort einsatzbereit

Presidio erkennt personenbezogene Daten in einem Text. Den OpenAI-kompatiblen Proxy, der es vor die API setzt, baut Ihr Team; bei Nonimo Gateway ist er schon dabei.

Für Ihr Team: 6 von 8 Aufgaben Für Ihr Team: base_url auf das Gateway richten
Was jede Option mitbringt und was Ihr Team selbst bauen muss
Aufgabe Selbst bauen mit Presidio Mit Nonimo Gateway
Personenbezogene Daten im Text erkennen Bringt Presidio mit Enthalten
OpenAI-kompatibler Proxy Bauen Sie selbst Fertig dabei
Vor Ihren KI-Anbieter schalten Binden Sie selbst an base_url ändern
Echte Daten in die Antwort zurücksetzen Bauen Sie selbst Fertig dabei
Landesspezifische Kennnummern Recognizer auswählen und anpassen Die aus der Tabelle oben
Texte auf Deutsch und in anderen Sprachen Konfigurieren Sie selbst Fertig dabei
Auf dem aktuellen Stand halten Ihr Team Neue Versionen von uns
Wo es läuft In Ihrer Infrastruktur Ein Container auf Ihrem Server

Der vollständige Vergleich, Zeile für Zeile: Alternative zu Microsoft Presidio →

Technische Details

Presidio erkennt personenbezogene Daten in einem Text, bringt aber keinen OpenAI-kompatiblen Proxy mit: Um es vor die API zu setzen, muss Ihr Team ihn bauen, anbinden und pflegen.

Nonimo Gateway liefert das fertig: einen Container auf Ihrem eigenen Server, eine OpenAI-kompatible API, die echten Daten in der Antwort zurück und die landesspezifischen Kennnummern aus der Tabelle oben.

Auf Ihrem Server

Unter Ihrer Kontrolle, in Ihrem eigenen Netzwerk

Sie bleiben bei Ihrem KI-Anbieter, und das Gateway ist ein weiterer Baustein in Ihrem Perimeter.

LiteLLM

Sie setzen schon LiteLLM ein? Schalten Sie Nonimo als Guardrail dazu

Wenn Ihre Plattform die Aufrufe schon über LiteLLM leitet, lässt sich Nonimo auf zwei Arten einbinden. Wählen Sie, was Sie brauchen.

Guardrail in LiteLLM

  1. Ihre Dienste
  2. LiteLLM
  3. Nonimo
  4. Das Modell

Hin Prüfe die Akte von [PERSON_1]

Zurück Die Antwort kommt mit den Platzhaltern: [PERSON_1]

  • Personenbezogene Daten gehen maskiert hinaus, bevor sie das Modell erreichen
  • Aktiviert in der LiteLLM-Konfiguration
  • Die echten Werte werden in der Antwort nicht wieder eingesetzt
Sie brauchen sie? Nutzen Sie den Proxy-Modus →

Gateway im Proxy-Modus

  1. Ihre Dienste
  2. Nonimo Gateway
  3. Ihr KI-Anbieter

Hin Prüfe die Akte von [PERSON_1]

Zurück Die Antwort kommt mit den echten Werten: Lena Schneider

  • Personenbezogene Daten gehen maskiert hinaus, bevor sie das Modell erreichen
  • Die Antwort kommt mit den echten Werten zurück
Technische Details

Sie setzen schon LiteLLM ein? Dann schalten Sie Nonimo als Guardrail dazu, oder als Proxy vor Ihren Anbieter, wenn die Antwort mit den echten Daten zurückkommen soll.

Tarife

Tarife von Nonimo Gateway für die Datenmaskierung auf Ihrem Server

Alle Tarife können Sie 30 Tage lang testen. Überschreiten Sie das Volumen Ihres Tarifs, weist das Gateway Sie darauf hin, und der Dienst läuft weiter.

600 Personen

Unsere Empfehlung Nonimo Gateway Business, 490 €/Monat

Kanzlei

Für den Einstieg

Für Kanzleien, Praxen und Teams, die mit KI starten

Nonimo Gateway Kanzlei 290 €/Monat Nonimo Gateway Kanzlei oder 2.900 € im Jahr

Bis zu 25 Millionen Wörter pro Monat Teams bis etwa 200 Personen
  • 1 Instanz
  • Support per E-Mail
Zugang anfragen

Business

Für Unternehmen mit mehreren Teams und mehr Volumen

Nonimo Gateway Business 490 €/Monat Nonimo Gateway Business oder 4.900 € im Jahr

Bis zu 150 Millionen Wörter pro Monat Teams bis etwa 1.000 Personen
  • Bis zu 3 Instanzen
  • Offline-Modus auf Anfrage
  • Priorisierter Support
Zugang anfragen

Enterprise

Für Konzerne mit eigenen Anforderungen an Betrieb und Vertrag

Preis auf Anfrage

Unbegrenzt viele Wörter Mehr als 1.000 Personen
  • Beliebig viele Instanzen
  • Offline-Modus auf Anfrage
  • Eigener Vertrag und eigene Konditionen
Sprechen Sie mit uns
Für wie viele Personen reicht jeder Tarif?

Nach unserer Schätzung: Der Kanzlei-Tarif umfasst 25 Millionen Wörter pro Monat und reicht damit für Teams bis etwa 200 Personen. Der Business-Tarif umfasst 150 Millionen Wörter für Teams bis etwa 1.000 Personen. Der Enterprise-Tarif hat keine Obergrenze und ist für mehr als 1.000 Personen oder mehrere Standorte gedacht. Sollten Sie das Volumen einmal überschreiten, weisen wir Sie darauf hin, und der Dienst läuft weiter.

Zugang

Fragen Sie Zugang zu Nonimo Gateway an

Schreiben Sie uns kurz, was Sie heute einsetzen. Wir melden uns, damit Sie das Gateway auf Ihrem eigenen Server testen können.

Welche KI nutzt Ihr Team heute? (alles Zutreffende ankreuzen)

Wir nutzen diese Angaben nur, um uns wegen Nonimo Gateway bei Ihnen zu melden. Datenschutzerklärung.

Fragen

Häufige Fragen

Was IT-Leitung, IT-Sicherheit und Datenschutzbeauftragte fragen, bevor sie das Gateway einführen.

Was es kann und abdeckt

Welche Schnittstellen werden unterstützt?

OpenAI und jede OpenAI-kompatible API, über Chat Completions und Responses, mit Function Calling.

Was sieht der KI-Anbieter?

Ihre Anfrage, in der jede personenbezogene Angabe durch einen Platzhalter wie [PERSON_1] oder [STEUER_ID_1] ersetzt ist. Pro Datentyp und Richtung legen Sie fest: maskieren, blockieren (die Anfrage geht nicht hinaus, und der Fehler nennt die Kategorie, nicht den Wert) oder nur warnen (sie geht unverändert hinaus und wird gezählt). Eigene feste Begriffe, etwa Aktenzeichen, können Sie ergänzen.

Bremst das Gateway die Antworten aus?

Die Erkennung läuft lokal in Ihrem Netzwerk, ohne Umweg über externe Dienste.

Ist das Anonymisierung oder Pseudonymisierung?

Pseudonymisierung, und genau die brauchen Sie, wenn die Antwort vollständig zurückkommen soll. Anonymisierte Daten lassen sich keiner Person mehr zuordnen. Die Datenmaskierung des Gateways ersetzt die Angaben durch Platzhalter und setzt sie in der Antwort wieder ein. Wer „Daten anonymisieren“ sucht, um KI zu nutzen, meint meistens genau das.

Für wie viele Personen reicht jeder Tarif?

Nach unserer Schätzung: Der Kanzlei-Tarif umfasst 25 Millionen Wörter pro Monat und reicht damit für Teams bis etwa 200 Personen. Der Business-Tarif umfasst 150 Millionen Wörter für Teams bis etwa 1.000 Personen. Der Enterprise-Tarif hat keine Obergrenze und ist für mehr als 1.000 Personen oder mehrere Standorte gedacht. Sollten Sie das Volumen einmal überschreiten, weisen wir Sie darauf hin, und der Dienst läuft weiter.

Sicherheit und Datenschutz

Was passiert, wenn etwas ausfällt?

Standardmäßig geht die Anfrage nicht hinaus, und Ihre Anwendung erhält einen eindeutigen Fehler.

Verbindet sich das Gateway mit Nonimo?

Nur für die Lizenz und für Nutzungszahlen, nicht für Inhalte. Darf Ihr Netzwerk Nonimo nicht erreichen, gibt es in den Tarifen Business und Enterprise auf Anfrage einen Offline-Modus. Schreiben Sie uns an hello@nonimo.ai, und wir stimmen die Konditionen mit Ihnen ab.

Hilft das Gateway bei DSGVO und BDSG?

Es hilft, weniger personenbezogene Daten an Ihren KI-Anbieter zu geben, und zwar mit einer Maßnahme, die das Gesetz selbst nennt: Art. 4 Nr. 5 DSGVO definiert die Pseudonymisierung, Art. 25 Abs. 1 und Art. 32 Abs. 1 lit. a führen sie als Schutzmaßnahme auf, und § 22 Abs. 2 Satz 2 Nr. 6 BDSG nennt sie bei besonderen Kategorien personenbezogener Daten. Die Zuordnung bleibt in Ihrer Infrastruktur. Für Sie bleiben die Daten personenbezogen, die DSGVO gilt also weiter. Das Gateway ersetzt weder Ihre Risikobewertung bzw. Datenschutz-Folgenabschätzung noch den Auftragsverarbeitungsvertrag mit dem Anbieter, aber es gelangen weniger personenbezogene Daten in die Hände Dritter.

Bereitstellung und Lizenz

Wie wird das Gateway bereitgestellt?

Sie brauchen einen Server oder einen Cluster, auf dem Container laufen, im eigenen Rechenzentrum oder in Ihrer Cloud. Das Gateway läuft neben Ihren Diensten, und mehrere Instanzen sind möglich.

Wie ist die Lizenz aufgebaut?

Eine signierte Lizenz pro Instanz, die sich im Online-Betrieb automatisch verlängert. Überschreiten Sie das Volumen Ihres Tarifs, weist das Gateway Sie darauf hin, und der Dienst läuft weiter.

Aktualisiert sich das Gateway automatisch?

Nein. Das Gateway meldet, sobald eine neue Version verfügbar ist, und Ihr IT-Team spielt sie ein, wann es möchte.

Leitfäden

Weiterlesen

Leitfäden zu LLM-Gateways, Datenschutz-Proxys und dazu, wie personenbezogene Daten aus Ihren KI-Aufrufen herausbleiben.

Jetzt starten

Testen Sie die Pseudonymisierung auf Ihrem eigenen Server

Fragen Sie Zugang an, installieren Sie den Container neben Ihren Diensten und prüfen Sie mit Ihrem eigenen Traffic, dass personenbezogene Daten nur als Platzhalter bei der KI ankommen. Für die KI, die Ihr Team im Browser nutzt, gibt es Nonimo für Organisationen.

Tools

Alle Tools von Nonimo auf einen Blick. Schwärzen Sie Dateien, Texte und Ausweiskopien in einer Minute, bevor Sie sie weitergeben. Ohne Anmeldung.

Alle Tools →