Welche KI ist DSGVO-konform? So nutzen Sie sie im Unternehmen

„DSGVO-konform“ steht inzwischen auf fast jeder Seite, die ein KI-Werkzeug verkauft. In der Datenschutz-Grundverordnung (DSGVO) kommt das Wort nicht vor. Sie fragt, was Ihr Unternehmen mit personenbezogenen Daten tut, und nicht, welches Programm es dafür gekauft hat.

Deshalb geht es hier um die deutschen Pflichten, die beim Einsatz bei Ihnen landen: Verantwortung, AVV, Übermittlung in die USA, Folgenabschätzung, Betriebsrat und die Eingaben selbst. Was die einzelnen Anbieter zusagen, steht ausführlich in unseren Leitfäden.

DSGVO-konforme KI-Tools: warum kein Siegel Sie entlastet

Verantwortlicher ist nach Art. 4 Nr. 7 DSGVO, wer über Zwecke und Mittel der Verarbeitung entscheidet. Lässt Ihre Buchhaltung Mahnschreiben von einer KI formulieren, sind das Sie. Der Anbieter verarbeitet in Ihrem Auftrag und ist damit Auftragsverarbeiter nach Nr. 8.

Ein amtliches Gütesiegel für Software gibt es nicht. Art. 42 DSGVO kennt Zertifizierungen, doch sie beziehen sich auf Verarbeitungsvorgänge, und Absatz 4 hält fest: Eine Zertifizierung mindert nicht die Verantwortung des Verantwortlichen. Auch ein echtes Zertifikat nimmt Ihnen die Prüfung also nicht ab.

Lese ich „DSGVO-konform“ in einer Anzeige, übersetze ich es mir so: Es gibt einen AVV und Server in Europa. Ein guter Anfang, der zwei von sieben Fragen beantwortet. Was so ein Vertrag bei OpenAI abdeckt, zeigt ChatGPT und Datenschutz.

KI DSGVO-konform einsetzen: die Pflichten aus der DSK-Orientierungshilfe

Die Datenschutzkonferenz (DSK), in der sich die Aufsichtsbehörden von Bund und Ländern abstimmen, hat am 6. Mai 2024 die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ veröffentlicht. Sie ist nach Auswahl, Implementierung und Nutzung gegliedert und taugt als Prüfraster für jedes Werkzeug.

Drei Sätze daraus tragen den Rest. Jeder Verarbeitungsschritt mit personenbezogenen Daten braucht eine Rechtsgrundlage (Abschnitt 1.5). Interne Weisungen sollen festlegen, welche Anwendung wofür erlaubt ist, am besten mit Beispielen (2.2). Und Arbeitgeber sollen dienstliche Geräte und Konten stellen (2.4).

Die Weisung aus 2.2 halte ich für das nützlichste Blatt Papier im ganzen Thema, weil sie die anderen Pflichten sortiert. Wie sie für ein Büro aussehen kann, zeigt unsere Muster-KI-Richtlinie. Welche Pflichten Ihr Einsatz auslöst, klären drei Fragen.

Auftragsverarbeitungsvertrag: was im AVV für KI-Dienste stehen muss

Setzt ein Unternehmen die KI-Anwendung eines externen Anbieters zu eigenen Zwecken ein, handelt der Anbieter nach der DSK als „verlängerter Arm“. Dann ist häufig eine Vereinbarung nach Art. 28 Abs. 3 DSGVO abzuschließen, im Büroalltag kurz AVV genannt.

Der AVV hängt am Tarif, nicht an der Marke. Private Konten haben keinen. Selbst bei DeepL Pro verweist die Datenschutzerklärung für den Abschluss auf eine eigene Datenschutzadresse.

Zwei Buchstaben lese ich doppelt: a, weil dort auch die Übermittlung in Drittländer an Ihre Weisung gebunden ist, und d, weil hinter den Unterauftragsverarbeitern die Rechenzentren stecken. Genau das fragen Kunden ab, siehe KI-Fragen im Fragebogen.

Drittlandübermittlung: Data Privacy Framework, Klauseln und EU-Server

Bei offenen Cloud-Systemen sind Übermittlungen in Drittstaaten nach der DSK häufig, und dann gilt Kapitel V der DSGVO. Zulässig sind sie vor allem über einen Angemessenheitsbeschluss (Art. 45) oder Garantien wie Standardvertragsklauseln (Art. 46). Wer ein Modell auf eigener Hardware betreibt, hat die Frage nicht.

Für die USA gilt der Durchführungsbeschluss (EU) 2023/1795 vom 10. Juli 2023, der Datenschutzrahmen EU-USA. Er erfasst nur Organisationen, die auf der „Data Privacy Framework List“ des US-Handelsministeriums stehen. Prüfen Sie dort genau Ihren Vertragspartner, nicht bloß den Konzernnamen.

Das Gericht der EU hat die Klage gegen den Beschluss am 3. September 2025 abgewiesen (T-553/23). Am 31. Oktober 2025 wurde Rechtsmittel zum Gerichtshof eingelegt (C-703/25 P). Ich würde deshalb im Verzeichnis die Standardvertragsklauseln als zweite Stütze mitnotieren, wo der Anbieter sie anbietet.

Ist ChatGPT DSGVO-konform? Privatkonto und Firmenkonto im Vergleich

Nur 26 Prozent der Unternehmen ab 20 Beschäftigten stellen ihren Leuten Zugang zu generativer KI bereit. Zugleich wissen oder vermuten rund 4 von 10, dass Beschäftigte private KI-Konten für die Arbeit nutzen. So steht es in einer Bitkom-Befragung von 604 Unternehmen vom 21. Oktober 2025.

Bei den fünf Werkzeugen unten wiederholt sich ein Muster. Im kostenlosen oder privaten Konto fehlt der AVV, und Eingaben können ins Training gehen. Im Firmentarif gibt es den Vertrag, und das Training mit Ihren Eingaben ist ausgeschlossen oder eingeschränkt.

Ein privates ChatGPT-Konto lässt sich im Betrieb aus meiner Sicht nicht sauber begründen, auch mit abgeschaltetem Training. Wer es übergangsweise duldet, sollte wenigstens wissen, wie man den Verlauf löscht.

Datenschutz-Folgenabschätzung bei KI: wann sie Pflicht wird

Art. 35 DSGVO verlangt eine Folgenabschätzung, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Betroffenen hat. Die DSK schreibt in Abschnitt 2.3, beim Einsatz von KI werde das „vielfach“ der Fall sein. Die Vorabprüfung, ob es so ist, schulden Sie immer.

Konkreter wird die Muss-Liste der Aufsichtsbehörden für den nichtöffentlichen Bereich vom 17. Oktober 2018. Nummer 11 nennt KI, die die Interaktion mit Betroffenen steuert oder persönliche Aspekte bewertet. Als Beispiele stehen dort ein Callcenter, das die Stimmung der Anrufer auswertet, und ein beratender Kunden-Chatbot.

Den Chatbot auf der Website behandle ich deshalb immer als DSFA-Fall, einen Rundbrief ohne Namen nicht. Für die Bewertung brauchen Sie Angaben des Anbieters zur Funktionsweise. Mit Gesundheitsdaten und anderen besonderen Kategorien steigt das Risiko deutlich.

Betriebsrat und KI: Unterrichtung, Mitbestimmung, Sachverständiger

Das Betriebsverfassungsgesetz nennt Künstliche Intelligenz ausdrücklich. Nach § 90 Abs. 1 Nr. 3 BetrVG unterrichtet der Arbeitgeber den Betriebsrat rechtzeitig und mit Unterlagen über die Planung von Arbeitsverfahren „einschließlich des Einsatzes von Künstlicher Intelligenz“ und berät die Folgen mit ihm.

Mitbestimmen darf der Betriebsrat nach § 87 Abs. 1 Nr. 6 bei technischen Einrichtungen, die dazu bestimmt sind, Verhalten oder Leistung der Beschäftigten zu überwachen. Ein Firmenkonto, in dem Administratoren Chats einsehen können, würde ich ohne Umweg so behandeln. Ohne Einigung entscheidet die Einigungsstelle.

Muss der Betriebsrat den Einsatz von KI beurteilen, gilt ein Sachverständiger nach § 80 Abs. 3 Satz 2 als erforderlich; die Einzelheiten werden mit dem Arbeitgeber vereinbart. In Behörden sitzt statt des Betriebsrats der Personalrat am Tisch, mehr bei KI für Kommunen.

Personenbezogene Daten im Prompt: was vor dem Absenden raus muss

Erlaubt ist die Eingabe mit Rechtsgrundlage und Vertrag. Die DSK warnt aber in Abschnitt 3.1: Namen und Anschriften zu entfernen, reicht regelmäßig nicht, weil der Zusammenhang die Person verraten kann. Wie man solche Merkmale vergröbert statt löscht, steht unter Text anonymisieren.

Das Beispiel der DSK wirkt harmlos: ein Arbeitszeugnis „für einen Kundenberater im Autohaus X“, ohne Namen. In Tabellen verraten Geburtsdatum, Postleitzahl und Stelle oft mehr als der Name selbst.

Für Ärztinnen, Anwälte, Notare und Steuerberater kommt § 203 StGB hinzu. Wer ein anvertrautes fremdes Geheimnis unbefugt offenbart, riskiert Freiheitsstrafe bis zu einem Jahr oder Geldstrafe. Ein Befund mit Namen gehört für mich in keinen Chat, auch nicht im Firmentarif: was aus dem Arztbrief heraus muss.

§ 203 Abs. 3 erlaubt die Weitergabe an mitwirkende Dienstleister, soweit sie erforderlich ist. Für das Umformulieren eines Befunds ist der Name selten erforderlich. Wie Praxen das am Rechner lösen, beschreibt KI in der Arztpraxis.

Für Anwälte und Steuerberater regeln § 43e BRAO und § 62a StBerG die Weitergabe an Dienstleister. Die Absätze geht der Leitfaden zur Pseudonymisierung von Mandantendaten einzeln durch.

Datenschutzkonforme KI im Unternehmen: ein Freigabevermerk pro Werkzeug

Statt eines Siegels empfehle ich jedem Betrieb einen Vermerk von einer Seite pro KI-Werkzeug: wofür es freigegeben ist und wofür nicht, mit Datum und Fundstelle. Fragt ein Kunde oder Ihr Cyberversicherer nach Ihrem KI-Einsatz, legen Sie ihn vor.

Die letzte Frage spart die meiste Arbeit. Was nicht im Prompt steht, braucht keinen Trainingsausschluss, keine EU-Region und keine Löschfrist. Wer KI über eine Schnittstelle anbindet, kann Namen und Kennnummern vorher automatisch durch Platzhalter ersetzen.

Für die Arbeit im Chat haben wir Nonimo gebaut, eine Anwendung für Mac und Windows. Sie ersetzt Namen, IBAN, E-Mail-Adressen und die Steuer-ID auf Ihrem Rechner durch Platzhalter, erst auf Tastendruck, und jede Ersetzung sehen Sie vorher und können sie rückgängig machen.

Welcher Platzhalter für wen steht, bleibt auf Ihrem Gerät. Den Ablauf zeigt die Startseite Schritt für Schritt, und die Antwort aus dem Chat bekommen Sie mit den echten Namen zurück.

Diese Seite ordnet die Rechtslage ein; ob Ihr konkreter Einsatz trägt, beurteilen Ihre Datenschutzbeauftragte oder Ihre Anwältin.

Quellen

• DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024: Abschnitte 1.5, 1.7, 1.12, 2.1 bis 2.4 und 3.1, darunter das Beispiel mit dem Arbeitszeugnis.
• DSK, Liste der Verarbeitungstätigkeiten, für die eine DSFA durchzuführen ist, Version 1.1: Nr. 11 mit den Beispielen Callcenter und Kunden-Chatbot.
• Verordnung (EU) 2016/679, Datenschutz-Grundverordnung: Art. 4 Nr. 7 und 8, Art. 28 Abs. 3, Art. 35, Art. 42 Abs. 4, Kapitel V.
• Durchführungsbeschluss (EU) 2023/1795 zum Datenschutzrahmen EU-USA: Art. 1, nur Organisationen auf der Data Privacy Framework List. Rechtsmittel C-703/25 P vom 31. Oktober 2025 gegen das Urteil T-553/23 vom 3. September 2025, ABl. C/2025/6610.
• Betriebsverfassungsgesetz: § 80 Abs. 3, § 87 Abs. 1 Nr. 6 und Abs. 2, § 90 Abs. 1 Nr. 3 und Abs. 2.
• § 203 StGB, Verletzung von Privatgeheimnissen: Absätze 1, 3 und 4.
• Bitkom, „Beschäftigte nutzen vermehrt Schatten-KI“, 21. Oktober 2025: 604 Unternehmen ab 20 Beschäftigten, 26 Prozent stellen Zugang bereit, rund 4 von 10 rechnen mit privaten KI-Tools.
• DeepL, Datenschutzerklärung: Abschnitte 1, 3 und 4, Gratisversion nicht für personenbezogene Daten, Pro ohne dauerhafte Speicherung, AVV über die Datenschutzadresse.
• Anthropic, „Is my data used for model training?“: Training privater Chats nach Einstellung, markierte Chats ausgenommen.
• Google, Privacy Hub für generative KI in Google Workspace: kein Training außerhalb Ihrer Domain und keine manuelle Prüfung ohne Erlaubnis.
• Google, Datenschutzhinweise für Gemini-Apps: Aktivitätseinstellung, geprüfte Chats bis zu drei Jahre.
• Microsoft, Datenschutz-FAQ für Microsoft Copilot: Training mit Verbraucherdaten, sechs ausgenommene Länder.
• Microsoft Learn, Websuche in Microsoft Copilot: EU-Datengrenze gilt nicht für generierte Suchanfragen.

Abgerufen am 8. November 2026.