KI datenschutzkonform nutzen: Checkliste für dein Team
KI datenschutzkonform einsetzen: wann die DSGVO greift, welche fünf Punkte vor dem ersten Prompt geklärt sein müssen und ein Beispiel ohne Personenbezug.
Die kurze Antwort: Ein KI-Werkzeug ist datenschutzkonform, wenn du erstens weißt, ob personenbezogene Daten im Spiel sind, und zweitens dafür einen gültigen Auftragsverarbeitungsvertrag, eine Rechtsgrundlage und klare Regeln für dein Team hast. Das Werkzeug selbst ist dabei fast nie das Problem. Das, was Menschen hineintippen, ist es.
Dieser Artikel ist keine Rechtsberatung. Er ordnet ein, was Aufsichtsbehörden und Verbände veröffentlicht haben, damit du weißt, welche Fragen du stellen musst, bevor dein Team ein KI-Werkzeug im Alltag einsetzt.
Wann die DSGVO überhaupt greift
Die DSGVO macht keinen Unterschied zwischen klassischer Software und einem KI-Chatbot. Entscheidend ist allein, ob personenbezogene Daten verarbeitet werden. Ein Werkzeug, das einen Produkttext ohne jeden Namen oder Fallbezug schreibt, fällt nicht darunter. Sobald ein Name, eine Kundennummer, eine E-Mail-Adresse oder ein erkennbarer Einzelfall im Prompt steht, greifen die Pflichten, egal ob du ChatGPT, Gemini, Claude oder ein internes Tool nutzt.
- Kundenanfragen mit Name, Adresse oder Vertragsnummer: personenbezogen.
- Eine anonymisierte Beschreibung desselben Falls ohne diese Angaben: in der Regel nicht.
- Lebensläufe, Krankmeldungen, Gehaltsdaten, Leistungsbeurteilungen: immer personenbezogen, oft besonders schützenswert.
- Code, allgemeine Markttexte, interne Prozessbeschreibungen ohne Namen: in der Regel nicht.
Fünf Punkte vor dem ersten Prompt
Wenn personenbezogene Daten im Spiel sind, bevor du überhaupt irgendetwas eintippst, sollten diese fünf Punkte geklärt sein.
- Rechtsgrundlage nach Art. 6 DSGVO: Auf welcher Basis darfst du die Daten überhaupt in ein Werkzeug geben? Vertragserfüllung, berechtigtes Interesse oder Einwilligung sind die üblichen Antworten, und die Antwort ist von Fall zu Fall verschieden.
- Auftragsverarbeitungsvertrag nach Art. 28 DSGVO: Ohne gültigen AVV darf der Anbieter die Daten deiner Firma nicht verarbeiten. Ein Anbieter, der keinen AVV anbietet, scheidet für diesen Zweck aus.
- Drittlandtransfer: Wo stehen die Server, und falls außerhalb der EU, auf welcher Grundlage läuft der Transfer?
- Technisch-organisatorische Maßnahmen: Wer in deiner Firma hat Zugriff auf die Chatverläufe, und wie lange werden sie gespeichert?
- Datenschutz-Folgenabschätzung nach Art. 35 DSGVO: Bei einem hohen Risiko, etwa bei automatisierten Bewerbungsentscheidungen, ist sie vorgeschrieben, nicht optional.
Die Datenschutzkonferenz empfiehlt in ihrer Orientierungshilfe unter anderem, nur Unternehmenskonten statt privater Zugänge zu nutzen, eine sichere Authentifizierung einzurichten, personenbezogene Daten möglichst gar nicht erst einzugeben, Ergebnisse auf Richtigkeit zu prüfen und Mitarbeitende gezielt zu schulen. Für die technische Risikoeinschätzung ist das Papier des BSI zu generativen KI-Modellen der Einstieg, den IT-Verantwortliche kennen sollten.
Ein Beispiel ohne Personenbezug
Angenommen, dein Marketingteam wertet eine Kundenumfrage aus. Der Export aus dem Umfragetool enthält freie Textantworten, teils mit Namen in der Signatur, teils mit einer E-Mail-Adresse, die ein Kunde versehentlich in sein Freitextfeld geschrieben hat. Der naheliegende Weg ist, die Tabelle komplett in ein KI-Werkzeug zu kopieren und um eine Zusammenfassung zu bitten. Genau das lässt du.
Der bessere Weg dauert ein paar Minuten länger. Du entfernst zuerst die Spalte mit Namen und Kontaktdaten und ersetzt erkennbare Einzelfälle im Freitext durch eine neutrale Beschreibung. Aus „Frau Beier aus der Filiale München beschwert sich seit drei Wochen über die Lieferzeit“ wird „Eine Beschwerde zur Lieferzeit, seit drei Wochen offen, Standort München“. Danach gibst du dem Werkzeug einen klaren Auftrag: „Fasse die folgenden anonymisierten Rückmeldungen nach Themen zusammen und nenne für jedes Thema die Häufigkeit.“ Wie man Tabellen so vorbereitet, dass eine KI sie überhaupt sinnvoll lesen kann, steht im Ablauf Excel auswerten lassen.
Das überprüfbare Ergebnis ist eine Themenliste mit Zahlen, die du gegen die Rohdaten gegenprüfen kannst, ohne dass ein einzelner Name je das Werkzeug erreicht hat. Die Grenze dieses Vorgehens: Bei sehr kleinen Gruppen bleibt ein Einzelfall auch anonymisiert erkennbar, etwa wenn nur eine Filiale eine bestimmte Beschwerde hatte. Dann hilft nur, die Auswertung gröber zu fassen oder ganz auf die Region zu verzichten.
Was ein Anbieter dokumentieren sollte
Bevor dein Team ein bestimmtes Werkzeug freigibt, lohnt sich ein kurzer Check direkt bei den Anbieterseiten: Gibt es einen AVV zum Abschluss, kannst du das Training mit deinen Daten abschalten, und wie lange werden Eingaben gespeichert? OpenAI veröffentlicht seinen Auftragsverarbeitungsvertrag öffentlich, und Anthropic erklärt in den Datenschutzeinstellungen, wie sich die Nutzung von Chats für das Modelltraining steuern lässt. Für die großen Anbieter im Einzelnen fassen wir das laufend zusammen: GPT-6 Sol und Datenschutz, Gemini 4 Argon und Datenschutz, Claude Sonnet 5.5 und Datenschutz und Mistral Large 4 und Datenschutz. Wer speziell Metas Werkzeuge im Blick hat, findet die Details in Meta AI Datenschutz.
Warum so wenige Firmen klare Regeln haben
Der Bitkom hat Unternehmen gefragt, wie sie mit KI umgehen: Nur 23 Prozent haben Regeln für die KI-Nutzung, weitere 31 Prozent planen sie erst. In einer anderen Bitkom-Befragung nennen 77 Prozent der Unternehmen Datenschutzanforderungen als Hürde für die Digitalisierung. Beide Zahlen zusammen ergeben ein klares Bild: Datenschutz ist nicht der Grund, KI zu verbieten, sondern der Grund, vorher eine Checkliste zu schreiben statt hinterher ein Problem zu erklären.
Dazu gehört auch, KI-Projekte klein zu starten statt mit einer großen Ankündigung, wie im Artikel KI für Unternehmen beschrieben. Ein Pilot mit wenigen, klar definierten Anwendungsfällen lässt sich datenschutzrechtlich viel leichter prüfen als ein Rollout für die ganze Firma auf einmal.
Die Frage ist nicht, ob das Werkzeug sicher ist. Die Frage ist, ob die Daten, die gerade hineingetippt werden, die Firma verlassen dürfen.
Schulung ist kein Nebenschauplatz
Seit dem 2. Februar 2025 gilt die Pflicht zur KI-Kompetenz aus dem AI Act. Was das konkret für dein Unternehmen bedeutet, klärst du mit der zuständigen Stelle, aber der Kern ist einfach: Mitarbeitende, die KI nutzen, müssen wissen, was ein Werkzeug kann, was es nicht kann und welche Daten tabu sind. Eine Checkliste auf Papier reicht dafür nicht; sie muss geübt werden, an echten Aufgaben aus dem eigenen Alltag. Woran man eine Schulung erkennt, die genau das leistet, steht in ChatGPT-Schulung. Für den Büroalltag selbst, von der E-Mail bis zur Präsentation, ist KI im Büro der praktische Einstieg.
Governance hört nicht bei der Dateneingabe auf. Wie viel Kontrolle ein Unternehmen über ein KI-System braucht, bevor es Entscheidungen trifft, ist auch die Debatte hinter der Forderung aus KI-Notbremse – ein anderer Blickwinkel auf dasselbe Grundproblem: Verantwortung lässt sich nicht an ein Werkzeug delegieren.
Was du diese Woche tun kannst
Leg fest, welche Werkzeuge mit welchen Daten überhaupt genutzt werden dürfen, und schreib die fünf Punkte von oben für jedes zugelassene Werkzeug einmal durch. Das dauert für ein kleines Team einen Nachmittag und erspart danach jede einzelne Diskussion im Chat. Coursium zeigt auf dem Handy in kurzen Lektionen, wie man KI bei der Arbeit nutzt, einschließlich der Frage, welche Daten in einen Prompt gehören – mehr dazu auf der Startseite und auf der Seite Über Coursium.