Datenschutz bei KI-Tools: Vergleich von ChatGPT, Claude, Gemini & Co.

Datenminimierung: Halten ChatGPT und Co. das DSGVO-Grundprinzip ein?

KI-Tools benötigen für ihre Funktion oft große Datenmengen. Allerdings zählt Datenminimierung  zu den wichtigsten Grundsätzen der DSGVO (Art. 5). Erlaubt ist nur die Verarbeitung jener personenbezogenen Daten, die für den Verarbeitungszweck unbedingt nötig sind. Unternehmen stehen also vor der Herausforderung, die Verarbeitung personenbezogener Daten beim Einsatz von KI auf ein sinnvolles Maß zu begrenzen.

Praxisbeispiel: Bei der Nutzung von KI für die Vertragserstellung sollten Unternehmen den Zugriff auf sensible HR-Daten oder Mails sperren. Nur so lässt sich die Datenminimierung tatsächlich leben.

Auf welche Daten greifen die verschiedenen Tools zu?

• ChatGPT (insbesondere in der Enterprise- oder API-Variante) ermöglicht es Geschäftskunden, den Webzugriff gezielt einzuschränken. Die Nutzung von Nutzereingaben zu Trainingszwecken kann vertraglich ausgeschlossen werden. Eine vollständige Deaktivierung des „Abuse Monitoring“ ist in der Regel jedoch nicht möglich, da OpenAI – wie alle Anbieter – gesetzlich zur Missbrauchserkennung verpflichtet bleibt.

• Microsoft Copilot greift auf Microsoft 365-Daten zu, doch Admins können den Datenzugriff granular über das Admincenter steuern. Microsoft dokumentiert dies ausführlich im Compliance Center und Auftragsverarbeitungsvertrag. Die Trennung von Geschäfts- und Trainingsdaten ist Standard und Trainingsdaten werden nicht aus Kundendaten abgeleitet.

• Google Gemini in Google Workspace ist direkt mit mehreren Google-Diensten verknüpft – von Gmail bis Docs. Laut Data Protection Terms und Admin Guide erfolgt die Zugangskontrolle über Admin-Richtlinien. Sie muss jedoch aktiv angepasst werden, um datenschutzfreundliche Einstellungen zu gewährleisten - andernfalls ist die Standardkonfiguration meist sehr weitreichend.

• Claude ermöglicht es Business-Kunden, das Tool ohne Verwendung der Eingaben zu Trainingszwecken zu nutzen. In kostenlosen und Pro-Plänen richtet sich die Trainingsnutzung dagegen nach den individuell gewählten Datenschutzeinstellungen im Konto.

KI-Tools datenschutzkonform nutzen: Bleiben Sie up to date.

Lassen Sie sich jetzt von Proliance über die KI-Verordnung und die wichtigsten Anforderungen an Unternehmen beraten, um zukünftige Compliance-Herausforderungen souverän zu meistern.

Zur KI-Compliance-Beratung

KI-Datenverarbeitung: Wie transparent sind die KI-Tools?

Transparenz verpflichtet Anbieter und Anwender, offenzulegen, wie personenbezogene Daten verarbeitet werden.

• ChatGPT stellt im Trust Portal Informationen zu Datenverarbeitungsprozessen bereit. In der Enterprise-Variante können Unternehmen die Speicherdauer und Löschroutinen konfigurieren. Standardmäßig werden Konversationen für einen begrenzten Zeitraum gespeichert. Die genaue Dauer und Löschoptionen sind abhängig von der gewählten Produktvariante und den vertraglichen Vereinbarungen.
• Microsoft Copilot punktet mit klarer Dokumentation und einem Data Processing Addendum (DPA), welches die Bedingungen der Datenverarbeitung detailliert regelt.
• Google Gemini bietet Datenschutzinformationen, die je nach Variante unterschiedlich transparent sind. In der Workspace-Version gelten die Google Controller-Data Protection Terms.
• Claude speichert Ein- und Ausgaben bei den Business- und API-Plänen standardmäßig 30 Tage. Bei den kostenlosen und Pro-Tarifen können freigegebene Chats dagegen bis zu fünf Jahre anonymisiert für das Modelltraining gespeichert werden.

Achtung Black Box: Trotz verbesserter Dokumentation bleiben automatisierte Entscheidungslogiken vieler KI-Tools für Anwender schwer nachvollziehbar – hier gilt es, die Datenflüsse regelmäßig zu überprüfen.

Kontrollierbarkeit von KI-Tools: Wie groß ist der Einfluss von Unternehmen?

DSGVO und Best Practices fordern, dass KI-gestützte Entscheidungen stets durch Menschen kontrollierbar bleiben.

• ChatGPT Enterprise bietet Admin-Funktionen, um Konversationen zu verwalten und Sicherheitsstufen festzulegen. Ein vollständiger Einblick in alle Nutzerdaten ist jedoch aus Datenschutzgründen nicht vorgesehen; vielmehr stehen Funktionen zur Verfügung, um Löschungen und Zugriffsbeschränkungen umzusetzen.
• Microsoft Copilot integriert sich in das Microsoft 365-Rechtemanagement und bietet umfangreiche Kontroll- und Nachverfolgungsmöglichkeiten.
• Google Gemini ermöglicht Admins, App-Zugriffe und Rechte granular zu steuern – wobei die Komplexität mit wachsendem Funktionsumfang zunimmt.
• Claude bietet in der Enterprise-Admin-Konsole Funktionen wie Nutzerverwaltung, Audit-Logs und konfigurierbare Datenspeicherungskontrollen. Für qualifizierte Kunden sind zudem Vereinbarungen zur Null-Datenspeicherung möglich.

Tipp: Unternehmensrichtlinien sollten vorgeben, dass kritische KI-Entscheidungen einer menschlichen Überprüfung bedürfen (sog. Human-in-the-loop). Ein aktuelles Urteil unterstreicht, warum das wichtig ist: Das Oberlandesgericht Hamm hat am 12. Mai 2026 entschieden, dass Unternehmen für die Aussagen ihres KI-Chatbots haften, als hätten sie diese selbst getroffen – auch wenn es sich um Halluzinationen der KI handelt. 

DSFA für KI-Tools: Wann ist eine Risikoabschätzung nach DSGVO Pflicht?

Gemäß Art. 35 DSGVO ist eine Datenschutzfolgenabschätzung (DSFA) Pflicht, sobald ein hohes Risiko für die Rechte Betroffener besteht – was bei modernen KI-Tools praktisch immer zutrifft. Typische Risiken sind Diskriminierungseffekte durch algorithmic bias, Datenlecks bei fehlerhafter Konfiguration, Zweckentfremdung von Daten und intransparente Entscheidungsfindung.

• ChatGPT: Risiken entstehen insbesondere durch die Verarbeitung personenbezogener Daten auf Servern außerhalb der EU. Durch entsprechende vertragliche Regelungen (z. B. Standardvertragsklauseln, Data Processing Addendum) und technische Maßnahmen kann das Risiko reduziert werden. Eine vollständige DSGVO-Konformität ist jedoch nur bei konsequenter Umsetzung aller Schutzmaßnahmen gewährleistet.
• Microsoft Copilot: Dank EU-US Data Privacy Framework sowie altbewährten Microsoft-Sicherheitsarchitekturen bestehen gute Voraussetzungen – sofern Datenzugriffe restriktiv konfiguriert sind.  
• Google Gemini: Die umfassende Integration und die Speicherzeiten für Prompts erhöhen die Risiken, insbesondere für Unternehmen mit sensiblen Daten. Standardmäßig werden Unterhaltungen 18 Monate lang gespeichert, Admins können diesen Zeitraum jedoch auf 3, 18 oder 36 Monate festlegen oder die automatische Löschung ganz deaktivieren.
• Claude: Die Datenübermittlung in die USA stützt sich auf EU-Standardvertragsklauseln. Eine native EU-Datenresidenz bietet Anthropic direkt nicht an.
  

Empfehlung: Führen Sie für jedes Tool eine eigene DSFA durch und dokumentieren Sie sämtliche identifizierten Risiken und getroffenen Schutzmaßnahmen.

Wichtig zu wissen: Die EU hat 2026 mit dem Digitalen KI-Omnibus zwar die Fristen der KI-Verordnung verschoben. Die Pflicht zur Datenschutzfolgenabschätzung nach Art. 35 DSGVO gilt für den Einsatz von KI-Tools jedoch unverändert weiter.

Rechenschaftspflicht: Wie weisen Unternehmen DSGVO-Konformität bei KI-Tools nach?

Die Rechenschaftspflicht nach Art. 5 Abs. 2 DSGVO verlangt, Datenschutz nachzuweisen – von der Konfiguration bis zur täglichen Nutzung.

• ChatGPT: In der Enterprise-Variante ist eine Trennung von Nutzungsdaten und Trainingsdaten möglich, sofern dies vertraglich vereinbart wurde. Die Serverstandorte liegen auch in der EU, wodurch eine ausschließliche Verarbeitung in der EU ausgewählt werden kann. Admins können Konversationen löschen und bestimmte Einstellungen vornehmen, jedoch ist die Kontrolle über alle Datenflüsse technisch und organisatorisch zu prüfen.
• Microsoft Copilot stellt Tools wie Microsoft Purview zur Verfügung, um Audit- und Compliance-Nachweise zu sichern.  
• Google Gemini bietet auditierbare Protokolle – diese unterscheiden sich je nach gewählter Produktversion.
• Claude bietet in der Enterprise-Admin-Konsole Audit-Logs zur Nachverfolgung von Nutzeraktivitäten und der Auftragsverarbeitungsvertrag ist automatisch Bestandteil der Commercial Terms. Eine direkte EU-Verarbeitung ist bei Anthropic selbst nicht vorgesehen – dafür ist der Bezug über AWS Bedrock oder Google Vertex AI mit EU-Serverstandort nötig. 

Praxistipp: Kontrollmechanismen sollten fortlaufend durch Audits überprüft und dokumentiert werden.  

KI-Tools im DSGVO-Vergleich

Praxisfall: Was der Daten-Leak-Bug 2026 über Microsoft Copilot & Datenschutz  aussagt

Im Januar 2026 wurde ein schwerwiegender Sicherheitsvorfall bei Microsoft Copilot bekannt, der die Grenzen rein vertraglicher Compliance-Zusagen aufzeigt: Ein Bug in der Data Loss Prevention (DLP)-Konfiguration führte dazu, dass vertrauliche E-Mails aus geschützten Postfächern in öffentlich zugängliche Copilot-Antworten gelangten.

Was ist passiert?

• DLP-Misconfiguration: Eine fehlerhafte Implementierung der DLP-Regeln erlaubte Copilot den Zugriff auf E-Mail-Ordner, die eigentlich durch Compliance-Richtlinien geschützt sein sollten

• Betroffene Daten: Sensible Informationen aus Mailboxen (potenziell personenbezogene Daten, Geschäftsgeheimnisse)

• Meldung & Reaktion: Der Bug wurde über den Microsoft Security Response Channel (CW1226324) gemeldet; Microsoft bestätigte das Problem, jedoch blieb der genaue Rollout-Zeitplan für den Fix unklar

• Quelle: Erstmals berichtet von Bleeping Computer und Golem.de

Compliance-Implikationen

Dieser Vorfall zeigt:

✅ Vertragliche Zusagen sind notwendig, aber nicht hinreichend: Selbst bei bestehendem AVV und EU-Datenverarbeitung können technische Fehler zu Datenschutzverletzungen führen

✅ DSFA muss technische Risiken abbilden: Eine einmalige Datenschutz-Folgenabschätzung reicht nicht – kontinuierliche Updates bei Software-Änderungen sind Pflicht (Art. 35 DSGVO)

✅ DLP-Konfiguration ist kritisch: Die korrekte Einstellung von Data Loss Prevention-Regeln erfordert technisches Know-how und regelmäßige Audits

✅ KI-Governance erforderlich: Solche Vorfälle unterstreichen die Notwendigkeit strukturierter KI-Governance-Prozesse, wie sie der AI Act für Hochrisiko-KI-Systeme fordert

Handlungsempfehlungen

Für Unternehmen, die Microsoft Copilot nutzen oder planen:

1. DSFA aktualisieren: Technische Sicherheitslücken wie DLP-Bugs müssen in die Risikobewertung aufgenommen werden

2. DLP-Regeln prüfen: Regelmäßige Audits der Konfiguration (besonders bei sensiblen Datenbeständen wie HR, Finance, Legal)

3. Incident-Response-Plan: Klare Prozesse für den Umgang mit KI-bedingten Datenpannen (Art. 33/34 DSGVO)

4. Schulung der Admins: IT- und Compliance-Teams müssen KI-spezifische Sicherheitsrisiken verstehen

5. Governance aufbauen: Implementierung eines strukturierten KI-Governance-Frameworks (siehe AI Act Art. 9, 17)

Aktueller Stand und Fazit

Der Copilot-Bug ist kein Einzelfall, sondern ein Warnsignal – vertragliche Compliance muss durch technische Governance und kontinuierliche Risikoüberwachung ergänzt werden.

Microsoft hat den Fehler inzwischen behoben und als direkte Konsequenz die DLP-Kontrollen über Microsoft Purview zusätzlich ausgeweitet. Sensibilitätsgekennzeichnete Inhalte können nun konsequent über alle Speicherorte hinweg – auch lokale Ablagen – von der Copilot-Verarbeitung ausgeschlossen werden.

Der Fall bleibt dennoch als Warnsignal relevant: Er zeigt, dass klassische DLP-Architekturen ursprünglich für menschliche Zugriffsmuster konzipiert wurden und bei KI-Systemen, die Inhalte automatisiert im Hintergrund indexieren, gesonderte Kontrollmechanismen brauchen.

Unterstützung benötigt?

Unsere KI-Schulungen vermitteln praktisches Know-how zu DLP-Konfiguration, DSFA, AI-Act-Compliance und vielem mehr.

Zur KI-Schulung

Ist DeepSeek DSGVO-konform? Ein Negativbeispiel für KI-Tools unter der DSGVO  

DeepSeek ist ein KI-Sprachmodell aus China, das als Paradebeispiel für datenschutzrechtlich problematische Tools gilt:  

• Das Tool speichert zahlreiche Nutzerdaten, darunter IP-Adressen, sämtliche Tastatureingaben und hochgeladene Dokumente – ohne Transparenz über Speicherorte und Datenflüsse.  

• Chinesische Behörden können laut Anbieter auf gespeicherte Nutzerdaten zugreifen; es gibt keinen Angemessenheitsbeschluss zwischen EU und China.  

• DeepSeek stellt keine Auftragsverarbeitungsverträge (AVV) zur Verfügung und ist nicht bereit, solche zu unterzeichnen – ein gravierender Verstoß gegen Art. 28 und 32 DSGVO.  

• Informationspflichten, Zweckbindung und Datensicherheit werden nicht erfüllt, zudem wurden massive Datenlecks dokumentiert.  

• Für Unternehmen drohen bei Nutzung drastische Risiken – von Bußgeldern über Daten- und Reputationsverluste bis hin zum Kontrollverlust über sensible Informationen.  

Fazit: Die Nutzung von DeepSeek ist aus DSGVO-Sicht derzeit nicht empfehlenswert.

Unternehmen sollten ausschließlich auf transparente, zertifizierte KI-Lösungen setzen, die klaren Datenschutz-Vorgaben entsprechen.

Was sind die Best Practices für die DSGVO-konforme Nutzung von KI-Tools?  

• Entwickeln Sie klare Datenschutzrichtlinien und Nutzungsregeln für KI-Tools.

• Schulen Sie Ihre Mitarbeitenden zu KI und Datenschutz.

• Führen Sie regelmäßige Audits und Risikoüberprüfungen durch.

• Vereinbaren Sie immer Auftragsverarbeitungsverträge mit Anbietern und prüfen Sie deren Einhaltung.

Fazit: So konfigurieren Sie KI-Tools im Einklang Compliance und Datenschutz

Der Vergleich zeigt: Auch leistungsstarke KI-Tools wie ChatGPT, Copilot, Claude und Gemini sind nur dann DSGVO-konform, wenn sie richtig konfiguriert und kontrolliert werden. Besondere Vorsicht ist bei nicht-europäischen Tools (wie DeepSeek) geboten, da hier zentrale DSGVO-Prinzipien verletzt werden können. Gerade wenn solche KI-Tools ohne Freigabe der IT genutzt werden, spricht man von Schatten-KI.

Empfehlung an Unternehmen: Prüfen Sie Tools sorgfältig, achten Sie konsequent auf Datenminimierung, Transparenz, Kontrollmöglichkeiten und regelmäßige Risikoanalysen. Nur so nutzen Sie KI innovativ – und trotzdem datenschutzkonform.

Quellen: Golem, OpenAI Trust Portal, Harwardreview, OpenAI Response, OpenAI Enterprise Privacy, Google Support, Microsoft Copilot Privacy, Empfehlung des LfD Niedersachsen zum Einsatz von DeepSeek