ChatGPT & Datenschutz: Welche Folgen hat die Nutzung des Chatbots?

Letztes Update:
17.11.2026
Mit ChatGPT ist Künstliche Intelligenz zum festen Bestandteil des Alltags von Privatpersonen und Unternehmen geworden. Doch mit dem Hype und den Nutzerzahlen wuchs schnell auch die Sorge von Datenschützern. Wie sicher ist ChatGPT hinsichtlich des Datenschutzes und müssen Unternehmen auf das KI-Tool verzichten?
ChatGPT & Datenschutz: Welche Folgen hat die Nutzung des Chatbots?
Die wichtigsten Erkenntnisse
  • ChatGPT basiert auf einem vortrainierten Sprachmodell, und nutzt die jeweilige Eingabe eines Nutzers zur Antwortgenerierung; ob Gespräche zusätzlich für die Modellverbesserung genutzt werden, hängt vom Angebot und den Einstellungen ab.
  • Der Anbieter OpenAI beschreibt in seinen Datenschutzrichtlinien, wie die verarbeiteten Daten geschützt und verwendet werden – absolute Sicherheit der Daten ist jedoch nicht garantiert.
  • Die Technologie gilt für Datenschützer als Blackbox – die technische Komplexität allein bedeutet jedoch nicht, dass eine Nutzung datenschutzrechtlich ausgeschlossen ist.
  • Mit dem AI Act gibt es seit 2024 verbindliche Vorschriften für den Einsatz von Tools wie ChatGPT in Unternehmen. Die Pflichten gelten gestaffelt.
  • Unternehmen, die ChatGPT nutzen möchten, sollten den Einsatz mit ihrem Datenschutzbeauftragten abstimmen und ihr Team im Umgang mit KI schulen, um Risiken zu minimieren.

Ist ChatGPT für Unternehmen datenschutzkonform?

Ein datenschutzkonformer Einsatz von ChatGPT kann für Unternehmen möglich sein, lässt sich jedoch nicht pauschal für jeden Anwendungsfall bestätigen. OpenAI verwendet Eingaben und Ausgaben aus ChatGPT Business, Enterprise und der API standardmäßig nicht zum Modelltraining. Das mindert ein bestimmtes Risiko, beantwortet allerdings noch nicht, ob die Verarbeitung im konkreten Fall DSGVO-konform ist.

Dafür müssen Unternehmen unter anderem Zweck, Rechtsgrundlage und Datenarten festlegen sowie OpenAIs Rolle und einen gegebenenfalls erforderlichen Auftragsverarbeitungsvertrag prüfen. Auch Speicherorte, Aufbewahrungsfristen und mögliche Drittlandübermittlungen sind zu berücksichtigen.

Wir fassen die wichtigsten Fakten rund um ChatGPT und den Datenschutz zusammen und beleuchten den Status quo in Deutschland.

Was ist ChatGPT und zu wem gehört es?

ChatGPT ist eine Entwicklung von OpenAI und steht für „Chatbot Generative Pre-trained Transformer“. Die Anwendung ist sprachbasiert, das bedeutet, die Nutzer können über Texteingaben mit ChatGPT kommunizieren und Antworten auf ihre Fragen generieren lassen.

Wie funktioniert ChatGPT einfach gesagt?

Der Chatbot basiert auf dem Deep-Learning-Prinzip, einem Teilgebiet des maschinellen Lernens. Vereinfacht gesagt steckt hinter ChatGPT ein künstliches neuronales Netz, das ähnlich wie das menschliche Gehirn funktioniert und lernen kann, Texte zu verstehen und bestimmte Entscheidungen zu treffen.

ChatGPT erzeugt Antworten, indem das Modell anhand der Eingabe und des Gesprächskontexts wahrscheinliche nächste Textteile berechnet. Eine Unterhaltung verändert das zugrunde liegende Modell nicht automatisch in Echtzeit. Davon zu unterscheiden sind Funktionen wie Memory, die Informationen für eine personalisierte Nutzung speichern können, und eine mögliche Verwendung von Inhalten zur späteren Modellverbesserung. Letztere richtet sich nach dem gewählten Angebot, den verfügbaren Datenkontrollen und gegebenenfalls einer gesonderten Freigabe.

ChatGPT & Datenschutz: Was ist das Problem?

OpenAI entwickelt seine Modelle unter anderem mit öffentlich zugänglichen und lizenzierten Informationen sowie weiteren Datenquellen. Davon zu unterscheiden ist die mögliche Nutzung konkreter Nutzereingaben: Bei ChatGPT für Privatpersonen können Inhalte abhängig von den Einstellungen zur Modellverbesserung verwendet werden. Bei ChatGPT Business, Enterprise, Edu und der API verwendet OpenAI Eingaben und Ausgaben standardmäßig nicht zum Modelltraining.

Unabhängig davon können Prompts personenbezogene oder vertrauliche Informationen enthalten. Unternehmen sollten deshalb nur erforderliche Daten eingeben und dafür freigegebene Konten und Einstellungen verwenden. Ansonsten ist nicht auszuschließen, dass auch persönliche und sensible Informationen verarbeitet werden – so wie in Italien, wo im Jahr 2023 eine Datenschutzpanne zur Preisgabe persönlicher Informationen in fremden Chats führte.

Rückblick: Italien verbietet ChatGPT nach Datenpanne

Als Reaktion auf die Datenpanne sperrte die italienische Datenschutzbehörde ChatGPT im März 2023 vorübergehend. Sie kritisierte in diesem Zuge auch die Transparenz und Rechtsgrundlage der Datenverarbeitung sowie den mangelnden Schutz Minderjähriger. Nachdem OpenAI Änderungen vorgenommen hatte, wurde ChatGPT am 28. April 2023 in Italien wieder freigegeben.

Im Dezember 2024 verhängte die Behörde gegen OpenAI eine Geldbuße von 15 Millionen Euro. Das Gericht in Rom hob die Entscheidung im März 2026 auf. Die Geldbuße gilt damit nicht mehr; die Aufhebung bedeutet jedoch keine pauschale Freigabe jeder Nutzung von ChatGPT.

Wie ist der Stand in Deutschland?

Auch deutsche Datenschutzaufsichtsbehörden befassten sich 2023 mit ChatGPT. Medienberichten zufolge wurden die damaligen deutschen Verfahren im März 2026 beendet und an die irische Datenschutzkommission weitergegeben. Für Unternehmen gilt weiterhin: Ob ein Einsatz datenschutzkonform ist, hängt vom verwendeten Produkt und vom konkreten Anwendungsfall ab.

Was sagt die DSGVO zu ChatGPT? Die wichtigsten Fakten zu ChatGPT und Datenschutz

Grundlage der datenschutzrechtlichen Prüfung war die Datenschutzgrundverordnung (DSGVO). Werden personenbezogene Daten in ChatGPT verarbeitet, ergeben sich verschiedene datenschutzrechtliche Herausforderungen. Die wichtigsten fasst die folgende Übersicht zusammen.

Einwilligung in die Datenverarbeitung

Die DSGVO erlaubt die Verarbeitung von Daten, wenn eine Rechtsgrundlage gemäß Art. 6 Abs. 1 DSGVO vorliegt. Die Datenverarbeitung muss zum Beispiel zur Erfüllung vertraglicher Pflichten notwendig sein oder auf einem berechtigten Interesse des Betreibers basieren. Dabei dürfen die Schutzinteressen betroffener Personen nicht verletzt werden.

Ohne eine andere Rechtsgrundlage aus Art. 6 Abs. 1 DSGVO, kommt eine Verarbeitung nur mit einer wirksamen Einwilligung in Betracht. Dafür ist eine transparente Information der betroffenen Person über die Datenverarbeitung und ihre Auswirkungen erforderlich.

Die technische Komplexität eines KI-Modells macht eine datenschutzrechtliche Prüfung nicht automatisch unmöglich. Unternehmen müssen für ihre eigene Verarbeitung eine passende Rechtsgrundlage bestimmen und dürfen nicht voraussetzen, dass Einwilligung in jedem Fall die einzige oder geeignete Grundlage ist.

Transparenz über die Verarbeitung der Daten

Die DSGVO gibt vor, dass Daten einer betroffenen Person in einer für sie nachvollziehbaren Weise verarbeitet werden müssen. Die Komplexität des Modells hebt diese Pflicht nicht auf. Maßgeblich sind die konkrete Verarbeitung und die Informationen, die das Unternehmen dazu bereitstellen muss.

Trotzdem müssen Unternehmen ihren Informationspflichten aus Art. 13 und 14 DSGVO nachkommen, etwa zu Zweck, Rechtsgrundlage, Empfängern und Betroffenenrechten. Gemäß Art. 13 DSGVO müssen sie die betroffene Person in verständlicher und leicht zugänglicher Weise über die Datenverarbeitung und die Funktionsweise der eingesetzten KI informieren. Dazu gehören auch Informationen über den Umfang der Datenverarbeitungen, die Rechtsgrundlage und die Empfänger. Besondere Informationen über die Logik und Folgen automatisierter Entscheidungen sind relevant, wenn die Voraussetzungen des Art. 22 DSGVO erfüllt sind; das betrifft nicht automatisch jede Nutzung eines Chatbots.

Schutz der Rechte betroffener Personen

Betroffene Personen müssen über ihre datenschutzrechtlichen Rechte aufgeklärt werden. Auch bei der Nutzung von ChatGPT müssen Unternehmen laut DSGVO die Rechte betroffener Personen erfüllen und verarbeitete Daten z. B. auf Anfrage löschen können. Welche Gesprächs- und Nutzungsdaten gespeichert oder gelöscht werden können, hängt vom jeweiligen Produkt, den Einstellungen und den geltenden Aufbewahrungsregeln ab. Unternehmen müssen Anfragen betroffener Personen bearbeiten und dafür die Funktionen und Unterstützung des jeweiligen Anbieters berücksichtigen. OpenAI nennt für bestimmte Löschvorgänge eine Entfernung innerhalb von 30 Tagen, weist aber auf mögliche gesetzliche oder sicherheitsbedingte Ausnahmen hin.

Datenschutzrechtliche Rolle von OpenAI

Welche datenschutzrechtliche Rolle OpenAI und das Unternehmen haben, ist für den jeweiligen Verarbeitungsvorgang zu bestimmen. Verarbeitet OpenAI personenbezogene Daten im Auftrag des Unternehmens, sollte ein passender Auftragsverarbeitungsvertrag (AVV) abgeschlossen werden. OpenAI stellt einen AVV für ChatGPT Business, Enterprise und die API bereit. Die Vereinbarung allein macht den Einsatz jedoch nicht DSGVO-konform; zudem verwendet OpenAI Geschäftseingaben und -ausgaben standardmäßig nicht zum Modelltraining.

Datenübermittlung in ein Drittland

Der Chatbot ist ein Angebot des US-amerikanischen Unternehmens Open-AI. Oftmals werden die Verträge zwischen OpenAI und EU-Kunden allerdings mit der irischen Gesellschaft, OpenAI Ireland Ltd., abgeschlossen. Welche OpenAI-Gesellschaft beteiligt ist und welche Datenübermittlungen stattfinden, hängt vom genutzten Produkt und Vertrag ab. Für EWR-Kunden sieht der aktuelle Business-AVV OpenAI Ireland Ltd. als Vertragspartner vor; er beschreibt zugleich mögliche Übermittlungen an verbundene Unternehmen oder Dritte außerhalb des EWR auf Grundlage von Standardvertragsklauseln oder einem Angemessenheitsbeschluss. Unternehmen sollten daher den für ihr Produkt geltenden AVV, die Unterauftragsverarbeiter und die tatsächlich genutzten Funktionen prüfen.

Wie können Unternehmen ChatGPT möglichst sicher nutzen?

ChatGPT hat für die Nutzer viele Vorteile, allerdings lässt sich mit dem Chatbot auch Schaden anrichten. Kriminelle können das Tool zum Beispiel nutzen, um ihre Phishing-Angriffe zu verbessern. Zudem herrscht große Unsicherheit in Bezug auf den Datenschutz von ChatGPT.

Um sich und ihre Daten zu schützen, sollten Unternehmen möglichst ein freigegebenes Produkt wählen, die Eingaben minimieren und vorab Rechtsgrundlage, Rollen und Vertrag, Einstellungen, Aufbewahrung, Betroffenenrechte und mögliche Drittlandübermittlungen prüfen.

Welche OpenAI-Zugänge kommen für Unternehmen infrage?

| Nutzungsart | Training und Feedback | Organisations- und Vertragsrahmen | Vor dem Einsatz im Unternehmen klären | | :--- | :--- | :--- | :--- | | **Privates Einzelkonto — Free, Go, Plus, Pro** | Inhalte können zur Modellverbesserung genutzt werden. Die Nutzung neuer Gespräche lässt sich in den Datenkontrollen ausschalten; bei übermitteltem Feedback kann die zugehörige Unterhaltung dennoch verwendet werden. | Einzelkonto; nicht mit den Vertrags- und Verwaltungskontrollen eines Unternehmens-Workspaces gleichzusetzen. | Ist die Nutzung überhaupt freigegeben? Welche Daten dürfen Mitarbeitende eingeben? | | **Team-Workspace — ChatGPT Business** | Eingaben und Ausgaben werden standardmäßig nicht zum Modelltraining verwendet. | Unternehmens-Workspace; ein DPA/AVV ist für den einschlägigen Dienst verfügbar. | Stimmen Workspace-Einstellungen, Aufbewahrung und Vertrag mit dem geplanten Einsatz überein? | | **Organisations-Workspace — ChatGPT Enterprise oder Edu** | Standardmäßig kein Modelltraining mit Eingaben und Ausgaben. | Organisations- und Admin-Kontrollen; die Vertragsgrundlage unterscheidet sich je nach Angebot. Für Edu gelten eigene Bedingungen zum Schutz von Schülerdaten. | Welche Admin-, Zugriffs- und Aufbewahrungseinstellungen gelten, und welcher Vertrag deckt die Nutzung ab? | | **Technische Integration — OpenAI API** | Standardmäßig kein Modelltraining mit Eingaben und Ausgaben. | API-Vertrag und DPA; Aufbewahrung kann vom Endpunkt und der Konfiguration abhängen. | Welche Daten fließen über die konkrete Integration, wie lange werden sie gespeichert und welche Funktionen sind aktiviert? |

Mit Newsletter und Downloads up-to-date bleiben

Unternehmen, die über den Einsatz von ChatGPT nachdenken oder bereits erste Schritte mit dem Tool machen, sollten sich aktiv über die weiteren Entwicklungen und die Prüfung durch die Behörden informieren. Über die Diskussion rund um ChatGPT-Datenschutz informiert Sie regelmäßig unser Proliance Newsletter.

Außerdem bieten wir Ihnen Leitfäden und Checklisten für Hintergrundwissen rund um Künstliche Intelligenz und den möglichst sicheren Einsatz von KI-Tools wie ChatGPT.

Fazit: Business-Tarife bringen mehr Transparenz, aber keine 100%ige Sicherheit

Welche Datenschutzanforderungen an die Nutzung von ChatGPT gelten, hängt vom konkreten Produkt und dem geplanten Einsatz ab. Zusätzlich zur DSGVO müssen Unternehmen beim Einsatz von ChatGPT außerdem die KI-Verordnung der Europäischen Union beachten.

Der AI-Act ergänzt die DSGVO und bringt die Vorschriften für KI-Systeme in den Mitgliedsstaaten der EU in Einklang. Die Richtlinie teilt KI-Anwendungen in vier Risiko-Kategorien ein. Je höher die Risikostufe, desto strenger die Regelungen. Die Verordnung trat 2024 in Kraft und gilt überwiegend seit dem 2. August 2026, wobei einzelne Pflichten gestaffelt sind. Die Pflicht zur Förderung von KI-Kompetenz gilt seit dem 2. Februar 2025. Welche weiteren Pflichten greifen, hängt unter anderem von Rolle und Verwendungszweck des KI-Systems ab.

Trotz der KI-Verordnung liegt es weiterhin in der Hand der Unternehmen, den Datenschutz bei der Verwendung von KI-Tools wie ChatGPT zu beachten. Wichtig ist, die Mitarbeitenden im Umgang mit Künstlicher Intelligenz zu schulen und Richtlinien für die KI-Nutzung festzulegen. Außerdem sollten Unternehmen gemeinsam mit ihrem Datenschutzbeauftragten regelmäßig prüfen, ob die Sicherheitsmaßnahmen für den Schutz von Daten auf dem aktuellen Stand sind und den aktuellen gesetzlichen Vorgaben entsprechen.

Häufige Fragen

Sie haben noch Fragen? Wir haben die Antworten

Ist die Nutzung von ChatGPT in Unternehmen DSGVO-konform?

Eine pauschale Ja- oder Nein-Antwort gibt es nicht. Unternehmen können ChatGPT datenschutzkonform einsetzen, wenn das konkrete Angebot und der konkrete Einsatz die Datenschutzanforderungen erfüllen. Business-, Enterprise- und API-Angebote nutzen Eingaben und Ausgaben standardmäßig nicht zum Modelltraining. Das allein belegt jedoch noch keine DSGVO-Konformität. Zu prüfen sind insbesondere Zweck, Rechtsgrundlage, Datenarten, Rollen und Vertrag sowie Speicherorte und mögliche Drittlandübermittlungen.

Welche konkreten Datenschutzrisiken bestehen bei der Nutzung von ChatGPT?

Die Nutzung von ChatGPT birgt verschiedene datenschutzrechtliche Risiken: Rechtsgrundlage und Transparenz: Unternehmen müssen die Verarbeitung im konkreten Einsatz prüfen. Eine fehlende oder ungeeignete Rechtsgrundlage darf nicht pauschal unterstellt werden. Betroffenenrechte und Aufbewahrung: Speicher- und Löschmöglichkeiten unterscheiden sich nach Produkt und Einstellungen. Unternehmen müssen Anfragen bearbeiten und die Anbieterunterstützung berücksichtigen. Datenpannen: Es besteht das Risiko von Datenpannen, wie etwa 2023 in Italien, als personenbezogene Informationen versehentlich offengelegt wurden. Training mit Nutzerdaten: Die Nutzung von Eingaben zur Modellverbesserung hängt vom Angebot und den Einstellungen ab. Bei Business, Enterprise, Edu und API gilt laut OpenAI standardmäßig kein Training mit Inputs und Outputs.. Empfehlung von Proliance: Unternehmen sollten strikte Nutzungsrichtlinien und regelmäßige Schulungen etablieren, um die Eingabe vertraulicher oder personenbezogener Daten zu verhindern und die Risiken zu minimieren.

Wie können Unternehmen ChatGPT möglichst datenschutzkonform nutzen?

Für einen möglichst datenschutzkonformen Einsatz von ChatGPT sollten Unternehmen folgende Maßnahmen ergreifen: Vertragliche Prüfung: Feststellen, welches Angebot genutzt wird, welche Rolle OpenAI im konkreten Vorgang hat und ob ein AVV erforderlich ist.. Nutzungsrichtlinien: Festlegen, welche Daten eingegeben werden dürfen, Daten minimieren und vertrauliche Inhalte nur in freigegebenen Fällen verarbeiten.. Mitarbeiterschulungen: Regelmäßige Schulungen, um das Bewusstsein für Datenschutzrisiken zu stärken. Drittlandübermittlungen: Die tatsächlichen Übermittlungen und die im geltenden Vertrag vorgesehenen Garantien prüfen.. Datenschutzmanagement: Enge Zusammenarbeit mit dem Datenschutzbeauftragten, regelmäßige Überprüfung und Anpassung der Maßnahmen an neue rechtliche Vorgaben (z.B. AI-Act). Aktuelle Informationen: Laufende Information über aktuelle Entwicklungen im Bereich KI und Datenschutz, z.B. durch Newsletter oder behördliche Veröffentlichungen.

Darf ich ChatGPT geschäftlich nutzen?

Ja, Ja, grundsätzlich kann eine geschäftliche Nutzung möglich sein. Entscheidend sind das freigegebene Produkt und die Prüfung des konkreten Einsatzes. Weder der Verzicht auf alle personenbezogenen Daten noch ein AVV allein ist eine pauschale Lösung.. Proliance prüft Ihre KI-Tool-Nutzung auf DSGVO-Konformität, verhandelt datenschutzkonforme Verträge und schult Ihre Mitarbeiter im rechtssicheren Umgang mit KI.

Sie haben noch Fragen? Lassen Sie sich jetzt kostenlos von unseren Compliance Expert:innen beraten.

Wenn Sie auf der Suche nach einem Partner sind, der Sie auf dem Weg zu Datenschutz, Informationssicherheit & KI-Governance unterstützt, wenden Sie sich gern an unser Team aus erfahrenen Proliance Expert:innen.
50+ TÜV- & DEKRA-zertifizierte Expert:innen
Jetzt beraten lassen
Themen
Redaktion
Sabrina Schaub
Freie Redakteurin
Mit ihrer Content-Erfahrung unterstützt Sabrina das Team von Proliance dabei, komplexe Themen verständlich zu kommunizieren. Als freie Autorin kennt sie die Datenschutzbedürfnisse unterschiedlicher Branchen und übersetzt selbst anspruchsvolle Informationen in zielgruppengerechte Inhalte.
Zum Autorenprofil
Zum Expertenprofil
Hischam El-Danasouri
Privacy Manager
Hischam El-Danasouri ist Privacy Manager bei Proliance und zertifizierter AI Governance Professional. Als Datenschutz- und KI-Experte unterstützt er Unternehmen bei der Umsetzung datenschutzkonformer KI-Strategien und der sicheren Nutzung moderner Technologien im Einklang mit der DSGVO.
Zum Autorenprofil
Zum Expertenprofil
Über Proliance
Proliance steht für Professional Compliance für Unternehmen. Wir sind ein digital getriebenes Legal Tech Unternehmen mit Sitz in München - seit 2017 bestehend aus über 100+ Privacy Enthusiasten.
Zu unseren mehr als 3.000 Kunden zählen Start-ups, mittlere Unternehmen und Unternehmensgruppen aus nahezu allen Branchen.
Über uns
Neueste Artikel

Brandheiße Themen, die Sie interessieren könnten

Newsletter

Nichts mehr verpassen – Jetzt Ihren exklusiven Compliance-Newsletter abonnieren!