Die Entwarnung vorab: ChatGPT kann in deutschen Unternehmen DSGVO-konform eingesetzt werden. Automatisch konform ist der Einsatz aber nicht. Entscheidend sind die verwendete Lizenz, die eingegebenen Daten, der konkrete Anwendungsfall, Speicherort und Verarbeitung sowie die Regeln im eigenen Unternehmen. Wer lediglich eine Business Lizenz kauft und ChatGPT anschließend für jede Aufgabe freigibt, hat das eigentliche Datenschutzproblem deshalb noch nicht gelöst.
ChatGPT selbst ist weder DSGVO-konform noch DSGVO-widrig
Die Frage, ob ChatGPT DSGVO-konform ist, führt leider schnell in die falsche Richtung. Die DSGVO bewertet nicht einfach ein Softwareprodukt als erlaubt oder verboten. Relevant ist, wie ein Unternehmen personenbezogene Daten mit diesem Produkt verarbeitet.
Ein Unternehmen, das ChatGPT für die Formulierung einer generischen Produktbeschreibung verwendet, hat datenschutzrechtlich eine andere Ausgangslage als eine Personalabteilung, die vollständige Bewerbungsunterlagen hochlädt. Das Tool kann dasselbe sein, der Verarbeitungsvorgang ist es nicht.
Deshalb sollte vor der Einführung nicht nur über ChatGPT als Produkt gesprochen werden. Unternehmen müssen definieren, welche Use Cases erlaubt sind, welche Daten dafür benötigt werden und welche technischen sowie organisatorischen Schutzmaßnahmen gelten.
Personenbezogene Daten sind nicht dasselbe wie vertrauliche Unternehmensdaten
Eine der wichtigsten und leider oft unterschätzen Unterscheidungen betrifft die Art der Daten. Die DSGVO schützt personenbezogene Daten. Dazu gehören Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen. Ein Name ist dafür nicht zwingend erforderlich. Auch eine Kombination aus Position, Arbeitgeber, Kontaktdaten, Standort, Kundennummer oder anderen Merkmalen kann eine Person identifizierbar machen.
Die Annahme, ein Prompt enthalte keine personenbezogenen Daten, solange kein Name darinsteht, ist deshalb falsch.
Daneben existieren vertrauliche Unternehmensdaten. Quellcode, interne Kalkulationen, Geschäftsstrategien, Vertragsinformationen oder technische Dokumentationen fallen nicht automatisch unter die DSGVO. Trotzdem können sie aus Sicht von Informationssicherheit, Geheimnisschutz oder vertraglichen Verpflichtungen hochsensibel sein. Ein Unternehmen braucht deshalb mehr als eine, vermeidlich vollumfängliche, Datenschutzregel. Es muss festlegen, welche Informationen überhaupt in externe KI-Systeme eingegeben werden dürfen.
Eine Business Lizenz löst nur einen Teil des Problems
Für die professionelle Nutzung sollten Unternehmen keine privaten ChatGPT-Konten ihrer Mitarbeitenden zum Standard machen. OpenAI bietet mit ChatGPT Business und ChatGPT Enterprise Angebote mit eigenen Bedingungen für Geschäftskunden. Bei ChatGPT Business werden beispielsweise die Daten eines Workspaces laut OpenAI standardmäßig nicht zum Training der Modelle verwendet.
Das ist ein relevanter Unterschied zur unkontrollierten Nutzung privater Accounts. Es bedeutet aber noch nicht, dass jeder Einsatz innerhalb eines Business Workspaces automatisch DSGVO-konform ist. Besonders wichtig ist die Frage, wo Daten gespeichert und verarbeitet werden. Hier müssen zwei Begriffe getrennt betrachtet werden:
EU Data Residency regelt die Speicherung
Data Residency bestimmt, in welcher geografischen Region bestimmte Kundeninhalte gespeichert werden. OpenAI ermöglicht berechtigten ChatGPT Enterprise und Edu Kunden inzwischen eine Speicherung innerhalb Europas. Dazu können beispielsweise Konversationen, Dateien und bestimmte weitere Kundeninhalte gehören.
EU Inference Residency betrifft die Modellverarbeitung
Inference Residency geht einen Schritt weiter. Bei einer entsprechend eingerichteten europäischen Region findet die GPU basierte Modellinferenz für die erfassten Kundeninhalte innerhalb dieser Region statt. OpenAI weist allerdings ausdrücklich darauf hin, dass dies nicht jede technische Verarbeitung einschließt. Bestimmte CPU Prozesse, Routing Funktionen oder externe Integrationen können weiterhin außerhalb der gewählten Region stattfinden.
Genau deshalb reicht die Aussage „Unsere Daten liegen in Europa“ für eine belastbare Bewertung nicht aus. Speicherung und Verarbeitung müssen getrennt geprüft werden.
Wie selbst eine sichere ChatGPT Umgebung zum Datenschutzproblem werden kann
Ein Fallbeispiel: Nehmen wir ein Unternehmen, das ChatGPT Enterprise für die Personalabteilung einführt. Datenresidenz und Inference Residency sind für Europa konfiguriert. Unternehmensdaten werden nicht zum Training der Modelle verwendet.
Die Ausgangslage klingt zunächst solide.
Nun lädt die HR-Abteilung vollständige Bewerbungsunterlagen hoch und bittet ChatGPT darum, alle Kandidat:innen zu bewerten und eine Rangliste zu erstellen. Damit verändert sich die Situation erheblich. Bewerbungsunterlagen enthalten zahlreiche personenbezogene Daten. Einige davon sind möglicherweise für die konkrete Aufgabe nicht erforderlich. Die DSGVO verlangt jedoch, personenbezogene Daten auf das für den jeweiligen Zweck notwendige Maß zu beschränken.
Zusätzlich wird es kritisch, wenn eine KI faktisch über Menschen entscheidet. Artikel 22 DSGVO schützt Personen grundsätzlich vor Entscheidungen, die ausschließlich auf automatisierter Verarbeitung beruhen und ihnen gegenüber rechtliche Wirkung entfalten oder sie ähnlich erheblich beeinträchtigen. Ein automatisches Aussortieren von Bewerber:innen ohne echte menschliche Prüfung kann deshalb erheblich problematischer sein als eine bloße Unterstützung der Personalabteilung.
Ein sinnvollerer Ansatz reduziert sowohl das Risiko als auch die Datenmenge. Bewerbungsunterlagen können beispielsweise vor der Verarbeitung anonymisiert oder auf tatsächlich benötigte Qualifikationen reduziert werden. ChatGPT kann anschließend Interviewfragen vorbereiten oder Informationen für eine menschliche Bewertung strukturieren.
Das Ziel sollte niemals sein, möglichst viele Daten durch KI verarbeiten zu lassen. Das Ziel ist, für einen klar definierten Zweck nur die notwendigen Daten bereitzustellen.
Die größte Schwachstelle ist nicht im Modell
Selbst eine technisch und vertraglich gut konfigurierte Lösung schützt ein Unternehmen leider nicht davor, dass Mitarbeitende sensible Kundendaten in den falschen Chat kopieren.
Datenschutz bei generativer KI ist ganz klar eine Frage der KI-Kompetenz.
Der europäische AI-Act greift diesen Punkt inzwischen ausdrücklich auf. Betreiber von KI-Systemen sollen Maßnahmen unterstützen, mit denen die KI-Kompetenz der beteiligten Mitarbeitenden entwickelt wird. Dabei sollen unter anderem Erfahrung, Ausbildung und der konkrete Nutzungskontext berücksichtigt werden.
Zusätzlich sollte eine KI-Richtlinie die Anforderungen in konkrete Arbeitsregeln übersetzen. Die IHK Schwaben empfiehlt unter anderem festzulegen, welche KI-Anwendungen genutzt werden dürfen, wie mit sensiblen Daten umzugehen ist und wer für Freigaben verantwortlich ist.
Ohne solche Regeln entsteht schnell Schatten-KI. Mitarbeitende verwenden dann private Accounts oder nicht freigegebene Tools, weil sie ihre Aufgaben damit schneller erledigen können. Aus Unternehmenssicht geht damit genau die Kontrolle verloren, die durch zentrale Lizenzen und technische Schutzmaßnahmen eigentlich geschaffen werden sollte.
Erst der Use Case, dann das Tooling
Die Einführung von ChatGPT oder jedem anderen KI-Tool sollte deshalb nicht mit der Frage beginnen, wie viele Lizenzen benötigt werden. Sie sollte mit der Frage beginnen, welche Aufgaben mit dem Tool bearbeitet werden sollen.
Für jeden relevanten Use Case lässt sich anschließend prüfen, ob personenbezogene Daten verarbeitet werden, welche Daten tatsächlich notwendig sind und welches Risiko durch die Verarbeitung entsteht.
Für den Einstieg bietet sich ein pragmatisches Vorgehen an.
- Eine KI-Richtlinie definieren. Sie regelt erlaubte Tools, zulässige Daten, Verantwortlichkeiten und die notwendige Kontrolle von Ergebnissen.
- Konkrete Use Cases festlegen. Textentwürfe ohne personenbezogene Informationen benötigen eine andere Bewertung als Kundenakten, Bewerbungen oder interne Vertragsunterlagen.
- Die passende Lizenz und Konfiguration wählen. Business Funktionen wie der Ausschluss vom Modelltraining sind relevant. Bei höheren Anforderungen an Datenresidenz und Verarbeitung müssen Enterprise Optionen geprüft werden.
- Mitarbeitende schulen. Sie müssen erkennen können, welche Informationen personenbezogen, vertraulich oder anderweitig schützenswert sind.
- Nach dem Minimalprinzip arbeiten. Die KI erhält nur die Daten und Zugriffsrechte, die sie für eine konkrete Aufgabe tatsächlich benötigt.
Entscheidend ist nicht nur, wo ChatGPT läuft
EU-Server, Business Verträge und deaktiviertes Modelltraining sind wichtige Bausteine. Sie ersetzen aber keine Governance.
Ein datenschutzgerechter Einsatz entsteht erst dann, wenn Technik, Verträge und tatsächliche Nutzung zusammenpassen. Ein sauber konfiguriertes Enterprise System kann problematisch eingesetzt werden. Gleichzeitig kann ein klar begrenzter Anwendungsfall mit wenigen oder keinen personenbezogenen Daten vergleichsweise unkompliziert sein.
Unternehmen sollten ChatGPT deshalb weder pauschal verbieten noch unkontrolliert freigeben. Der sinnvollere Weg besteht darin, konkrete Anwendungsfälle zu bewerten, Daten konsequent zu begrenzen und für Mitarbeitende nachvollziehbare Regeln zu schaffen.
Wer genau diese Grundlage schaffen möchte, sollte nicht mit einer allgemeinen Tool Diskussion beginnen. they consulting unterstützt Unternehmen dabei, sinnvolle KI Use Cases zu identifizieren, technische Rahmenbedingungen einzuordnen und eine praxistaugliche KI-Richtlinie für den tatsächlichen Arbeitsalltag zu entwickeln. Sprechen Sie mit uns darüber, wie ChatGPT in Ihrem Unternehmen kontrolliert und sinnvoll eingesetzt werden kann.
Über den Autor: Als Teil des Management-Teams der they consulting GmbH verantwortet Joshua Kaufmann die strategische Weiterentwicklung von Unternehmen und begleitet mittelständische Kunden bei der Einführung und Umsetzung von KI in der Organisation.