Ob Unternehmensdaten in der KI sicher sind, lässt sich leider nicht pauschal beantworten. Entscheidend ist der konkret genutzte Dienst, welche Daten hineingegeben werden, wo und wie sie verarbeitet werden und welche vertraglichen sowie technischen Schutzmaßnahmen gelten. Wer interne Inhalte in einen externen KI-Chat eingibt, gibt diese zunächst an einen externen Dienstleister weiter. Das bedeutet allerdings nicht automatisch, dass die Inhalte auch zum Modelltraining verwendet oder an Dritte verkauft werden.
Wer Daten in einen KI-Chat eingibt, gibt sie vermutlich aus der Hand
Ein KI-Chat wirkt im Arbeitsalltag schnell wie ein weiteres Softwarewerkzeug. Bei einem extern betriebenen Dienst passiert technisch aber etwas Entscheidendes. Unternehmensdaten verlassen die eigene kontrollierte Umgebung und werden durch die Systeme eines anderen Unternehmens verarbeitet.
Das ist zunächst weder ungewöhnlich noch grundsätzlich problematisch.
Unternehmen nutzen seit Jahren externe Cloud-Dienste für E-Mail, CRM, Videokonferenzen oder Dokumentenverwaltung. Bei KI wird diese Tatsache nur leichter übersehen, weil die Interaktion unmittelbar ist. Nehmen wir ein einfaches Beispiel. Vertriebsmitarbeitende möchten ein Angebot sprachlich verbessern und kopieren den vollständigen Entwurf in einen frei zugänglichen KI-Chat. Das Dokument enthält den Kundennamen, die Ansprechperson, vereinbarte Preise und Teile der internen Kalkulation.
In diesem Moment verarbeitet der Anbieter diese Informationen nach den Bedingungen des verwendeten Dienstes. Ob der Inhalt gespeichert wird, wie lange er gespeichert bleibt und wofür er verwendet werden darf, hängt vom Produkt, Tarif und teilweise auch von den gewählten Einstellungen ab.
Genau deshalb sollte die Frage nicht lauten, ob die KI sicher ist. Sinnvoller ist die Frage, unter welchen Bedingungen ein bestimmter KI-Dienst bestimmte Unternehmensdaten verarbeiten darf.
Verarbeitung bedeutet nicht automatisch Modelltraining
Eine wichtige Unterscheidung geht in der Diskussion häufig verloren. Wenn ein KI-Anbieter einen Prompt verarbeitet oder eine Chat-Historie speichert, bedeutet das nicht automatisch, dass diese Inhalte zum Training zukünftiger Modelle genutzt werden. Gerade kommerzielle Angebote können sich in diesem Punkt deutlich von frei verfügbaren Consumer-Diensten unterscheiden. Manche Anbieter schließen die Nutzung von Unternehmensdaten für das Modelltraining vertraglich aus. Andere machen sie von Einstellungen, Einwilligungen oder dem gewählten Tarif abhängig.
Deshalb ist die pauschale Aussage, KI-Anbieter würden grundsätzlich mit allen eingegebenen Daten trainieren, nicht belastbar. Genauso wenig sollte allein vom Namen eines Tarifs auf dessen Sicherheit geschlossen werden.
Entscheidend sind die tatsächlich geltenden Vertragsbedingungen, Einstellungen, Aufbewahrungsfristen und aktivierten Funktionen.
So erkennen Sie geeignete KI-Dienste
Ein professioneller oder als Enterprise vermarkteter Dienst kann viele Anforderungen erfüllen, die für den Unternehmenseinsatz wichtig sind. Der Produktname allein ist dafür aber kein Beleg. Unternehmen sollten deshalb immer konkrete Kriterien prüfen.
Dazu gehört zunächst die Frage, ob Ein- und Ausgaben für das Training oder die Verbesserung von Modellen genutzt werden dürfen. Ebenso wichtig ist, wie lange Inhalte gespeichert werden und ob sich diese Fristen konfigurieren lassen.
Auch die Zugriffskontrolle spielt eine zentrale Rolle. Unternehmen sollten nachvollziehen können, wer innerhalb der eigenen Organisation auf Chats, Dateien oder angebundene Datenquellen zugreifen darf. Funktionen für Rollen, Berechtigungen, zentrale Administration und Protokollierung können hier entscheidend sein.
Hinzu kommt die vertragliche Ebene. Bei personenbezogenen Daten sollte geklärt sein, welche datenschutzrechtlichen Vereinbarungen gelten, welche Unterauftragnehmer beteiligt sind und wie der Anbieter mit Löschanfragen oder Sicherheitsvorfällen umgeht.
Schließlich lohnt sich ein Blick auf einzelne Funktionen. Eine Websuche, ein Datei-Upload oder die Anbindung interner Systeme wird komplett andere Datenflüsse erzeugen als ein reiner Text-Chat. Ein Dienst sollte deshalb nicht nur als Ganzes bewertet werden. Relevant ist, welche Funktionen tatsächlich genutzt werden und welche Daten dabei wohin gelangen.
Veränderte Risiken dank Data Residency
Für europäische Unternehmen spielt zusätzlich eine Rolle, wo Daten gespeichert und verarbeitet werden. Die DSGVO stellt besondere Anforderungen an die Übermittlung personenbezogener Daten in Drittländer. Solche Transfers sind nicht grundsätzlich verboten, können aber zusätzliche rechtliche und organisatorische Maßnahmen erfordern.
Ein Dienst mit Data Residency innerhalb der EU kann deshalb die rechtliche und organisatorische Komplexität reduzieren. Wenn verfügbar, kann eine Verarbeitung ausschließlich in Deutschland für bestimmte Unternehmen zusätzliche Anforderungen an Datenhoheit oder interne Richtlinien erfüllen.
Data Residency sollte allerdings genau gelesen werden. Speicherort und Verarbeitungsort sind nicht zwangsläufig dasselbe. Auch Support-Zugriffe, Unterauftragnehmer oder einzelne Zusatzfunktionen können außerhalb der gewählten Region verarbeitet werden.
„Unsere Daten liegen in Europa“ beantwortet deshalb noch nicht jede Datenschutzfrage.
Drei Fragen entscheiden über die richtige Lösung
Zu Beginn jedes KI-Vorhabens muss geklärt werden, welche Daten tatsächlich verarbeitet werden sollen. Öffentliche Marketingtexte haben ein anderes Risikoprofil als personenbezogene Daten, Verträge, Quellcode oder vertrauliche Kalkulationen. Bei besonders schützenswerten Informationen sollte geprüft werden, ob die Daten überhaupt vollständig an ein Sprachmodell übergeben werden müssen. Häufig lassen sich Namen, Kundendaten oder andere sensible Bestandteile vorher anonymisieren oder entfernen. Eine interne KI-Richtlinie kann dabei helfen, Mitarbeitenden einen Überblick über die aktuellen Reglungen innerhalb des Unternehmens zu geben.
Erst dann folgt die technische und vertragliche Prüfung. Wo werden Daten gespeichert und verarbeitet? Welche Unterauftragnehmer sind beteiligt? Wie lange bleiben Inhalte erhalten? Werden sie für Modelltraining oder andere eigene Zwecke verwendet? Welche administrativen Kontrollen stehen der IT zur Verfügung?
Anschließend sollte auf Basis dieser Informationen der Nutzen gegen das verbleibende Risiko abgewogen werden. Ein theoretisch vorhandenes Risiko kann vertretbar sein, wenn der geschäftliche Nutzen hoch und das Schadenspotenzial gering ist. Bei kritischem geistigem Eigentum kann dieselbe Architektur hingegen ungeeignet sein.
Ein pauschales KI-Verbot löst das Problem nicht
Ein häufig unterschätztes Risiko entsteht nicht durch den offiziell eingeführten KI-Dienst, sondern durch unkontrollierte Nutzung. Wenn Mitarbeitende einen klaren Nutzen in KI erkennen, intern aber keine geeigneten Werkzeuge und Regeln erhalten, weichen sie schnell auf frei verfügbare Angebote aus. Dann fehlen der IT genau die Kontrollmöglichkeiten, die für einen sicheren Einsatz erforderlich wären.
Hinzu kommen klassische Bedienfehler. Eine vertrauliche Datei wird versehentlich hochgeladen. Ein KI-Assistent erhält zu weitreichende Berechtigungen. Eine Datenquelle wird angebunden, auf die mehr Personen zugreifen können als vorgesehen. Sicherheit entsteht deshalb nicht durch Verbote allein. Unternehmen brauchen einen kontrollierten Weg, auf dem Mitarbeitende KI produktiv nutzen können.
Der praktische Einstieg in sichere KI-Nutzung
- Bestehende KI-Nutzung erfassen. Zunächst muss sichtbar sein, welche Dienste bereits eingesetzt werden und welche Daten dort typischerweise landen. Dabei geht es nicht um Kontrolle des Teams, sondern um ein realistisches Bild der vorhandenen Nutzung.
- Eine passende Unternehmenslösung auswählen. Abhängig vom Schutzbedarf kann das ein sauber konfigurierter Business-Dienst, eine API-basierte interne Anwendung oder eine selbst betriebene Lösung mit einem Open-Source-Modell sein. Datenschutz, Informationssicherheit und Fachbereiche sollten dabei gemeinsam entscheiden. Externe Expert:innen können bei der Bewertung und dem anschließenden Roll-Out wertvolle Hilfestellung bieten.
- Mitarbeitende befähigen. Ein freigegebenes Tool funktioniert nur, wenn klar ist, welche Daten hineindürfen und welche nicht. Schulungen sollten deshalb konkrete Alltagssituationen behandeln und nicht bei abstrakten Datenschutzregeln stehen bleiben.
Sichere KI beginnt mit einer bewussten Entscheidung
Unternehmensdaten sind nicht automatisch unsicher, sobald KI ins Spiel kommt. Sie sind aber auch nicht automatisch geschützt, nur weil ein Produkt für Unternehmen angeboten wird.
Unternehmen müssen wissen, welche Daten sie welchem Dienst anvertrauen, welche vertraglichen Zusagen gelten und welche technischen Grenzen sie selbst setzen. Für viele alltägliche Anwendungen kann ein professionell konfigurierter Business-Dienst eine sinnvolle Lösung sein. Bei besonders kritischen Daten kann eine stärker kontrollierte oder selbst betriebene Architektur die bessere Entscheidung sein.
Wer diese Grenzen bewusst definiert, muss KI-Nutzung nicht verhindern. Er kann sie kontrollierbar machen.
Sie möchten einschätzen, welche KI-Lösung zum Schutzbedarf Ihrer Unternehmensdaten passt? Wir betrachten mit Ihnen bestehende Nutzung, Datenflüsse und technische Optionen und entwickeln daraus einen Ansatz, der im Arbeitsalltag tatsächlich funktioniert. Das Erstgespräch kostet nichts, die Einordnung Ihrer konkreten Datensicherheitslage ist in einem Termin realistisch.
Über den Autor: Pierre Dahmani ist Teil des Entwicklungsteams von they consulting GmbH. Gemeinsam mit seinen Kolleg:innen unterstützt er mittelständische Unternehmen dabei, KI sinnvoll und produktiv im Arbeitsalltag einzusetzen.