Darf ich Kundendaten in ChatGPT eingeben?

Ein Kundenname macht einen Text nicht automatisch problematisch – aber er verändert die Prüfung

Kunden-E-Mails, Supportanfragen, Bestellungen oder Projektunterlagen können personenbezogene Informationen enthalten.

Das können offensichtliche Angaben wie Name und E-Mail-Adresse sein. Auch Kundennummern, individuelle Vorgänge oder andere Merkmale können einen Personenbezug ermöglichen.

Werden solche Informationen an einen externen KI-Dienst übermittelt und dort verarbeitet, handelt es sich nicht mehr nur um eine interne Textbearbeitung im eigenen Unternehmen.

Deshalb sollte vor der Eingabe geklärt werden, ob die personenbezogenen Angaben für die Aufgabe überhaupt notwendig sind.

Die einfachste Risikoreduktion: unnötige Kundendaten gar nicht eingeben

Für viele KI-Aufgaben benötigt das Modell keine reale Identität.

Soll beispielsweise eine freundlichere Formulierung für eine Antwort-E-Mail erstellt werden, reicht häufig der sachliche Kontext.

Statt:

„Fasse die Beschwerde von Frau Beispiel, Kundennummer 48372, zusammen.“

kann für die sprachliche Aufgabe möglicherweise ausreichen:

„Formuliere eine sachliche Antwort an einen Kunden, der eine verspätete Lieferung reklamiert.“

Ob eine solche Reduktion im konkreten Fall ausreicht, hängt von der Aufgabe ab. Der Grundgedanke ist jedoch einfach: Daten, die für das gewünschte Ergebnis nicht benötigt werden, müssen auch nicht an einen externen Dienst übermittelt werden.

Entfernen des Namens ist nicht immer Anonymisierung

Das bloße Löschen eines Namens kann zu wenig sein.

Wenn sich eine Person anhand anderer Angaben weiterhin bestimmen lässt, kann weiterhin ein Personenbezug bestehen.

Ein sehr konkreter Auftrag, ein seltener Vorfall, eine Kundennummer oder eine Kombination mehrerer Merkmale kann beispielsweise weiterhin Rückschlüsse ermöglichen.

Für praktische KI-Aufgaben ist es deshalb häufig sinnvoller, nicht nur Namen zu ersetzen, sondern den Prompt auf diejenigen Sachinformationen zu reduzieren, die wirklich für die Aufgabe erforderlich sind.

Nicht jede ChatGPT-Nutzung hat dieselben Rahmenbedingungen

Bei der Bewertung muss berücksichtigt werden, welche Produktvariante tatsächlich eingesetzt wird.

OpenAI unterscheidet unter anderem zwischen Angeboten für Einzelpersonen und Angeboten für Geschäftskunden.

Nach den von OpenAI veröffentlichten Informationen werden Daten aus ChatGPT Business und ChatGPT Enterprise standardmäßig nicht zum Training der Modelle verwendet.

Bei Diensten für Einzelpersonen können Inhalte zur Verbesserung beziehungsweise zum Training der Modelle verwendet werden. Nutzer können dieser Verwendung widersprechen. Nach den aktuellen OpenAI-Informationen werden neue Konversationen nach einem Opt-out nicht mehr zum Training der Modelle verwendet.

Eine gesonderte Ausnahme kann freiwilliges Feedback sein: Gibt ein Nutzer beispielsweise Feedback zu einer Modellantwort, kann die mit diesem Feedback verbundene Konversation nach Angaben von OpenAI zum Training der Modelle verwendet werden.

Diese Unterscheidung ist wichtig. Sie beantwortet aber noch nicht allein die Frage, ob eine konkrete Verarbeitung von Kundendaten zulässig ist.

„Nicht für Training verwendet“ bedeutet nicht automatisch „datenschutzrechtlich erledigt“

Die Verwendung für Modelltraining ist nur ein Teilaspekt.

Bei einem betrieblichen Einsatz müssen je nach Fall auch andere Fragen geklärt werden, beispielsweise:

• Für welchen Geschäftszweck werden die Kundendaten verarbeitet?
• Auf welcher rechtlichen Grundlage erfolgt die Verarbeitung?
• Welche personenbezogenen Angaben sind tatsächlich erforderlich?
• Welche vertraglichen Regelungen gelten für den eingesetzten Dienst?
• Welche Funktionen und Einstellungen sind im verwendeten Unternehmenskonto aktiviert?
• Müssen betroffene Personen über die Verarbeitung informiert werden?

Deshalb ist die Frage nach dem Modelltraining zwar wichtig, aber nicht mit einer vollständigen Datenschutzprüfung gleichzusetzen.

Drei praktische Situationen

Situation A: Marketingtext ohne Kundendaten

Ein Unternehmen möchte aus öffentlich bekannten Produktinformationen neue Formulierungsvarianten entwickeln.

Dabei werden weder Kundendaten noch interne vertrauliche Angaben eingegeben.

Datenschutzrechtliche Risiken aus Kundendaten stehen hier regelmäßig nicht im Mittelpunkt. Trotzdem sollte der erzeugte Inhalt vor Veröffentlichung fachlich und rechtlich geprüft werden.

Situation B: Antwort auf einen konkreten Supportfall

Ein Mitarbeiter möchte eine Antwort auf eine Reklamation formulieren lassen.

Für die sprachliche Formulierung werden Name, Anschrift, Telefonnummer und Kundennummer möglicherweise gar nicht benötigt.

Dann lässt sich der Sachverhalt häufig abstrahieren und die tatsächliche Kundenidentität aus der KI-Eingabe heraushalten.

Situation C: Analyse umfangreicher personenbezogener Unterlagen

Sollen dagegen umfangreiche echte Kundendokumente, Bewerbungsunterlagen, Gesundheitsinformationen oder andere sensible personenbezogene Inhalte verarbeitet werden, steigt der Prüfbedarf erheblich.

Solche Vorgänge sollten nicht aus Bequemlichkeit mit einem beliebigen privaten KI-Konto durchgeführt werden.

Hier sollten insbesondere Zweck, Zulässigkeit, eingesetzte Unternehmenslösung, Vertragsgestaltung und interne Freigabe fachkundig geklärt werden.

Besondere Sensibilität bei Gesundheits- und vergleichbaren Daten

Die DSGVO stellt für bestimmte Arten personenbezogener Daten zusätzliche Anforderungen auf.

Dazu zählen beispielsweise Gesundheitsdaten sowie weitere besondere Kategorien personenbezogener Daten.

Eine normale geschäftliche Zweckmäßigkeit reicht bei solchen Daten nicht als Begründung aus.

Wer mit derartigen Informationen arbeiten möchte, sollte den konkreten Einsatz vorab datenschutzrechtlich prüfen lassen.

Auch Unternehmensgeheimnisse verdienen Aufmerksamkeit

Nicht jede problematische Eingabe enthält personenbezogene Daten.

Eine interne Kalkulation, ein nicht veröffentlichter Vertragsentwurf, ein Zugangsschlüssel oder vertrauliche Projektinformationen können für ein Unternehmen ebenfalls schutzwürdig sein.

Deshalb sollte eine betriebliche KI-Regel nicht ausschließlich auf die DSGVO reduziert werden.

Mitarbeiter müssen auch wissen, welche internen Informationen das Unternehmen überhaupt an externe Dienste übermitteln möchte.

Private ChatGPT-Nutzung und betriebliche Nutzung sollten getrennt werden

Ein Mitarbeiter kann privat Zugang zu einem KI-Dienst besitzen. Daraus folgt nicht automatisch, dass dieses Konto auch für Kundeninformationen des Arbeitgebers eingesetzt werden sollte.

Für Unternehmen ist eine klare organisatorische Entscheidung sinnvoll:

• Welche KI-Dienste dürfen für geschäftliche Aufgaben genutzt werden?
• Welche Kontotypen sind dafür vorgesehen?
• Welche Daten sollen grundsätzlich nicht eingegeben werden?
• Wer ist Ansprechpartner bei ungewöhnlichen oder sensiblen Fällen?

Eine verständliche Regel ist in der Praxis hilfreicher als ein pauschales „KI ist verboten“ oder „KI darf für alles genutzt werden“.

Eine sinnvolle Entscheidung beginnt bei der konkreten Aufgabe

Statt mit einer langen Universalcheckliste zu arbeiten, lässt sich ein KI-Einsatz zunächst mit vier aufeinanderfolgenden Fragen eingrenzen.

Erstens: Was soll die KI eigentlich leisten?

Eine sprachliche Umformulierung benötigt andere Informationen als eine Analyse eines vollständigen Kundenvorgangs.

Zweitens: Welche echten Daten sind dafür unverzichtbar?

Alles, was keinen Beitrag zum gewünschten Ergebnis leistet, sollte möglichst aus der Eingabe herausgehalten werden.

Drittens: Unter welchen Bedingungen wird der Dienst betrieben?

Ein privates Nutzerkonto und eine vertraglich eingebundene Unternehmenslösung sind nicht automatisch gleich zu bewerten.

Viertens: Was geschieht nach der KI-Ausgabe?

Auch ein datenschutzrechtlich vertretbarer Input macht eine KI-Ausgabe nicht automatisch sachlich richtig.

Bevor Inhalte an Kunden gehen, veröffentlicht oder für geschäftliche Entscheidungen verwendet werden, sollten sie von einer fachlich geeigneten Person geprüft werden.

Warum KI-Ausgaben weiterhin menschliche Kontrolle brauchen

Generative KI kann plausible, aber falsche Aussagen erzeugen.

Das kann bei Marketingtexten unangenehm sein. Bei Aussagen über reale Personen, Verträge, Produkte oder rechtliche Sachverhalte können die Folgen wesentlich schwerwiegender sein.

Deshalb sollte ein Unternehmen vorab festlegen, bei welchen Aufgaben eine menschliche Freigabe zwingend erforderlich ist.

Ein kleines Beispiel für eine bessere Arbeitsweise

Angenommen, ein Unternehmen möchte aus einer langen Kundenkommunikation einen Antwortentwurf erstellen.

Eine weniger geeignete Vorgehensweise wäre, den vollständigen E-Mail-Verlauf inklusive Signaturen, Telefonnummern, Kundennummern und weiterer für die Aufgabe irrelevanter Angaben direkt in einen KI-Dienst einzufügen.

Eine bewusstere Arbeitsweise kann darin bestehen, zunächst die benötigten Fakten intern herauszulösen und der KI nur einen neutralisierten Sachverhalt zu geben.

Damit wird nicht automatisch jede rechtliche Frage gelöst. Es reduziert aber bereits die Menge der extern verarbeiteten personenbezogenen Informationen.

Braucht jedes Unternehmen eine umfangreiche KI-Richtlinie?

Nicht unbedingt.

Eine kleine Organisation benötigt möglicherweise kein umfangreiches Regelwerk mit zahlreichen Seiten.

Wichtig ist jedoch, dass Beschäftigte im Alltag einige zentrale Fragen eindeutig beantworten können:

• Welche geschäftlichen KI-Werkzeuge sind vorgesehen?
• Welche Informationen sollen nicht in externe KI-Dienste gelangen?
• Wann muss vor der Nutzung Rücksprache gehalten werden?
• Wer prüft fachlich relevante KI-Ausgaben?

Der Umfang der organisatorischen Regeln sollte zum tatsächlichen Einsatz und zum Risiko passen.

Ist ChatGPT damit „DSGVO-konform“?

Diese Formulierung ist für die Praxis zu pauschal.

Datenschutzrechtlich bewertet wird eine konkrete Verarbeitung. Dabei spielen unter anderem der Verantwortliche, der Zweck, die Daten, die Rechtsgrundlage, die eingesetzte Dienstvariante und die tatsächliche Konfiguration eine Rolle.

Die Stellungnahme 28/2024 des Europäischen Datenschutzausschusses behandelt Datenschutzfragen bei der Entwicklung und dem Einsatz von KI-Modellen, darunter Anonymität und berechtigtes Interesse, und betont eine fallbezogene Bewertung. Sie ist keine Produktfreigabe für ChatGPT und ersetzt nicht die Prüfung der konkreten Verarbeitung.

Daher ist weder „ChatGPT ist immer erlaubt“ noch „ChatGPT ist grundsätzlich verboten“ eine belastbare allgemeine Antwort für jedes Unternehmen und jeden Anwendungsfall.

Fazit

Ob Kundendaten in ChatGPT oder einen anderen generativen KI-Dienst eingegeben werden dürfen, lässt sich nicht allein am Produktnamen entscheiden.

Unternehmen sollten zuerst klären, ob reale personenbezogene Daten für die konkrete Aufgabe überhaupt benötigt werden. Anschließend sind Zweck, rechtliche Grundlage, Dienstkonfiguration und betriebliche Regeln zu berücksichtigen.

Wo eine Aufgabe auch mit neutralisierten oder rein sachlichen Informationen funktioniert, ist die Vermeidung unnötiger Kundendaten häufig der einfachere und risikoärmere Weg.

Persönliche Einschätzung

Frage zum Umgang mit Daten in KI-Workflows?

Ich unterstütze Sie dabei, Website- und SEO-Prozesse so zu strukturieren, dass sensible Daten nicht unnötig in KI-Workflows gelangen.

Ihr Kontakt: Mathias Ellmann
Persönliche SEO- & Website-Beratung

E-Mail senden Anrufen