Welche KI ist DSGVO-konform? ChatGPT, Cloud-Dienste und lokale Modelle im Vergleich

Welche KI ist DSGVO-konform?

Keine, jedenfalls nicht als Produkt. Die DSGVO regelt die Verarbeitung personenbezogener Daten. Verantwortlicher ist, wer über deren Zwecke und Mittel entscheidet (Art. 4 Nr. 7 DSGVO), beim Einsatz eines KI-Tools also Ihr Unternehmen. Es muss die Einhaltung der Grundsätze nachweisen können (Art. 5 Abs. 2, „Rechenschaftspflicht“). Selbst eine Zertifizierung nach Art. 42 mindert diese Verantwortung nicht.

Woran Sie ein Tool erkennen, mit dem dieser Nachweis gelingen kann, beschreibt die Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK) in ihrer Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ vom 6. Mai 2024. Daraus ergeben sich fünf Prüffragen an jedes KI-Tool:

Ist ChatGPT DSGVO-konform?

Das hängt vom Konto, vom Vertrag und von den Daten ab, die Sie eingeben. Zur Verbraucherversion hat die ChatGPT-Taskforce des Europäischen Datenschutzausschusses (EDSA) in ihrem Bericht vom 23. Mai 2024 festgehalten: OpenAI nutzt Eingaben, Datei-Uploads und Feedback nach eigener Aussage, um das Modell zu trainieren, stützt sich dafür auf berechtigte Interessen (Art. 6 Abs. 1 lit. f DSGVO) und bietet ein Opt-out an. Die Verfahren der Aufsichtsbehörden liefen damals noch; der Bericht gibt vorläufige Einschätzungen wieder.

Für den Einsatz im Unternehmen bietet OpenAI Business-Tarife und eine API an. Nutzen Sie einen solchen Cloud-Dienst für eigene Zwecke, ist der Anbieter nach Einschätzung der DSK häufig Ihr Auftragsverarbeiter. Dann schließen Sie mit ihm einen Vertrag nach Art. 28 Abs. 3 DSGVO. Für die API nennt OpenAI in seiner Dokumentation zu Datenkontrollen (abgerufen am 12.11.2026):

• Seit dem 1. März 2023 werden Daten, die über die API gesendet werden, nicht zum Training verwendet, außer Sie stimmen der Weitergabe ausdrücklich zu.
• Protokolle zur Missbrauchsüberwachung können Prompts und Antworten enthalten und werden standardmäßig bis zu 30 Tage aufbewahrt.
• Ist Data Residency für Ihr Konto freigeschaltet (die Berechtigung klärt laut OpenAI der Vertrieb), lässt sich für neue Projekte eine Speicherregion wie die EU wählen. Für jede Region außer den USA verlangt OpenAI eine Freigabe für Kontrollen der Missbrauchsüberwachung und eine Vertragsergänzung („Modified Retention amendment“).

Wollen Sie Verträge, Akten oder Arztbriefe trotzdem einem Cloud-Dienst geben, reicht es laut DSK regelmäßig nicht, Namen und Anschriften zu entfernen: Der Personenbezug kann sich aus dem Zusammenhang ergeben. Wie Sie auch Aktenzeichen, Kontonummern und indirekte Merkmale aus Word-Dateien, PDFs und Scans entfernen, zeigt die Seite Dokumente anonymisieren.

Dürfen personenbezogene Daten an einen KI-Anbieter in den USA gehen?

Ja, aber nur mit einer Grundlage aus Kapitel V der DSGVO. Eine Übermittlung in ein Drittland ist nur zulässig, wenn Verantwortlicher und Auftragsverarbeiter die Bedingungen dieses Kapitels einhalten (Art. 44 DSGVO). Ohne besondere Genehmigung erlaubt ist sie, wenn die Kommission dem Land ein angemessenes Schutzniveau bescheinigt hat (Art. 45 Abs. 1).

Für die USA ist das der Durchführungsbeschluss (EU) 2023/1795 vom 10. Juli 2023, der Angemessenheitsbeschluss zum Datenschutzrahmen EU-USA (EU-US Data Privacy Framework). Er deckt nicht jedes US-Unternehmen ab, sondern nur Organisationen auf der „Data Privacy Framework List“, die das US-Handelsministerium öffentlich führt (Art. 1). Prüfen Sie deshalb vor dem Vertrag, ob Ihr KI-Anbieter dort eingetragen ist. Fehlt der Eintrag, brauchen Sie geeignete Garantien, etwa Standarddatenschutzklauseln der Kommission (Art. 46 Abs. 2 lit. c DSGVO).

Läuft das Modell auf Ihrem eigenen Server in der EU, gehen die Eingaben an keinen KI-Anbieter. Für diesen Verarbeitungsschritt brauchen Sie dann keine Grundlage nach Kapitel V.

Cloud-Dienst oder eigener Server: Was ändert sich datenschutzrechtlich?

Der Betriebsort entscheidet, wer Ihre Eingaben sieht, wer die Einstellungen festlegt und welche Verträge Sie brauchen:

Ist lokale KI automatisch DSGVO-konform?

Nein, aber sie räumt die heikelsten Fragen ab. Betreibt eine Stelle die KI ausschließlich zu eigenen Zwecken auf eigenen Servern, ist sie laut DSK in der Regel alleiniger Verantwortlicher. Kein Anbieter trainiert mit Ihren Eingaben. Sauber eingerichtet ist ein lokales Modell genau das technisch geschlossene System, das die DSK bevorzugt.

Offen bleibt die Herkunft des Modells. Der EDSA hält in seiner Stellungnahme 28/2024 vom Dezember 2024 fest, dass KI-Modelle, die mit personenbezogenen Daten trainiert wurden, nicht in allen Fällen anonym sind. Setzt ein anderer Verantwortlicher ein solches Modell ein, sollen die Aufsichtsbehörden berücksichtigen, ob er sich angemessen vergewissert hat, dass es nicht mit rechtswidrig verarbeiteten Daten entwickelt wurde. Das betrifft auch offene Modelle, die Sie herunterladen und selbst betreiben. Halten Sie deshalb fest, welches Modell Sie warum gewählt haben und was der Hersteller zu den Trainingsdaten angibt.

Alle übrigen Pflichten aus der DSGVO gelten auf dem eigenen Server unverändert. Wie ein solcher Server mit Dokumentensuche aussieht und was er kostet, steht auf der Seite Lokale KI für Unternehmen. Ob er sich gegenüber Abo und Cloud-API rechnet, zeigt der KI-Kostenrechner mit Ihren eigenen Zahlen.

Wie nutzt man KI DSGVO-konform?

In acht Schritten, angelehnt an die Gliederung der DSK-Orientierungshilfe. Sie gelten für Cloud-Dienste und eigene Server gleichermaßen.

1. Zweck festlegen: Halten Sie fest, wofür die KI eingesetzt wird. Nur an einem konkreten Zweck lässt sich prüfen, ob personenbezogene Daten dafür erforderlich sind.
2. Daten einordnen: Prüfen Sie Eingaben, Ausgaben und Anmeldedaten auf Personenbezug. Die Verarbeitung von Gesundheitsdaten ist nach Art. 9 Abs. 1 DSGVO untersagt, solange keine Ausnahme aus Abs. 2 greift.
3. Rechtsgrundlage bestimmen: Jede Verarbeitung braucht mindestens eine Bedingung aus Art. 6 Abs. 1, auch die Übermittlung an einen KI-Anbieter.
4. Betriebsmodell wählen und Verträge schließen, bevor die ersten echten Daten fließen.
5. Risiko bewerten: Hat die Verarbeitung voraussichtlich ein hohes Risiko, ist vorab eine Datenschutz-Folgenabschätzung Pflicht (Art. 35 Abs. 1). Beim Einsatz von KI wird das laut DSK „vielfach der Fall sein“. Ein benannter Datenschutzbeauftragter ist dabei um Rat zu fragen (Abs. 2).
6. Dokumentieren: Tragen Sie die Verarbeitung in das Verzeichnis von Verarbeitungstätigkeiten ein (Art. 30) und informieren Sie die Betroffenen.
7. Menschen entscheiden lassen: Betroffene haben das Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt (Art. 22 Abs. 1). Als Verstoß nennt die DSK eine KI, die Bewerbungen auswertet und selbstständig zu Vorstellungsgesprächen einlädt.
8. Regeln und Voreinstellungen festlegen: Bestimmen Sie schriftlich, welche KI wofür erlaubt ist. Schalten Sie Training mit Eingaben und die Historie über die Sitzung hinaus von Anfang an ab. Schulen Sie die Beschäftigten und beziehen Sie, soweit vorhanden, den Datenschutzbeauftragten und den Betriebsrat ein.

Häufige Fragen

Dürfen Beschäftigte ChatGPT mit ihrem privaten Account nutzen?

Die DSK rät davon ab. Für die berufliche Nutzung sollen Arbeitgeber Geräte und Accounts bereitstellen, weil über private Accounts Profile zu einzelnen Beschäftigten entstehen können. Läuft die KI nicht auf eigenen Servern, sollen die Accounts keine Namen der Beschäftigten enthalten; die DSK nennt stattdessen eine Funktions-E-Mail-Adresse des Unternehmens.

Was gilt für einen KI-Chatbot auf der eigenen Website?

Dort geben Ihre Kunden selbst Daten ein. Sie brauchen also eine Rechtsgrundlage, müssen die Nutzer informieren und, wenn ein Cloud-Anbieter den Chatbot als Ihr Auftragsverarbeiter betreibt, mit ihm einen Vertrag nach Art. 28 Abs. 3 schließen. Die ChatGPT-Taskforce des EDSA hat für ChatGPT festgehalten: Ist der Dienst öffentlich zugänglich, ist davon auszugehen, dass Menschen früher oder später personenbezogene Daten eingeben, und eine Klausel, dass Nutzer für ihre Eingaben selbst verantwortlich sind, verlagert die Verantwortung nicht. Für einen Chatbot auf Ihrer Website liegt derselbe Schluss nahe.

Was passiert, wenn das Data Privacy Framework fällt?

Dann fehlt für Übermittlungen in die USA der Angemessenheitsbeschluss. Ohne ihn darf ein Verantwortlicher Daten nur mit geeigneten Garantien übermitteln, etwa Standarddatenschutzklauseln, und nur wenn Betroffene durchsetzbare Rechte und wirksame Rechtsbehelfe haben (Art. 46 Abs. 1 DSGVO). Ein Modell auf einem eigenen Server in der EU betrifft das nicht.

Was gilt, wenn die KI falsche Angaben über eine Person erzeugt?

Personenbezogene Daten müssen sachlich richtig sein (Art. 5 Abs. 1 lit. d DSGVO), und Betroffene haben ein Recht auf Berichtigung. Die DSK verlangt deshalb, personenbezogene Ergebnisse vor der Weiterverarbeitung zu prüfen. Die ChatGPT-Taskforce des EDSA hält fest, dass das Trainingsverfahren zu einem Modell führt, das auch verzerrte oder erfundene Ausgaben erzeugen kann.