ChatGPT, Copilot oder Claude: Welche KI ist wirklich DSGVO-konform?
ChatGPT, Copilot oder Claude: Welche KI ist wirklich DSGVO-konform?
„KI-Modell X ist DSGVO-konform“ - dieser Satz klingt beruhigend und ist gefährlich zugleich. Keines der drei Tools, weder ChatGPT noch Copilot noch Claude, erfüllt die Vorgaben von Haus aus. Ob Sie rechtlich sauber arbeiten, hängt von Tarif, Vertrag und Einstellungen ab.
Für mittelständische Unternehmen, die gerade digitalisieren, ist das entscheidend. Die größte Gefahr ist nicht die Technik, sondern die Annahme, der Anbieter habe das Compliance-Problem längst gelöst. Dieser Artikel zeigt Ihnen, wo die Risiken liegen und wie Sie KI kontrolliert einsetzen.
Warum die Frage nach dem „besten“ Tool zu kurz greift
Die eigentliche Frage lautet nicht, welche KI am meisten Regeln einhält. Sie lautet: Unter welchen Bedingungen darf Ihr Unternehmen welche KI überhaupt einsetzen? Denn der Einsatz verlagert einen Teil der Verantwortung auf Sie.
Die typischen Risiken
- Schatten-KI: Mitarbeiter nutzen Tools privat und ohne Wissen des Arbeitgebers. Haften muss trotzdem das Unternehmen, wenn interne Dokumente, Passwörter oder Kundendaten eingegeben werden.
- Kostenlose Versionen: ChatGPT Free und Plus, Claude Free und Pro sowie Copilot ohne Enterprise-Lizenz bieten keinen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO. Für Geschäftsdaten sind sie tabu.
- Datenresidenz: EU-Speicherung gibt es bei ChatGPT, Claude und Copilot nur in bestimmten Tarifen und Einstellungen. Bei Lastspitzen können die Daten dennoch außerhalb der EU verarbeitet werden.
- Prompt Injection: Versteckte Anweisungen in Dokumenten, E-Mails oder Webseiten können die KI manipulieren. Im schlimmsten Fall fließen Passwörter oder API-Keys an Dritte.
- Fehlende Transparenz: Wer Mitarbeiter, Kunden oder Lieferanten nicht über den KI-Einsatz informiert, verstößt gegen die Transparenzpflichten der DSGVO.
Fünf Irrtümer, die teuer werden
- „Der Anbieter ist ein Konzern, der hat das geregelt.“ Der AI Act nimmt ausdrücklich auch Unternehmen in die Pflicht, die KI einsetzen.
- „Unsere Daten bleiben in der EU.“ Auch bei EU-Hosting können Daten für Support oder Entwicklung in die USA fließen.
- „Wir haben ein Zertifikat.“ ISO 27001 oder SOC 2 ersetzen keine Prüfung Ihrer Use Cases und Risikoklassen.
- „Wir haben einen AVV.“ Das ist notwendig, aber nicht ausreichend. Der AVV klärt nicht, welche Use Cases zulässig sind oder wie lange Daten gespeichert werden.
- „Wir vertrauen unseren Mitarbeitern.“ Vertrauen ist keine Strategie. KI-Nutzung muss systematisch gesteuert werden.

Irrtümer können schnell zu Bußgeldern in Millionenhöhe führen.
Dazu kommt: Viele Firmen investieren zuerst in Lizenzen und zuletzt in Governance. Wer dann sagt „Wir entscheiden später“, riskiert, bei Dokumentation und Betroffeneninformation zu spät zu sein. Und im Ernstfall können Sie nicht nachweisen, dass Sie die Verarbeitung beherrschen. Das kostet nicht nur Bußgelder, sondern auch das Vertrauen von Kunden, Mitarbeitern und Aufsichtsbehörden.
So setzen Sie KI kontrolliert ein
Die gute Nachricht: Mit einem klaren Vorgehen kommen Sie weit.
Ihre Schritte im Überblick
- Bestandsaufnahme: Welche Tools sind aktiv, welche Use Cases werden abgebildet, wer hat Zugriff?
- Risikoklassen: Ordnen Sie jeden Use Case einer der vier Stufen des EU AI Act zu.
- Verträge prüfen: Besteht ein gültiger AVV, der KI-Funktionen ausdrücklich abdeckt?
- Einstellungen anpassen: Stellen Sie die Datenresidenz, soweit möglich, auf die EU und deaktivieren Sie unnötige Funktionen wie automatische Zusammenfassungen oder Training.
- Regeln definieren: Legen Sie fest, welche Use Cases freigegeben und welche ausgeschlossen sind, besonders im HR-Bereich, bei Kreditentscheidungen oder in der Kundenbewertung.
- Zuständigkeiten klären: Wer aktiviert Funktionen, wer verwaltet Berechtigungen, wer wird im Verdachtsfall informiert?
- Dokumentieren und informieren: Halten Sie Daten, Zweck, Rechtsgrundlage und Speicherdauer fest und informieren Sie Betroffene transparent.
- Technik absichern: Setzen Sie auf PreToolUse-Hooks, Input-Hygiene, DLP-Kontrollen, Monitoring und klare Freigaben für Integrationen und Dateizugriffe.
- Schulungen: Vermitteln Sie Ihren Mitarbeitern Wissen zu Prompt Injection, Schatten-KI und sicherem Arbeiten mit KI-Agenten.
Ihr Ziel: kontrollierte Modernisierung
Ein verantwortungsbewusstes Unternehmen nutzt KI nicht blind, sondern gesteuert. Es weiß jederzeit, welche Tools laufen und wer Zugriff hat. Es kommuniziert offen, dass KI sicher und datenschutzkonform eingesetzt wird. Die Geschäftsführung kann belegen, dass sie nicht nur in Effizienz investiert hat, sondern auch in Schulungen und technische Kontrollen.
Fazit
Ein „DSGVO-konformes Tool“ gibt es nicht per Knopfdruck. Entscheidend sind Tarif, Vertrag, Einstellungen und vor allem Ihre eigene Steuerung. Starten Sie noch diese Woche mit der Bestandsaufnahme. So bleiben Sie handlungsfähig, wenn jemand nachfragt oder ein Prompt-Injection-Angriff versucht wird.
Ist eines der drei Tools automatisch DSGVO-konform?
Nein. Weder ChatGPT noch Copilot noch Claude sind von Haus aus datenschutz- und AI Act konform. Es kommt auf Tarif, Vertrag und Einstellungen an.
Dürfen wir kostenlose Versionen im Unternehmen nutzen?
Für Geschäftsdaten nicht. Free-, Plus- und Pro-Tarife sowie Copilot ohne Enterprise-Lizenz bieten keinen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO.
Reicht ein Auftragsverarbeitungsvertrag aus?
Er ist notwendig, aber nicht hinreichend. Zusätzlich müssen Sie Use Cases, Zugriffe und Speicherfristen regeln sowie dokumentieren.
Haftet das Unternehmen, wenn Mitarbeiter privat KI nutzen?
Ja. Der Arbeitgeber bleibt dafür verantwortlich, welche Daten in die KI gelangen, auch bei Schatten-KI.
Seit wann gelten die Schulungspflichten?
Die Schulungs- und Dokumentationspflichten nach dem EU AI Act sind seit August 2026 verbindlich.