ChatGPT, Copilot oder Claude: Welche KI ist wirklich DSGVO-konform?

Textgrafik mit ChatGPT, Copilot und Claude zur DSGVO-konformen KI vor unscharfem Büroumfeld.

ChatGPT, Copilot oder Claude: Welche KI ist wirklich DSGVO-konform?

„KI-Modell X ist DSGVO-konform“ - dieser Satz klingt beruhigend und ist gefährlich zugleich. Keines der drei Tools, weder ChatGPT noch Copilot noch Claude, erfüllt die Vorgaben von Haus aus. Ob Sie rechtlich sauber arbeiten, hängt von Tarif, Vertrag und Einstellungen ab.

Für mittelständische Unternehmen, die gerade digitalisieren, ist das entscheidend. Die größte Gefahr ist nicht die Technik, sondern die Annahme, der Anbieter habe das Compliance-Problem längst gelöst. Dieser Artikel zeigt Ihnen, wo die Risiken liegen und wie Sie KI kontrolliert einsetzen.

Warum die Frage nach dem „besten“ Tool zu kurz greift

Die eigentliche Frage lautet nicht, welche KI am meisten Regeln einhält. Sie lautet: Unter welchen Bedingungen darf Ihr Unternehmen welche KI überhaupt einsetzen? Denn der Einsatz verlagert einen Teil der Verantwortung auf Sie.

Die typischen Risiken

  • Schatten-KI: Mitarbeiter nutzen Tools privat und ohne Wissen des Arbeitgebers. Haften muss trotzdem das Unternehmen, wenn interne Dokumente, Passwörter oder Kundendaten eingegeben werden.
  • Kostenlose Versionen: ChatGPT Free und Plus, Claude Free und Pro sowie Copilot ohne Enterprise-Lizenz bieten keinen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO. Für Geschäftsdaten sind sie tabu.
  • Datenresidenz: EU-Speicherung gibt es bei ChatGPT, Claude und Copilot nur in bestimmten Tarifen und Einstellungen. Bei Lastspitzen können die Daten dennoch außerhalb der EU verarbeitet werden.
  • Prompt Injection: Versteckte Anweisungen in Dokumenten, E-Mails oder Webseiten können die KI manipulieren. Im schlimmsten Fall fließen Passwörter oder API-Keys an Dritte.
  • Fehlende Transparenz: Wer Mitarbeiter, Kunden oder Lieferanten nicht über den KI-Einsatz informiert, verstößt gegen die Transparenzpflichten der DSGVO.

Fünf Irrtümer, die teuer werden

  1. „Der Anbieter ist ein Konzern, der hat das geregelt.“ Der AI Act nimmt ausdrücklich auch Unternehmen in die Pflicht, die KI einsetzen.
  2. „Unsere Daten bleiben in der EU.“ Auch bei EU-Hosting können Daten für Support oder Entwicklung in die USA fließen.
  3. „Wir haben ein Zertifikat.“ ISO 27001 oder SOC 2 ersetzen keine Prüfung Ihrer Use Cases und Risikoklassen.
  4. „Wir haben einen AVV.“ Das ist notwendig, aber nicht ausreichend. Der AVV klärt nicht, welche Use Cases zulässig sind oder wie lange Daten gespeichert werden.
  5. „Wir vertrauen unseren Mitarbeitern.“ Vertrauen ist keine Strategie. KI-Nutzung muss systematisch gesteuert werden.
Ein Gerichtshammer liegt auf aufgeschlagenen Büchern – Sinnbild für den rechtlichen Rahmen DSGVO-konformer KI.

Irrtümer können schnell zu Bußgeldern in Millionenhöhe führen.

Dazu kommt: Viele Firmen investieren zuerst in Lizenzen und zuletzt in Governance. Wer dann sagt „Wir entscheiden später“, riskiert, bei Dokumentation und Betroffeneninformation zu spät zu sein. Und im Ernstfall können Sie nicht nachweisen, dass Sie die Verarbeitung beherrschen. Das kostet nicht nur Bußgelder, sondern auch das Vertrauen von Kunden, Mitarbeitern und Aufsichtsbehörden.

So setzen Sie KI kontrolliert ein

Die gute Nachricht: Mit einem klaren Vorgehen kommen Sie weit.

Ihre Schritte im Überblick

  1. Bestandsaufnahme: Welche Tools sind aktiv, welche Use Cases werden abgebildet, wer hat Zugriff?
  2. Risikoklassen: Ordnen Sie jeden Use Case einer der vier Stufen des EU AI Act zu.
  3. Verträge prüfen: Besteht ein gültiger AVV, der KI-Funktionen ausdrücklich abdeckt?
  4. Einstellungen anpassen: Stellen Sie die Datenresidenz, soweit möglich, auf die EU und deaktivieren Sie unnötige Funktionen wie automatische Zusammenfassungen oder Training.
  5. Regeln definieren: Legen Sie fest, welche Use Cases freigegeben und welche ausgeschlossen sind, besonders im HR-Bereich, bei Kreditentscheidungen oder in der Kundenbewertung.
  6. Zuständigkeiten klären: Wer aktiviert Funktionen, wer verwaltet Berechtigungen, wer wird im Verdachtsfall informiert?
  7. Dokumentieren und informieren: Halten Sie Daten, Zweck, Rechtsgrundlage und Speicherdauer fest und informieren Sie Betroffene transparent.
  8. Technik absichern: Setzen Sie auf PreToolUse-Hooks, Input-Hygiene, DLP-Kontrollen, Monitoring und klare Freigaben für Integrationen und Dateizugriffe.
  9. Schulungen: Vermitteln Sie Ihren Mitarbeitern Wissen zu Prompt Injection, Schatten-KI und sicherem Arbeiten mit KI-Agenten.

Ihr Ziel: kontrollierte Modernisierung

Ein verantwortungsbewusstes Unternehmen nutzt KI nicht blind, sondern gesteuert. Es weiß jederzeit, welche Tools laufen und wer Zugriff hat. Es kommuniziert offen, dass KI sicher und datenschutzkonform eingesetzt wird. Die Geschäftsführung kann belegen, dass sie nicht nur in Effizienz investiert hat, sondern auch in Schulungen und technische Kontrollen.

Fazit

Ein „DSGVO-konformes Tool“ gibt es nicht per Knopfdruck. Entscheidend sind Tarif, Vertrag, Einstellungen und vor allem Ihre eigene Steuerung. Starten Sie noch diese Woche mit der Bestandsaufnahme. So bleiben Sie handlungsfähig, wenn jemand nachfragt oder ein Prompt-Injection-Angriff versucht wird.

Ist eines der drei Tools automatisch DSGVO-konform?

Nein. Weder ChatGPT noch Copilot noch Claude sind von Haus aus datenschutz- und AI Act konform. Es kommt auf Tarif, Vertrag und Einstellungen an.

Dürfen wir kostenlose Versionen im Unternehmen nutzen?

Für Geschäftsdaten nicht. Free-, Plus- und Pro-Tarife sowie Copilot ohne Enterprise-Lizenz bieten keinen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO.

Reicht ein Auftragsverarbeitungsvertrag aus?

Er ist notwendig, aber nicht hinreichend. Zusätzlich müssen Sie Use Cases, Zugriffe und Speicherfristen regeln sowie dokumentieren.

Haftet das Unternehmen, wenn Mitarbeiter privat KI nutzen?

Ja. Der Arbeitgeber bleibt dafür verantwortlich, welche Daten in die KI gelangen, auch bei Schatten-KI.

Seit wann gelten die Schulungspflichten?

Die Schulungs- und Dokumentationspflichten nach dem EU AI Act sind seit August 2026 verbindlich.

Diese Webseite verwendet Cookies

Diese Webseite nutzt Cookies, um Ihnen das bestmögliche Erlebnis zu gewährleisten. Cookies helfen uns, die Webseite mit Analysen zu verbessern. Mit einem Klick auf „Zustimmen“, stimmen Sie der Verwendung von Cookies zu. Sie können Ihre Einwilligung jederzeit ändern, indem Sie unter "Optionen verwalten" Ihre getroffenen Einstellungen selbst rückgängig machen. Weitere Informationen finden Sie in unserer Datenschutzerklärung.

Privatsphäre-Einstellungen

Wir verwenden Cookies und ähnliche Technologien auf unserer Website und verarbeiten personenbezogene Daten von dir (z.B. IP-Adresse), um z.B. Inhalte und Anzeigen zu personalisieren, Medien von Drittanbietern einzubinden oder Zugriffe auf unsere Website zu analysieren.

Die Datenverarbeitung kann auch erst in Folge gesetzter Cookies stattfinden. Wir teilen diese Daten mit Dritten, die wir in den Privatsphäre-Einstellungen benennen.

Einige Services verarbeiten personenbezogene Daten in den USA. Indem du der Nutzung dieser Services zustimmst, erklärst du dich auch mit der Verarbeitung deiner Daten in den USA gemäß Art. 49 (1) lit. a DSGVO einverstanden. Die USA werden vom EuGH als ein Land mit einem unzureichenden Datenschutzniveau nach EU-Standards angesehen. Insbesondere besteht das Risiko, dass deine Daten von US-Behörden zu Kontroll- und Überwachungszwecken verarbeitet werden, unter Umständen ohne die Möglichkeit eines Rechtsbehelfs.

Du bist unter 16 Jahre alt? Dann kannst du nicht in optionale Services einwilligen. Du kannst deine Eltern oder Erziehungsberechtigten bitten, mit dir in diese Services einzuwilligen.


Ihre Einstellungen für Einwilligungen

Hier haben Sie die Möglichkeit, Ihre Einwilligung für die Datenverarbeitung durch Cookies zu erteilen oder zu widerrufen. Sie können Ihre Einstellungen jederzeit ändern. Weitere Informationen finden Sie in unserer Datenschutzerklärung.