Gastbeitrag von Sandra Leist, Geschäftsführerin von Werk3 – Ihr Partner für Datenschutz, Cyber Security & KI.
Selbst der Chef der US-Cybersicherheitsbehörde hat vertrauliche Dokumente in ChatGPT geladen. 2026 war ein Rekordjahr für KI-Pannen, und die meisten davon könnten morgen genauso in Ihrem Unternehmen passieren. Wir zeigen die fünf spektakulärsten Fälle des Jahres, erklären, was dahintersteckt, und sagen Ihnen, was Sie ab Montag dagegen tun können.
Die KI ist da, die Regeln kommen hinterher
Künstliche Intelligenz ist längst im Büroalltag angekommen, oft schneller als die Regeln dafür. Laut Bitkom haben nur 23 Prozent der Unternehmen in Deutschland Vorgaben für den KI-Einsatz. Das Institut der deutschen Wirtschaft fand 2026 heraus: Knapp 30 Prozent der Beschäftigten, die KI im Job nutzen, greifen auf Tools zurück, die der Arbeitgeber gar nicht bereitgestellt hat.
Was dabei schiefgehen kann, hat dieses Jahr eindrucksvoll gezeigt. Wir haben die fünf größten KI-Datenschutz-Fails 2026 gesammelt. Keiner davon ist exotisch. Jeder lässt sich auf ganz normale Unternehmen übertragen.
Fail 1: Wenn der Cyber-Chef selbst zu ChatGPT greift
Ende Januar 2026 berichtete Politico über einen Fall mit besonderer Ironie. Der kommissarische Leiter der US-Cybersicherheitsbehörde CISA hatte interne Vertragsunterlagen in die öffentliche Version von ChatGPT geladen. Die Dokumente waren als „nur für den Dienstgebrauch“ gekennzeichnet. Für alle anderen Mitarbeitenden war ChatGPT gesperrt, er selbst hatte sich eine Ausnahme genehmigen lassen. Die Uploads lösten mehrere Sicherheitswarnungen aus, das Ministerium musste den möglichen Schaden prüfen.
Ein Fall aus unserer Beratungspraxis: In einer Steuerkanzlei lud eine Mitarbeiterin Steuerbescheide in ihren privaten ChatGPT-Account, um Mandantenbriefe zu formulieren. Den Namen hatte sie abgeschnitten, die Steuer-ID nicht. Der Kanzleiinhaber hatte das KI-Verbot selbst unterschrieben und nutzte trotzdem die kostenlose Version. So gehen personenbezogene Daten ohne Auftragsverarbeitungsvereinbarung an einen Dritten, häufig in die USA. Abhilfe schaffen ein freigegebenes KI-Tool mit Unternehmenslizenz, eine einfache Daten-Ampel für erlaubte und verbotene Inhalte und eine klare Regel: keine Ausnahmen für die Chefetage.
Fail 2: Die heimlichen Mitleser im Browser
Anfang Januar 2026 enttarnte die Sicherheitsfirma OX Security zwei Chrome-Erweiterungen, die einen bequemen Zugang zu ChatGPT, Claude und DeepSeek versprachen. Rund 900.000 Menschen hatten sie installiert, eine trug sogar das Abzeichen „Empfohlen“ im Chrome Web Store. Tatsächlich schickten die Erweiterungen alle 30 Minuten die kompletten KI-Gespräche und die Adressen aller offenen Tabs an einen fremden Server. Um Einwilligung gebeten hatten sie nur für „anonyme Analysedaten“.
Ein Fall aus unserer Beratungspraxis: In einem Autohaus kannte die IT zwei Browser-Erweiterungen, installiert waren 17. Darunter ein KI-Schreibhelfer, der auch die Finanzierungsanfragen im Online-CRM mitlesen durfte. Bei einem anderen Mandanten nahm ein KI-Notizbot plötzlich am Personalgespräch teil und verschickte die Zusammenfassung an alle. Legen Sie per Richtlinie fest, welche Erweiterungen und Bots erlaubt sind, und prüfen Sie neue Tools vor dem Einsatz: Serverstandort, Vertrag, Trainingsnutzung, Löschmöglichkeit. Ein Store-Abzeichen ersetzt diese Prüfung nicht.
Fail 3: 300 Millionen Chats für alle
Die App „Chat & Ask AI“ hat über 50 Millionen Nutzer und ist im Grunde nur ein Vermittler. Sie nimmt die Fragen entgegen, reicht sie an ChatGPT, Gemini oder Claude weiter und präsentiert die Antworten im eigenen Design. Für die Nutzer sieht das aus wie eine KI aus einem Guss. Tatsächlich sitzt ein unbekannter Dritter dazwischen. Anfang 2026 entdeckte ein Sicherheitsforscher, dass die Datenbank dahinter offen im Netz stand, weil die Zugriffsregeln auf „öffentlich“ eingestellt waren. Einsehbar waren rund 300 Millionen Nachrichten von über 25 Millionen Nutzern, mit kompletten Chatverläufen. Der Anbieter schloss die Lücke nach dem Hinweis innerhalb weniger Stunden. Doch der Forscher prüfte anschließend 200 iOS-Apps und fand bei 103 davon dasselbe Problem.
Ein Fall aus unserer Beratungspraxis: Ein Pflegedienst nutzte eine kostenlose KI-Diktier-App für die Pflegedokumentation, mit Diagnosen und Medikamenten. Wo die Aufnahmen landeten, wusste niemand. Und bei unseren Website-Checks finden wir immer öfter KI-Chat-Widgets, die in keinen Datenschutzhinweisen stehen. Nach Artikel 32 DSGVO sind Sie für angemessene Sicherheit verantwortlich, auch wenn die Agentur das Tool eingebaut hat. Nutzen Sie KI direkt beim Anbieter mit Unternehmensvertrag und lassen Sie eigene Anwendungen vor dem Start prüfen.
Fail 4: Copilot und das gläserne Postfach
Microsoft 365 Copilot mit Unternehmenslizenz ist datenschutzrechtlich ein guter Weg. Trotzdem sorgte er 2026 für Schlagzeilen. Ab dem 21. Januar meldeten Kunden, dass Copilot Chat E-Mails aus den Ordnern „Gesendet“ und „Entwürfe“ zusammenfasste, obwohl sie als vertraulich gekennzeichnet waren und eine Schutzrichtlinie aktiv war. Microsoft bestätigte einen Code-Fehler und lieferte im Februar einen Fix.
Das größere Risiko sind aber die eigenen Freigaben. Copilot sieht alles, was ein Nutzer sehen darf. Die Gehaltsliste, die vor Jahren versehentlich für „alle“ freigegeben wurde, hat früher niemand gefunden. Copilot findet sie in Sekunden.
Ein Fall aus unserer Beratungspraxis: Vor einem Copilot-Rollout haben wir mit einem ganz normalen Testkonto nach sensiblen Daten gesucht. Nach zehn Minuten fanden wir Bewerbungsunterlagen im Teams-Kanal „Allgemein“ und eine Fehlzeitenliste aller Mitarbeitenden, freigegeben für alle. Der Rollout wurde verschoben, zu Recht. Räumen Sie Berechtigungen auf, bevor Sie ausrollen, vor allem in Personal, Geschäftsführung und Finanzen. Starten Sie mit einer Pilotgruppe und machen Sie genau diesen Test. Was Copilot findet, ist Ihre To-do-Liste.
Fail 5: KI-Agenten mit Generalschlüssel
Der Hype des Jahres heißt KI-Agent: Programme, die nicht nur antworten, sondern selbst handeln. Besonders populär wurde OpenClaw, ein Open-Source-Agent mit vollem Zugriff auf den Rechner. Ende Januar 2026 startete dazu Moltbook, ein soziales Netzwerk, in dem nur KI-Agenten posten und Menschen zuschauen. Von den gemeldeten 1,5 Millionen „Nutzern“ hatte ein einziger Agent rund 500.000 selbst angelegt.
Weniger lustig: Am 31. Januar machte das Sicherheitsunternehmen Wiz öffentlich, dass die Datenbank von Moltbook offen war. Abrufbar waren E-Mail-Adressen, Login-Token und API-Schlüssel, also genau die Schlüssel, mit denen Agenten im Namen ihrer Besitzer handeln.
Ein Fall aus unserer Beratungspraxis: Bei einem Großhändler las ein selbstgebauter KI-Agent Rechnungen aus dem Buchhaltungspostfach aus. Er hatte Vollzugriff auf das gesamte Postfach, und der Zugangsschlüssel lag im Klartext auf dem Netzlaufwerk. Agenten ziehen gerade in Office-Programme, CRM und Browser ein. Geben Sie ihnen nur überprüfte Freigaben und nur die nötigsten Rechte. Alles, was nach außen geht, bestätigt ein Mensch!
Hinschauen statt verbieten
Alle fünf Fälle haben dieselbe Ursache: Niemand hat vorher gefragt, welches Tool im Einsatz ist, welche Daten wohin fließen und wer worauf Zugriff hat. Verbote helfen dabei wenig, denn dann wird KI eben heimlich genutzt. Außerdem verlangt Artikel 4 des AI Act seit Februar 2025, dass Unternehmen für die KI-Kompetenz ihrer Mitarbeitenden sorgen.
Mit diesem 30-Tage-Plan kommen Sie ohne Großprojekt voran:
Woche 1: Bestandsaufnahme aller KI-Tools, Apps, Erweiterungen und Agenten, offen und ohne Sanktionsdrohung.
Woche 2: Tools prüfen, ein gutes Werkzeug freigeben, Riskantes abschalten.
Woche 3: Eine KI-Richtlinie auf zwei Seiten, mit Daten-Ampel und ohne Chef-Ausnahmen.
Woche 4: Alle Nutzenden schulen, die Teilnahme dokumentieren und Berechtigungen aufräumen.
Sie müssen nicht perfekt sein. Aber Sie sollten zeigen können, dass Sie hingeschaut haben. Denn die KI ist nicht das Problem. Das Problem ist, dass keiner hinschaut.
Quellen
TechCrunch, 28.01.2026: CISA-Chef und ChatGPT
The Hacker News, 06.01.2026: Chrome-Erweiterungen stehlen KI-Chats
Malwarebytes, 09.02.2026: Chat & Ask AI
BleepingComputer: Copilot-Fehler CW1226324
Cyber Security News, 01.02.2026: Moltbook
The New Stack, 05.02.2026: OpenClaw
Bitkom, 21.10.2025: Schatten-KI
IW-Kurzbericht 63/2026: Schatten-KI
AI Act, Art. 4
