Produktivitätsgewinne durch Large Language Models (LLMs) sind für abgegrenzte Aufgaben im Feldexperiment gemessen worden, nicht jedoch durchgängig und nicht für jede Tätigkeit. Die unregulierte Nutzung durch Mitarbeiter verlagert zugleich Risiken auf das Unternehmen, ohne dass dieses davon erfährt. Wie verbreitet das ist, lässt sich bislang nur aus der Sicht der Unternehmen schätzen: In einer repräsentativen Befragung von 604 Unternehmen ab 20 Beschäftigten geben 8 Prozent an, die Nutzung privater KI-Tools sei bei ihnen weit verbreitet, 17 Prozent berichten von Einzelfällen, weitere 17 Prozent vermuten eine solche Nutzung, ohne es sicher zu wissen (vgl. Bitkom, 2025). Erhoben wurde damit die Einschätzung der Unternehmen, nicht das Verhalten der Beschäftigten; eine Erhebung, die den Anteil der Beschäftigten selbst misst, ist uns nicht bekannt. Dieser Beitrag ordnet drei dieser Risikofelder anhand der im Quellenverzeichnis nachgewiesenen Publikationen ein.

1. Exfiltration proprietärer Daten und Verletzung des Datenschutzes

Das naheliegendste Risiko der unregulierten KI-Nutzung liegt in der Preisgabe sensibler Unternehmensdaten. Wenn Mitarbeiter interne Dokumente, Finanzdaten oder proprietären Quellcode in cloudbasierte LLMs eingeben, findet de facto ein unautorisierter Datentransfer statt. Der Stanford AI Index Report 2024 haelt fuer den Bereich Responsible AI fest, dass robuste, standardisierte Evaluierungsverfahren weitgehend fehlen und die fuehrenden Anbieter ihre Modelle an unterschiedlichen Benchmarks pruefen, was den Vergleich der Risiken erschwert (vgl. Stanford HAI, 2024). Der Report ist ein Lagebericht zum Stand der Technik; welche Eingaben ein einzelner Anbieter speichert oder weiterverwendet, dokumentiert er nicht. Genau darin liegt der Punkt: Was mit einer Eingabe geschieht, richtet sich nach den Nutzungsbedingungen des jeweiligen Dienstes. Die Datenschutzkonferenz unterscheidet dafür geschlossene und offene Systeme; bei offenen, über das Internet zugänglichen Cloud-Diensten verlassen die Eingabedaten den geschützten Bereich des Anwenders und können je nach Konzeption der Anwendung auch für die Beantwortung von Anfragen anderer Nutzer verwendet werden (vgl. DSK, 2024). Wie es im Einzelfall geregelt ist, steht in den Bedingungen des Anbieters: Anthropic etwa behält sich in seinen Consumer Terms of Service vor, Eingaben und Ausgaben zur Verbesserung der Dienste und zum Training der Modelle zu verwenden, solange der Nutzer dem nicht in den Kontoeinstellungen widerspricht; für die kommerziellen Angebote gelten eigene Bedingungen (vgl. Anthropic, 2025). Andere Anbieter regeln das anders, und bei unautorisierter Nutzung weiß die Geschäftsführung schon nicht, welcher Dienst überhaupt im Einsatz ist - und damit auch nicht, welche Bedingungen gelten.

2. Epistemologische Unsicherheit und die „gezackte technologische Grenze“

Generative KI-Modelle operieren stochastisch, was regelmäßig zu faktisch inkorrekten Ausgaben („Halluzinationen“) führt. Ein Feldexperiment mit Unternehmensberatern (Dell'Acqua et al., 2025) prägte hierfür den Begriff der „Jagged Technological Frontier“. Innerhalb der Kompetenzgrenze des Modells erledigten die Teilnehmer mit KI-Unterstützung rund 12 Prozent mehr Aufgaben in rund 25 Prozent weniger Zeit, bei zugleich höher bewerteter Qualität. Bei einer Aufgabe jenseits dieser Grenze kehrte sich der Befund um: Die Gruppe mit KI-Zugang kam etwa 19 Prozentpunkte seltener zur richtigen Lösung als die Kontrollgruppe ohne KI. Für Shadow AI ist weniger der Fehler selbst das Problem als seine Unsichtbarkeit: Die Grenze verläuft ungleichmäßig und ist der Ausgabe nicht anzusehen; in der Studie übernahmen Teilnehmer die Modellausgabe auch dort, wo sie in die Irre führte (vgl. Dell'Acqua et al., 2025). Ohne dokumentierte Nutzung fehlt dem Unternehmen zudem die Möglichkeit, betroffene Arbeitsergebnisse später überhaupt zu identifizieren.

3. Urheberrechtliche Haftungsrisiken bei generierten Inhalten

Die urheberrechtliche Einordnung KI-generierter Inhalte ist nicht abschließend geklärt. Wenn Mitarbeiter KI-generierte Code-Snippets, Texte oder Entwürfe in Produkte des Unternehmens einarbeiten, übernimmt das Unternehmen ein Risiko, dessen Umfang es nicht beurteilen kann – weil es von der Nutzung nichts weiß. Ein Aufsatz im Harvard Journal of Law & Technology widerspricht der verbreiteten Annahme, Stil sei ohne Weiteres urheberrechtlich ungeschützt: Was als Stil bezeichnet wird, könne im Einzelfall Schutz genießen, und der dafür maßgebliche Test der „substantial similarity“ sei uneinheitlich und gerade bei Bildern schwer anzuwenden – ein Problem, das sich bei generativen Modellen verschärft, weil sie darauf ausgelegt sind, genau jene rechtlich schwer fassbaren Ähnlichkeiten zu erkennen und zu erzeugen (vgl. Sobel, Harvard JOLT, 2024). Es handelt sich um eine rechtswissenschaftliche Analyse zum US-amerikanischen Recht, nicht um eine Aussage zum deutschen Urheberrecht und nicht um einen empirischen Nachweis, dass Modelle geschützte Werke reproduzieren.

Synthese und Handlungsempfehlung

Ein pauschales Verbot generativer KI dürfte das Phänomen eher verlagern als beenden. Eine Studie, die die Wirkung eines Verbots mit der Wirkung einer geregelten Freigabe vergleicht, ist uns nicht bekannt; die folgende Empfehlung stützt sich daher nicht auf einen Wirkungsnachweis, sondern auf zwei nachprüfbare Umstände. Erstens ist das Verbot in der deutschen Praxis ohnehin die Ausnahme: In einer repräsentativen Befragung von rund 1.500 Unternehmen untersagen nur 4 Prozent der Informationswirtschaft und 8 Prozent des Verarbeitenden Gewerbes den Einsatz generativer KI, während 22 Prozent der Informationswirtschaft und 39 Prozent des Verarbeitenden Gewerbes ihn ohne klare Vorgaben tolerieren (vgl. ZEW, 2026). Zweitens sehen die Datenschutzaufsichtsbehörden genau in dieser Regelungslücke ein Risiko: Ohne klare Regelungen bestehe die Gefahr, dass Beschäftigte KI-Anwendungen eigenmächtig und unkontrolliert nutzen, und für die berufliche Nutzung sollten Arbeitgeber Geräte und Accounts bereitstellen, damit Beschäftigte nicht auf private Zugänge ausweichen müssen (vgl. DSK, 2024). Das ist eine aufsichtsbehördliche Empfehlung, kein empirischer Wirkungsnachweis. Der Sache nach bleibt es bei einem einfachen Umstand: Ein Verbot, das niemand kontrolliert, macht die Nutzung nicht seltener, sondern undokumentiert – mit den oben beschriebenen Folgen. Der geregelte Weg hat gegenüber dem Verbot zumindest den nachprüfbaren Vorteil, dass er Gegenstände benennt, die sich kontrollieren lassen: eine freigegebene Umgebung mit vertraglich geklärtem Datenweg, eine schriftliche Regel, welche Inhalte dort eingegeben werden dürfen, und eine Schulung, die die Kompetenzgrenze der Modelle an den eigenen Aufgaben zeigt. Wer die Prüfung der Ergebnisse nicht organisiert, hat die Verantwortung nicht delegiert, sondern nur unsichtbar gemacht.

Quellenverzeichnis

Über den Autor

Prof. Dr. rer. nat. Mike Espig

Professor für Mathematik und angewandte Künstliche Intelligenz in der Industrie an der Westsächsischen Hochschule Zwickau · Gründungsleiter der Data Science Research Group · Geschäftsführer der E&O Gesellschaft für Integrierte KI-Systeme mbH

Zuvor Max-Planck-Institut für Mathematik in den Naturwissenschaften und RWTH Aachen. Arbeitsschwerpunkte: numerische Verfahren für hochdimensionale Probleme, Tensormethoden und der Einsatz von Sprachmodellen in mittelständischen Unternehmen.

Von der Einordnung zur Anwendung

Was heißt das für Ihren Betrieb?

Wir betrachten Ihre Aufgabe, die vorhandenen Daten und die Voraussetzungen für einen sinnvollen Einsatz.

Den KI-Kompass kennenlernen