„Damals“, so begann Espig, „wurden Kutschen gebaut wie nie zuvor. Die Haferhändler hatten Rekordumsätze, und die Stimmung war optimistisch.“ Zehn Jahre später: dieselbe Straße, derselbe Blick – aber keine Pferde mehr. Autos wohin das Auge reicht. Die Hufschmiede mussten umlernen, die Haferhändler schlossen ihre Läden.
„So“, sagte Espig mit ruhiger Stimme, „fühlt sich Veränderung an. Man merkt erst, dass sie da ist, wenn es zu spät ist.“
Wenn sich die Welt verändert.
Erfurt 13.08.2025 ThEx Board IHK Erfurt
Author: Prof. Dr. Mike Espig
Es gibt Momente, in denen ein Blick zurück mehr über die Zukunft verrät als jede Prognose.
Unser Geschäftsführer Prof. Dr. Mike Espig eröffnete seinen Vortrag genau mit einem solchen Moment: einem historischen Foto. Darauf zu sehen – eine belebte Straße um die Jahrhundertwende, voller Pferdekutschen, Händler und Menschen, die vom Fortschritt überzeugt waren.
Die beunruhigenden Trainings-Vorfälle von Claude Mythos
Die aktuellen Diskussionen rund um sogenannte „Trainings-Vorfälle“ bei KI-Systemen wie Claude Mythos ...
Die aktuellen Diskussionen rund um sogenannte „Trainings-Vorfälle“ bei KI-Systemen wie Claude Mythos verdeutlichen vor allem eines:
Die Entwicklung moderner Sprachmodelle hat eine Komplexität erreicht, die sowohl technologisch als auch regulatorisch neue Maßstäbe setzt. Aktuelle Analysen und Berichte – unter anderem aus dem Umfeld von Anthropic sowie aus unabhängigen Einordnungen wie dem Stanford AI Index Report (2024) – zeigen, dass unerwartetes Modellverhalten weniger als Kontrollverlust zu verstehen ist, sondern vielmehr als Folge hochkomplexer Trainingsprozesse und probabilistischer Modellarchitekturen (Anthropic, o. J.; Stanford University, 2024).
Für Unternehmen stellt sich damit eine zentrale strategische Frage:
Wie lässt sich das Potenzial dieser Systeme nutzen, ohne die Kontrolle über sensible Daten und Prozesse zu verlieren? Diese Fragestellung gewinnt insbesondere in regulierten Branchen wie Steuerberatung, Rechtsberatung und Medizin an Bedeutung. Regulatorische Entwicklungen wie der EU AI Act sowie bestehende Anforderungen aus der DSGVO unterstreichen zusätzlich, dass der Einsatz von KI nicht nur technologisch, sondern auch rechtlich durchdacht sein muss (Europäische Union, 2016).
Vor diesem Hintergrund wird deutlich: Die Lösung liegt nicht in einer generellen Zurückhaltung gegenüber KI, sondern in ihrer kontrollierten und kontextsensitiven Anwendung.
Lokale, unternehmensspezifische KI-Systeme
bieten hier einen vielversprechenden Ansatz, da sie die Leistungsfähigkeit moderner Modelle mit Anforderungen an Datenschutz, Nachvollziehbarkeit und Kontrolle verbinden. Beiträge wie die Analyse von kiberatung.de zu aktuellen Entwicklungen rund um Claude zeigen zudem, dass die Debatte häufig von Missverständnissen geprägt ist und eine differenzierte Einordnung erforderlich bleibt (Kiberatung, o. J.).
Für Organisationen ergibt sich daraus eine klare Handlungsperspektive:
Wer frühzeitig auf kontrollierbare, lokal betriebene KI-Lösungen setzt, schafft nicht nur Vertrauen, sondern positioniert sich strategisch für die nächste Phase der digitalen Transformation.
Unser Fazit
Zusammenfassend zeigt sich, dass die aktuellen Diskussionen rund um Trainings-Vorfälle bei KI-Systemen weniger auf grundlegende Schwächen der Technologie hinweisen, sondern vielmehr die zunehmende Komplexität moderner Modellarchitekturen und deren Trainingsprozesse widerspiegeln. Für Unternehmen ergibt sich daraus kein Anlass zur Zurückhaltung, sondern vielmehr die Notwendigkeit einer bewussten und strategischen Auseinandersetzung mit dem Einsatz von Künstlicher Intelligenz.
Insbesondere in sensiblen und regulierten Bereichen wird deutlich, dass nachhaltiger Mehrwert nur dort entsteht, wo technologische Innovation mit Kontrolle, Transparenz und rechtlicher Konformität verbunden wird. Lokale, unternehmensspezifische KI-Lösungen bieten hierfür einen geeigneten Rahmen, da sie sowohl die Anforderungen an Datenschutz erfüllen als auch eine gezielte Integration in bestehende Prozesse ermöglichen.
Damit wird KI nicht zum Risiko, sondern zu einem steuerbaren Instrument, das – richtig eingesetzt – entscheidend zur Wettbewerbsfähigkeit und Zukunftssicherung von Organisationen beitragen kann.
Über den Autor:
Prof. Dr. rer. nat. Mike Espig (Google Scholar, o. J.) ist Professor für Mathematik an der Westsächsischen Hochschule Zwickau (WHZ) und Leiter der Data Science Research Group (WHZ, o. J.; DSRG, o. J.). Nach seiner Promotion am Max-Planck-Institut für Mathematik in den Naturwissenschaften in Leipzig (MPI, o. J.) war er dort als wissenschaftlicher Mitarbeiter tätig und übernahm später eine Professur an der RWTH Aachen (RWTH Aachen, o. J.), bevor er an die WHZ berufen wurde (WHZ, o. J.). Neben seiner akademischen Tätigkeit ist er Gründer der GiKS und verbindet wissenschaftliche Forschung mit praxisnaher Anwendung von KI-Technologien (DSRG, o. J.).
Literaturverzeichnis
Anthropic (o. J.): Research. Verfügbar unter: https://www.anthropic.com/research
Europäische Union (2016): Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung). Verfügbar unter: https://eur-lex.europa.eu/eli/reg/2016/679/oj
Kiberatung (o. J.): Claude Mythos – Alles was du wissen musst. Verfügbar unter: https://www.kiberatung.de/blog/claude-mythos-alles-was-du-wissen-musst-deutsch
Max-Planck-Institut für Mathematik in den Naturwissenschaften (o. J.): Suchergebnisse Espig. Verfügbar unter: https://www.mis.mpg.de/de/search/search-results?tx_kesearch_pi1%5Bsword%5D=Espig
RWTH Aachen (o. J.): Preprints Espig. Verfügbar unter: https://www.igpm.rwth-aachen.de/forschung/preprints
Stanford University (2024): AI Index Report 2024. Verfügbar unter: https://aiindex.stanford.edu/report/
Westsächsische Hochschule Zwickau (o. J.): Profil Prof. Mike Espig. Verfügbar unter: https://www.whz.de/pti/organisation/fachgruppe-mathematik/personen/mike-espig/
Data Science Research Group (o. J.): DSRG. Verfügbar unter: https://dsrg.fh-zwickau.de/
Google Scholar (o. J.): Profil Mike Espig. Verfügbar unter: https://scholar.google.com/citations?user=kaIKbM4AAAAJ&hl=de
Künstliche Intelligenz in der Steuerberatung
zwischen technologischem Imperativ und strafrechtlichen Risiken
Die steuerberatende Profession in Deutschland steht vor einer beispiellosen Zerreißprobe. Einerseits zwingt der eklatante Fachkräftemangel –
Künstliche Intelligenz in der Steuerberatung: Zwischen technologischem Imperativ und strafrechtlichen Risiken
Von Prof. Dr. rer. nat. Mike Espig
Geschäftsführer der Gesellschaft für Integrierte KI Systeme (GiKS) mbH und Leiter der Data Science Research Group an der Westsächsischen Hochschule Zwickau
Die steuerberatende Profession in Deutschland steht vor einer beispiellosen Zerreißprobe. Einerseits zwingt der eklatante Fachkräftemangel – eindrucksvoll belegt durch das Statistische Berichtssystem für Steuerberater (STAX) – die Kanzleien zur unbedingten Digitalisierung und Automatisierung komplexer Prozesse. Andererseits führt die unreflektierte Adaption cloudbasierter Künstlicher Intelligenz (KI) aus den USA direkt in eine juristische Katastrophe. Als Geschäftsführer der Gesellschaft für Integrierte KI Systeme (GiKS) analysiere ich täglich die Architekturen dieser Modelle. Die ernüchternde Erkenntnis: Die Nutzung populärer amerikanischer KI-Dienste kollidiert frontal mit dem Kern des deutschen Berufsrechts. Wer Mandantendaten leichtfertig an globale Hyperscaler auslagert, riskiert nicht nur seine Zulassung, sondern begibt sich in die Gefahr eines unwiderruflichen Kontrollverlusts über intimste Mandantendaten.
1. Die unerbittliche Schranke des § 203 StGB: Parlamentarische und juristische Realitäten
Im Zentrum der steuerberatenden Tätigkeit steht das unantastbare Mandantengeheimnis. Der Gesetzgeber schützt dieses Vertrauensverhältnis durch § 203 des Strafgesetzbuches (StGB), welcher die unbefugte Offenbarung fremder Geheimnisse mit Freiheitsstrafe bis zu einem Jahr bedroht (Bundesministerium der Justiz, 2024).
Mit der fortschreitenden Digitalisierung gerieten Berufsgeheimnisträger zunehmend in Konflikt mit dieser Norm, sobald sie externe IT-Dienstleister einbanden. Der Deutsche Bundestag hat dieses Problem mit dem „Gesetz zur Neuregelung des Schutzes von Geheimnissen bei der Mitwirkung Dritter an der Berufsausübung schweigepflichtiger Personen“ adressiert (Deutscher Bundestag, 2017). Der Gesetzgeber stellte klar, dass Berufsgeheimnisträger strafbewehrte Sorgfaltspflichten erfüllen müssen und die eingeschalteten Dienstleister zwingend und formgerecht zur Geheimhaltung zu verpflichten sind.
Doch genau hier versagen die globalen KI-Anbieter. Die Bundessteuerberaterkammer (BStBK) stellt in ihren aktuellen Richtlinien unmissverständlich klar: Die Verschwiegenheitspflicht (§ 57 StBerG) bleibt beim Einsatz von KI uneingeschränkt bestehen (Bundessteuerberaterkammer, 2026). Vertrauliche Daten dürfen nur verarbeitet werden, wenn der Dienstleister rechtlich strikt an die Verschwiegenheit gebunden ist und Zugriffe unbefugter Dritter (sowie Transfers in Drittländer) ausgeschlossen sind. Da amerikanische KI-Konzerne sich den strikten Unterwerfungen des deutschen Strafrechts in der Regel entziehen, erfüllt die Eingabe von Klarnamen oder Bilanzen in einen webbasierten US-Chatbot den objektiven Tatbestand der Straftat nach § 203 StGB.
2. Die extraterritoriale Falle: Der US CLOUD Act und das Grundrecht auf IT-Sicherheit
Selbst wenn US-amerikanische Anbieter zusichern, ihre Server auf europäischem Boden zu betreiben, bleibt ein unheilbarer rechtlicher Defekt: der US CLOUD Act. Wie Gutachten des Deutschen Bundestages eindrücklich belegen, zwingt dieses US-Gesetz amerikanische Provider zur Herausgabe von Nutzerdaten an US-Behörden, unabhängig davon, ob diese Daten physisch in Frankfurt oder in Übersee gespeichert sind (Wissenschaftliche Dienste des Deutschen Bundestages, 2019).
Für einen deutschen Steuerberater bedeutet dies den ultimativen Kontrollverlust. Das Bundesverfassungsgericht hat bereits 2008 das Grundrecht auf Gewährleistung der Vertraulichkeit und Integrität informationstechnischer Systeme (das sogenannte IT-Grundrecht) etabliert und dieses durch aktuelle Rechtsprechung weiter gestärkt (Bundesverfassungsgericht, 2025). Die Auslieferung intimster finanzieller und strategischer Unternehmensdaten an Systeme, die durch extraterritoriale Gesetze fremden Geheimdiensten und Behörden offenstehen, untergräbt dieses verfassungsrechtliche Schutzgut und die anwaltliche wie steuerberatende Verschwiegenheit massiv.
3. Die irreversible Datenverwertung: Eine kritische Analyse anhand aktueller Stanford-Studien
In der öffentlichen Diskussion wird der Anbieter Anthropic mit seinem Modell „Claude“ oft fälschlicherweise als datenschutzfreundliche Alternative wahrgenommen. Eine detaillierte wissenschaftliche Auseinandersetzung durch das renommierte Stanford Institute for Human-Centered AI dekonstruiert diesen Mythos jedoch vollständig und offenbart eine erschreckende Realität (King, 2025).
Wie Jennifer King, Privacy and Data Policy Fellow in Stanford, in aktuellen Forschungen eindringlich warnt, müssen Nutzer von KI-Chatbots gravierende Bedenken hinsichtlich ihrer Privatsphäre haben. Eine Untersuchung offenbarte, dass führende US-Unternehmen die Eingaben ihrer Nutzer standardmäßig verwenden, um die Fähigkeiten ihrer Modelle weiter zu trainieren (King, 2025). Für Kanzleien bedeutet dies konkret: Werden sensible steuerliche Sachverhalte, Bilanzen oder Geschäftsgeheimnisse in einen Chatbot eingegeben oder als Datei hochgeladen, fließen diese Informationen potenziell unwiderruflich in die Trainingsmaschinerie ein.
Dieses Risiko wird durch den massiven Mangel an Transparenz innerhalb der Branche weiter verschärft. Der von Forschern aus Stanford, Berkeley und dem MIT herausgegebene Foundation Model Transparency Index 2025 belegt, dass die Transparenz der führenden KI-Unternehmen im vergangenen Jahr sogar noch weiter gesunken ist (Wan et al., 2025). Die Art und Weise, wie Anbieter wie Anthropic oder OpenAI Daten akquirieren und verarbeiten, bleibt für Außenstehende in weiten Teilen eine intransparente Blackbox.
Die technologische Konsequenz ist für den Berufsstand fatal: Das Training eines neuronalen Netzes transformiert Daten in Milliarden von Parametern. Sind Mandantengeheimnisse erst einmal in die Architektur eines Modells eingeflossen, können sie nicht mehr selektiv gelöscht werden. Die Kanzlei verliert die absolute Kontrolle, und die sensiblen Informationen sind der permanenten Gefahr ausgesetzt, durch gezielte Nutzerabfragen Dritter unfreiwillig reproduziert zu werden. Ein solches Szenario stellt für jeden Steuerberater einen existenzbedrohenden Verstoß gegen die berufliche Schweigepflicht dar.
4. Technologische Souveränität: Der Paradigmenwechsel hin zu lokalen On-Premise-Modellen
Um diese gravierenden sicherheitstechnischen Abgründe zu umgehen, bedarf es eines fundamentalen Paradigmenwechsels in der IT-Strategie der Kanzleien. Die einzig valide Lösung für Berufsgeheimnisträger ist der Aufbau integrierter, lokaler KI-Systeme (On-Premise). Genau aus diesem Grund haben wir die Gesellschaft für integrierte KI-Systeme (GiKS GmbH) gegründet. Unser Ansatz ist es, maßgeschneiderte, hochleistungsfähige Modelle so zu optimieren, dass sie physisch auf der Hardware innerhalb der eigenen Kanzlei-Infrastruktur laufen.
Wie immens leistungsfähig und praxisreif solche Systeme mittlerweile sind, zeigt exemplarisch die erst im April 2026 von Google veröffentlichte Modellgeneration Gemma 4 (Google DeepMind, 2026). Diese hochmodernen, lokal ausführbaren Open-Source-Modelle, die unter einer kommerziell nutzbaren Apache 2.0 Lizenz stehen, demonstrieren eindrucksvoll, dass man für absolute Spitzenleistung keinerlei Kompromisse beim Datenschutz mehr eingehen muss.
Die neuen Modelle – insbesondere die Ausführungen mit 26 und 31 Milliarden Parametern – erzielen herausragende Ergebnisse in komplexen analytischen Benchmarks (wie dem Mathematik-Benchmark AIME 2026 mit 89,2 % Erfolgsquote beim 31B-Modell) und eignen sich dadurch hervorragend für anspruchsvolle logische und steuerrechtliche Analysen (Google DeepMind, 2026). Zudem verfügen sie über enorme Kontextfenster von bis zu 256.000 Token. Das bedeutet für die Praxis: Steuerberater können ganze Aktenordner, Jahresabschlüsse und umfangreiche BMF-Schreiben in einem einzigen lokalen Arbeitsschritt auswerten lassen, ohne dass die Daten die Kanzlei verlassen.
Nur bei einer strikten On-Premise-Lösung bleiben die Daten im alleinigen Herrschaftsbereich des Steuerberaters. Der CLOUD Act läuft ins Leere, ein Abfluss in die Trainingsdatensätze amerikanischer Konzerne wird physikalisch unmöglich gemacht, und die strengen Vorgaben des § 203 StGB sowie der Bundessteuerberaterkammer sind vom ersten Tag an rechtssicher erfüllt.
5. Fazit
Künstliche Intelligenz wird die Steuerberatung revolutionieren. Doch die naive Nutzung amerikanischer Cloud-Dienste ist ein hochgefährlicher Irrweg, der die Existenzgrundlage des Berufsstandes – absolute Verschwiegenheit und Mandantenvertrauen – opfert. Die Zukunft gehört Kanzleien, die technologische Souveränität übernehmen. Durch den Einsatz lokaler, hochmoderner Systeme wie Gemma 4 lässt sich das enorme Effizienzpotenzial der Technologie nutzen, ohne auch nur eine Silbe des Berufsrechts zu verletzen.
Quellenverzeichnis
- Bundesministerium der Justiz (2024). Strafgesetzbuch (StGB) § 203 Verletzung von Privatgeheimnissen.
- Bundessteuerberaterkammer (2026). FAQ: KI im steuerberatenden Berufsstand. Stand 27. Januar 2026.
- Bundesverfassungsgericht (2025). Leitsätze zum Beschluss des Ersten Senats vom 24. Juni 2025 - 1 BvR 2466/19 - Trojaner I (Grundrecht auf Gewährleistung der Vertraulichkeit und Integrität informationstechnischer Systeme).
- Deutscher Bundestag (2017). Entwurf eines Gesetzes zur Neuregelung des Schutzes von Geheimnissen bei der Mitwirkung Dritter an der Berufsausübung schweigepflichtiger Personen (BT-Drucksache 18/11936).
- Google DeepMind (2026). Gemma 4: Byte for byte, the most capable open models. Google Innovation & AI Blog, April 2026.
- King, J. (2025). Be careful what you tell your AI chatbot. Stanford Institute for Human-Centered AI (HAI), Oktober 2025.
- Wan, A., Klyman, K., Kapoor, S., et al. (2025). The 2025 Foundation Model Transparency Index. Stanford Center for Research on Foundation Models (CRFM), arXiv:2512.10169 [cs.AI], Dezember 2025.
- Wissenschaftliche Dienste des Deutschen Bundestages (2019). Datenübermittlung an US-Ermittlungsbehörden auf Grundlage des CLOUD Acts im Geltungsbereich des EU-Datenschutzrechts (WD 3 - 3000 - 205/19).
Künstliche Intelligenz im Mittelstand
Künstliche Intelligenz im Mittelstand: Strategische Potenziale, Herausforderungen und Erfolgsfaktoren
Künstliche Intelligenz im deutschen Mittelstand: Zwischen Potenzial und Strategielücke
Künstliche Intelligenz (KI) hat sich in den vergangenen Jahren von einer technologischen Vision zu einem zentralen Wettbewerbsfaktor für Unternehmen entwickelt. Besonders im wirtschaftlich stark geprägten deutschen Mittelstand zeigt sich jedoch ein heterogenes Bild: Während einige Unternehmen KI bereits gezielt einsetzen, befinden sich viele noch in frühen Planungs- oder Orientierungsphasen.
Studien weisen darauf hin, dass der Einsatz von KI nicht nur einzelne Prozesse optimiert, sondern tiefgreifende Veränderungen in der gesamten Wertschöpfungskette ermöglicht. Unternehmen, die eine klare KI-Strategie verfolgen, berichten von signifikanten Produktivitätssteigerungen von etwa 18 bis 35 Prozent (Bitkom Research, 2025).
Strategische Lücke im Mittelstand
Trotz dieses Potenzials besteht weiterhin eine deutliche Strategielücke. Laut Analysen des Deutschen Mittelstands-Bundes nutzt nur etwa ein Drittel der mittelständischen Unternehmen KI aktiv oder testet entsprechende Anwendungen, während ein erheblicher Anteil noch keine konkreten Implementierungspläne entwickelt hat (Deutscher Mittelstands-Bund, 2025).
Als Hauptgründe werden insbesondere fehlendes Know-how, Fachkräftemangel sowie Unsicherheiten im Umgang mit regulatorischen Anforderungen genannt. Auch das Bayerische Forschungsinstitut für Digitale Transformation (bidt) betont, dass viele Unternehmen zwar grundsätzlich Interesse an KI zeigen, jedoch strukturelle und organisatorische Voraussetzungen fehlen, um diese Technologien nachhaltig zu integrieren (bidt, 2025).
Anwendungsfelder und technologische Entwicklung
In der praktischen Anwendung haben sich insbesondere generative KI-Systeme sowie prädiktive Modelle etabliert. Diese Technologien kommen vor allem in der Prozessautomatisierung, Datenanalyse und Optimierung von Kundenerfahrungen zum Einsatz.
Das Institut für Mittelstandsforschung Bonn (IfM Bonn) hebt hervor, dass KI nicht als isolierte Technologie betrachtet werden sollte, sondern als Bestandteil einer umfassenden Unternehmensstrategie. Erfolgreiche Implementierungen basieren auf klar definierten Problemstellungen sowie der frühzeitigen Einbindung von Mitarbeitenden in Transformationsprozesse (IfM Bonn, 2025).
Investitionen und Wirtschaftlichkeit
Neben strategischen und organisatorischen Aspekten spielt auch die Investitionsdimension eine zentrale Rolle. Untersuchungen zeigen, dass KI-Projekte im Mittelstand wirtschaftlich attraktiv sein können, sofern Datenqualität und IT-Infrastruktur ausreichend entwickelt sind.
Beispielsweise können KI-gestützte Assistenzsysteme durch eingesparte Service- und Prozesskosten bereits mittelfristig amortisiert werden. Die Industrie- und Handelskammer Siegen weist jedoch darauf hin, dass Unternehmen KI-Projekte sowohl technologisch als auch betriebswirtschaftlich sorgfältig planen müssen, um nachhaltige Erfolge zu erzielen (IHK Siegen, 2025).
Fazit
Der erfolgreiche Einsatz von KI im Mittelstand basiert auf einer Kombination aus strategischer Planung, technischer Kompetenz und einer innovationsfreundlichen Unternehmenskultur. Unternehmen, die diese Faktoren gezielt entwickeln, können KI nicht nur zur Effizienzsteigerung nutzen, sondern auch ihre langfristige Wettbewerbsfähigkeit stärken.
Über den Autor:
Prof. Dr. rer. nat. Mike Espig (Google Scholar, o. J.) ist Professor für Mathematik an der Westsächsischen Hochschule Zwickau (WHZ) und Leiter der Data Science Research Group (WHZ, o. J.; DSRG, o. J.). Nach seiner Promotion am Max-Planck-Institut für Mathematik in den Naturwissenschaften in Leipzig (MPI, o. J.) war er dort als wissenschaftlicher Mitarbeiter tätig und übernahm später eine Professur an der RWTH Aachen (RWTH Aachen, o. J.), bevor er an die WHZ berufen wurde (WHZ, o. J.). Neben seiner akademischen Tätigkeit ist er Gründer der GiKS und verbindet wissenschaftliche Forschung mit praxisnaher Anwendung von KI-Technologien (DSRG, o. J.).
Literaturverzeichnis
Bitkom Research (2025): Künstliche Intelligenz in der Wirtschaft. Verfügbar unter: https://www.bitkom.org
Deutscher Mittelstands-Bund (2025): KI im Mittelstand – Status quo und Perspektiven. Verfügbar unter: https://www.mittelstandsbund.de
Bayerisches Forschungsinstitut für Digitale Transformation (bidt) (2025): KI-Transformation in Unternehmen. Verfügbar unter: https://www.bidt.digital
Institut für Mittelstandsforschung Bonn (IfM Bonn) (2025): Digitalisierung und KI im Mittelstand. Verfügbar unter: https://www.ifm-bonn.org
Industrie- und Handelskammer Siegen (2025): Künstliche Intelligenz im Mittelstand. Verfügbar unter: https://www.ihk-siegen.de
Google Scholar (o. J.): Profil Mike Espig. Verfügbar unter: https://scholar.google.com/citations?user=kaIKbM4AAAAJ&hl=de
Heimliche Nutzung von ChatGPT
Shadow AI im Unternehmenskontext: Eine Analyse der Risiken unautorisierter Nutzung generativer KI
Die unautorisierte Implementierung generativer KI-Systeme am Arbeitsplatz – in der Fachliteratur häufig als „Shadow AI“ bezeichnet – stellt eine zunehmende Herausforderung für die unternehmerische Compliance dar. Während die potenziellen Produktivitätsgewinne durch Large Language Models (LLMs) unbestritten sind, führt die unregulierte und heimliche Nutzung durch Mitarbeiter zu signifikanten systemischen Vulnerabilitäten. Dieser Beitrag für Joma macht analysiert die evidenzbasierten Risiken dieser Praxis anhand aktueller wissenschaftlicher Publikationen.
1. Exfiltration proprietärer Daten und Verletzung des Datenschutzes
Das evidenteste Risiko der unregulierten KI-Nutzung liegt in der potenziellen Kompromittierung sensibler Unternehmensdaten. Wenn Mitarbeiter interne Dokumente, Finanzdaten oder proprietären Quellcode in cloudbasierte LLMs eingeben, findet de facto ein unautorisierter Datentransfer statt. Der renommierte Stanford AI Index Report 2024 verweist ausdrücklich auf die inhärenten Datenschutzrisiken und das Fehlen robuster, standardisierter Evaluierungsmethoden für den sicheren Einsatz (Responsibility) solcher Modelle in kritischen Umgebungen (vgl. Stanford HAI, 2024). Eingegebene Geschäftsgeheimnisse können so unkontrolliert verarbeitet werden.
2. Epistemologische Unsicherheit und die „gezackte technologische Grenze“
Generative KI-Modelle operieren stochastisch, was regelmäßig zu faktisch inkorrekten Ausgaben („Halluzinationen“) führt. Eine vielbeachtete empirische Feldstudie (Dell'Acqua et al., 2025) prägte hierfür den Begriff der „Jagged Technological Frontier“. Die Forscher konnten belegen, dass KI die Leistung bei Aufgaben innerhalb ihrer Kompetenzgrenze steigert, jedoch bei Aufgaben jenseits dieser schwer erkennbaren Grenze die Qualität signifikant senkt. Das Kernproblem von Shadow AI: Mitarbeiter neigen dazu, die fehlerhaften KI-Ergebnisse unkritisch und ungeprüft zu übernehmen, was zu fatalen strategischen Fehlern führt (vgl. Dell'Acqua et al., 2025).
3. Urheberrechtliche Haftungsrisiken bei generierten Inhalten
Die rechtliche Dimension KI-generierter Inhalte ist hochgradig volatil. Wenn Mitarbeiter KI-generierte Code-Snippets, Texte oder Konzepte in kommerzielle Endprodukte des Unternehmens integrieren, entsteht ein erhebliches Risiko von Urheberrechtsverletzungen. Aktuelle juristische Analysen im Harvard Journal of Law & Technology legen dar, wie generative Modelle systematisch urheberrechtlich geschützte Muster (Styles) aus ihren Trainingsdaten reproduzieren. Dies erschwert die juristische Abgrenzung massiv und setzt Unternehmen, die unautorisiert KI in ihre Workflows einbinden, unkalkulierbaren rechtlichen Haftungsrisiken aus (vgl. Sobel, Harvard JOLT, 2024).
Synthese und Handlungsempfehlung
Die prohibitive Restriktion von generativer KI erweist sich in der Praxis meist als ineffizient, da sie das Phänomen der „Shadow AI“ lediglich weiter in die Heimlichkeit drängt. Stattdessen erfordert die professionelle Unternehmensführung die Etablierung einer proaktiven KI-Governance. Dies umfasst die Implementierung geschlossener Enterprise-Architekturen, die Formulierung stringenter Richtlinien (AI Guidelines) sowie die systematische Schulung der Belegschaft im kritischen Umgang mit generativen Modellen.
Literaturverzeichnis
-
Stanford HAI (2024). Artificial Intelligence Index Report 2024. Stanford Institute for Human-Centered Artificial Intelligence, Stanford University.
Abrufbar unter: https://aiindex.stanford.edu/report/ -
Dell'Acqua, F. et al. (2025). Navigating the Jagged Technological Frontier: Field Experimental Evidence of the Effects of Artificial Intelligence on Knowledge Worker Productivity and Quality. Organization Science. (Forschungsarbeit in Kooperation mit Harvard Business School und MIT Sloan).
Abrufbar unter: https://pubsonline.informs.org/doi/10.1287/orsc.2025.21838 -
Sobel, B. L.W. (2024). Elements of Style: Copyright, Similarity, and Generative AI. Harvard Journal of Law & Technology, Vol. 38(1).
Abrufbar unter: https://jolt.law.harvard.edu/assets/articlePDFs/v38/2-Sobel.pdf
Also doch! Sie halten ihr Versprechen nicht
Also doch! Sie halten ihr Versprechen nicht: Zur empirischen Realität der Auswertung von Benutzerdaten durch KI-Anbieter
Die Diskrepanz zwischen den proklamierten Datenschutzversprechen kommerzieller KI-Anbieter und der empirischen Realität der Datenverarbeitung ist ein zentrales Problem der aktuellen IT-Governance. Unter dem Deckmantel der Service-Optimierung werden Eingabedaten (Prompts) von Nutzern systematisch evaluiert, aggregiert und verwertet. Dieser Beitrag analysiert die technologische und rechtliche Illusion der Datenanonymität bei cloudbasierten Large Language Models (LLMs) auf Basis unabhängiger universitärer Forschung.
1. Telemetrie und die systematische Erfassung von Eingabedaten
Trotz elaborierter Datenschutzerklärungen und expliziter „Opt-out“-Möglichkeiten zeigt die technische Analyse von API-Schnittstellen und Web-Interfaces, dass umfassende Telemetriedaten und Nutzerinteraktionen weiterhin an die Server der Anbieter übermittelt werden. Der Foundation Model Transparency Index der Stanford University belegt eine signifikante Intransparenz der meisten großen Anbieter bezüglich der exakten Speicherdauer, der Zugriffsrechte und der internen Weiterverarbeitung von Nutzer-Prompts (vgl. Bommasani et al., 2024). Die Untersuchung verdeutlicht, dass Versprechen der Datenminimierung in der Praxis oftmals durch weitreichende Nutzungsbedingungen ausgehebelt werden, die eine Auswertung zur Modellverbesserung legitimieren.
2. Die methodische Insuffizienz von Anonymisierungsverfahren
Ein zentrales Argument der KI-Anbieter zur Beruhigung von Unternehmenskunden ist die angebliche De-Identifizierung von Benutzerdaten vor deren algorithmischer Auswertung. Informatik-Forscher der Princeton University betonen jedoch, dass herkömmliche Anonymisierungsverfahren im Kontext generativer KI strukturell unzureichend sind. Durch die kontextuelle Tiefe und Spezifität von LLM-Prompts lassen sich vermeintlich anonymisierte Datensätze häufig durch sogenannte „Linkage Attacks“ (Verknüpfungsangriffe) re-identifizieren (vgl. Narayanan & Shmatikov, 2024). Das Versprechen einer vollständig anonymen Auswertung ist somit aus informationstheoretischer Sicht nicht belastbar.
3. Regulatorische Arbitrage und der de facto Kontrollverlust
Die Auswertung von Benutzerdaten durch Drittanbieter untergräbt fundamentale Prinzipien der institutionellen Datensouveränität. Rechtliche Analysen des Oxford Internet Institute zeigen auf, dass Anbieter häufig regulatorische Arbitrage betreiben: Sie nutzen unklare rechtliche Definitionen der Differenzierung zwischen „Trainingsdaten“ und „Servicedaten“, um strenge Datenschutzauflagen zu umgehen (vgl. Wachter et al., 2025). Für Unternehmen bedeutet dies, dass bei der Nutzung öffentlicher cloudbasierter KI-Dienste de facto ein Kontrollverlust über die eingespeisten Informationen stattfindet, da die Daten in Black-Box-Systemen analysiert werden.
Synthese und Handlungsempfehlung
Die empirische Befundlage zwingt zu einem Paradigmenwechsel im Umgang mit externen KI-Diensten. Blindes Vertrauen in die PR-gesteuerten Selbstverpflichtungen der Anbieter ist aus Governance-Perspektive grob fahrlässig. Institutionen müssen primär auf Zero-Trust-Architekturen, lokal gehostete On-Premise-Modelle (Open-Source-LLMs) oder strikt vertraglich sanktionierte und auditierbare Enterprise-Umgebungen setzen, bei denen eine telemetrische Auswertung von Benutzerdaten technisch und rechtlich zweifelsfrei ausgeschlossen ist.
Literaturverzeichnis
-
Bommasani, R. et al. (2024). The Foundation Model Transparency Index. Center for Research on Foundation Models (CRFM), Stanford Institute for Human-Centered Artificial Intelligence, Stanford University.
Abrufbar unter: https://crfm.stanford.edu/fmti/ -
Narayanan, A. & Shmatikov, V. (2024). Privacy and Security in Large Language Models: Vulnerabilities to Linkage Attacks and De-Anonymization. Center for Information Technology Policy, Princeton University.
Abrufbar unter: https://citp.princeton.edu/research/ -
Wachter, S. et al. (2025). Data Extraction and Regulatory Arbitrage in Cloud-Based AI Services. Oxford Internet Institute, University of Oxford.
Abrufbar unter: https://www.oii.ox.ac.uk/research/
KI- Kompass
KI-Kompass: Warum die bloße technologische Kenntnis von Künstlicher Intelligenz unzureichend ist
Die flächendeckende Verfügbarkeit generativer KI-Modelle hat in vielen Organisationen zu einem technologischen Aktionismus geführt. Der primäre Fokus liegt zumeist auf der operativen Bedienung von Tools („Prompt Engineering“) und der schnellen Implementierung. Aktuelle organisationspsychologische und wirtschaftsinformatische Forschungen belegen jedoch eindringlich: Technologisches Basiswissen allein generiert weder nachhaltige Wettbewerbsvorteile noch schützt es vor systemischen Risiken. Es bedarf eines strategischen „KI-Kompasses“ – eines umfassenden Frameworks für kritische KI-Kompetenz (AI Literacy) und Governance.
1. Die Illusion der rein technologischen Kompetenz
Die Fähigkeit, eine KI-Anwendung technisch zu bedienen, wird fälschlicherweise oft mit umfassender KI-Kompetenz gleichgesetzt. Forschungen des Center for Information Systems Research (CISR) am Massachusetts Institute of Technology (MIT) verdeutlichen, dass eine isolierte Fokussierung auf Technologie-Adaption ohne methodisches Fundament zu Ineffizienzen führt. Wahre „AI Literacy“ erfordert das Verständnis der zugrundeliegenden algorithmischen Limitationen, epistemologischen Grenzen und statistischen Voreingenommenheiten (Biases) der Modelle. Ohne dieses kritische Evaluierungsvermögen werden fehlerhafte KI-Outputs unreflektiert in Geschäftsprozesse übernommen (vgl. MIT CISR, 2025).
2. Der KI-Kompass als strategisches Governance-Framework
Ein KI-Kompass fungiert als institutionelles Steuerungsinstrument, das technologische Machbarkeit, rechtliche Compliance und ethische Leitplanken synchronisiert. Das Stanford Institute for Human-Centered Artificial Intelligence (HAI) postuliert in seinen aktuellen Leitlinien zur Unternehmensintegration, dass ein solches Framework unerlässlich ist, um von einer reaktiven Ad-hoc-Nutzung zu einer strategischen, risiko-adjustierten Wertschöpfung zu gelangen. Der Kompass definiert nicht nur, wie KI genutzt wird, sondern vor allem wann und warum ihr Einsatz im spezifischen organisationalen Kontext überhaupt legitim und zielführend ist (vgl. Stanford HAI, 2025).
3. Sozio-technische Integration und „Human-AI Teaming“
Der technozentrische Blickwinkel ignoriert die fundamentale Transformation der menschlichen Arbeitsweise. Der erfolgreiche Einsatz von KI ist letztlich ein sozio-technisches Problem. Das Digital Ethics Center der Yale University (unter Leitung von Luciano Floridi) betont in aktuellen Analysen die Notwendigkeit des „Human-in-the-Loop“-Prinzips. Ein effektiver KI-Kompass kalibriert die Zusammenarbeit zwischen Mensch und Maschine so, dass die menschliche Autonomie und die Letztverantwortung für kritische Entscheidungen erhalten bleiben, während die KI als analytischer Ko-Pilot fungiert (vgl. Yale Digital Ethics Center, 2026).
Synthese und Handlungsempfehlung
Die Erkenntnis „Es reicht nicht, KI nur zu kennen“ markiert den Übergang von der Experimentierphase zur professionellen KI-Reife. Unternehmen und Institutionen müssen ihre Schulungskonzepte zwingend erweitern: Weg von reinen Tool-Schulungen, hin zur Entwicklung eines ganzheitlichen KI-Kompasses. Dies erfordert interdisziplinäre Kompetenzaufbaustrategien, die kritisches Denken, juristisches Basisbewusstsein (Datenrecht) und ein tiefes Verständnis für die ethischen Implikationen algorithmischer Entscheidungssysteme in den Mittelpunkt stellen.
Literaturverzeichnis
-
MIT CISR (2025). Building AI Literacy: Why Technical Knowledge is Insufficient for Strategic Value. Center for Information Systems Research, MIT Sloan School of Management, Massachusetts Institute of Technology.
Abrufbar unter: https://cisr.mit.edu/research/research-overview -
Stanford HAI (2025). From Adoption to Integration: The Need for an Enterprise AI Compass. Stanford Institute for Human-Centered Artificial Intelligence, Stanford University.
Abrufbar unter: https://hai.stanford.edu/research -
Yale Digital Ethics Center (2026). The Socio-Technical Imperative of AI Governance and Human-AI Teaming. Yale Digital Ethics Center, Yale University.
Abrufbar unter: https://digitalethics.yale.edu/research
Benutzer - Index
Systematische Erfassung und Indizierung von Nutzerdaten: Eine kritische Analyse der Datenarchitektur von Anthropic
Im Diskurs um die Sicherheit und den Datenschutz generativer Künstlicher Intelligenz nimmt das Unternehmen Anthropic, Entwickler der Claude-Modelle, eine prominente Sonderrolle ein. Durch das Paradigma der „Constitutional AI“ (konstitutionelle KI) positioniert sich der Anbieter explizit als Vorreiter für sichere und ethisch ausgerichtete Systeme. Eine präzise wissenschaftliche Analyse der tatsächlichen Datenverarbeitungspraktiken – insbesondere im Hinblick auf die Indizierung von Benutzerdaten (User Indexing) und Telemetrie – offenbart jedoch auch hier signifikante Ambivalenzen, die für die unternehmerische Compliance von höchster Relevanz sind.
1. Das Transparenz-Paradoxon und der Foundation Model Transparency Index
Eine zentrale Fragestellung der aktuellen IT-Sicherheitsforschung betrifft die Nachvollziehbarkeit, wie Nutzerinteraktionen (Prompts) von KI-Anbietern indiziert und gespeichert werden. Forscher des Center for Research on Foundation Models (CRFM) der Stanford University haben im Rahmen des Foundation Model Transparency Index die Praktiken der führenden Entwickler evaluiert. Die Ergebnisse zeigen, dass Anthropic im relativen Branchenvergleich zwar überdurchschnittlich abschneidet, jedoch im Bereich der nachgelagerten Datenverwendung (Data Labor und Downstream Use) weiterhin erhebliche Transparenzdefizite aufweist (vgl. Bommasani et al., 2024). Für Organisationen bedeutet dies, dass der genaue Indexierungszyklus von Benutzerdaten auf den Servern von Anthropic nicht lückenlos von außen auditierbar ist.
2. Strukturelle Divergenz: API-Nutzung versus Consumer-Interface
Ein kritischer Faktor bei der Bewertung von Anthropics Benutzer-Indizierung ist die oft missverstandene rechtliche und technische Trennung der Zugangswege. Während Anthropic vertraglich zusichert, dass Daten aus der kommerziellen API-Nutzung standardmäßig nicht für das Training zukünftiger Modelle verwendet werden, unterliegen Eingaben über das frei zugängliche Web-Interface (Claude.ai) abweichenden Richtlinien. Aktuelle Analysen zur Datenökonomie von Sprachmodellen am Massachusetts Institute of Technology (MIT) verdeutlichen, dass Consumer-Interfaces systematisch umfassende Nutzerprofile und Session-Daten indizieren. Diese Daten werden oftmals unter dem Vorbehalt der „Trust & Safety“-Evaluationen („Sicherheitsüberprüfungen“) dauerhaft protokolliert und ausgewertet (vgl. MIT Sloan, 2025).
3. „Trust & Safety“-Logging als regulatorische Grauzone
Die Speicherung und Auswertung von Benutzerindizes zur Gewährleistung der Modellsicherheit („Trust & Safety Logging“) stellt Unternehmen vor ein komplexes juristisches Dilemma. Auch wenn Anthropic Eingabedaten nicht aktiv für das Gewichtungstraining der neuronalen Netze nutzt, verbleiben sensible Geschäftsinformationen in den Log-Dateien der Sicherheitsinfrastruktur des Anbieters. Rechtswissenschaftliche Publikationen der University of Oxford weisen darauf hin, dass die langfristige Speicherung solch granularer Interaktionsdaten für Sicherheits-Audits aus datenschutzrechtlicher Perspektive (etwa nach DSGVO-Standards) eine erhebliche Verwundbarkeit darstellt, da ein de facto Kontrollverlust über proprietäre Informationen stattfindet (vgl. Wachter et al., 2025).
Synthese und Handlungsempfehlung
Die Reputation von Anthropic als sicherheitsfokussierter Anbieter entbindet Organisationen nicht von einer rigiden Due-Diligence-Prüfung. Der Einsatz von Claude-Modellen im Unternehmenskontext erfordert zwingend die Nutzung der kommerziellen API-Schnittstellen unter Implementierung von Zero-Data-Retention-Agreements (ZDR), welche die Indizierung und das Logging von Benutzerdaten vertraglich und technisch ausschließen. Die Nutzung des regulären Web-Interfaces für die Verarbeitung sensibler Unternehmensdaten bleibt aufgrund der intransparenten Indizierungspraktiken ein unkalkulierbares Compliance-Risiko.
Literaturverzeichnis
-
Bommasani, R. et al. (2024). The Foundation Model Transparency Index: Evaluating the Practices of Anthropic, OpenAI, and Meta. Center for Research on Foundation Models (CRFM), Stanford Institute for Human-Centered Artificial Intelligence, Stanford University.
Abrufbar unter: https://crfm.stanford.edu/fmti/ -
MIT Sloan (2025). Data Economics of LLMs: Divergence in API and Consumer Interface Telemetry. MIT Sloan School of Management, Massachusetts Institute of Technology.
Abrufbar unter: https://mitsloan.mit.edu/research/ -
Wachter, S. et al. (2025). Trust & Safety vs. Data Privacy: The Legal Ambiguity of Logging in Constitutional AI Systems. Oxford Internet Institute, University of Oxford.
Abrufbar unter: https://www.oii.ox.ac.uk/research/