Mit dem EU AI Act ist erstmals ein umfassendes europäisches Regelwerk für den Einsatz von Künstlicher Intelligenz in Kraft. Für viele mittelständische Unternehmen bedeutet das: neues Terrain, unklare Pflichten und die Sorge, zwischen Compliance-Anforderungen und dem Tagesgeschäft zerrieben zu werden. Gleichzeitig nutzen Mitarbeitende in nahezu jedem Unternehmen KI-Tools, oft ohne Wissen der Geschäftsführung und ohne Rücksicht auf Datenschutz oder Sicherheitsrichtlinien. Frank Stadler, Geschäftsführer der KIVOREX GmbH und externer Chief AI Officer auf Zeit, begleitet Mittelständler dabei, diesen Spagat zu meistern: Regulierung ernst nehmen, ohne innovationsfeindliche Bürokratie aufzubauen, und den unkontrollierten KI-Einsatz im Betrieb in geordnete Bahnen zu lenken. Im Interview mit cyberschutzbetrieb.de erklärt er, was jetzt konkret zu tun ist, wie Unternehmen mit Schatten-KI umgehen sollten und warum KI-Sicherheit Chefsache ist.
EU AI Act 2025: Was jetzt gilt, was sich ändert und was abgewartet werden kann
Cyberschutzbetrieb.de: Der EU AI Act ist in Kraft. Was müssen Mittelständler jetzt konkret tun, und was können sie noch abwarten?
Frank Stadler: Zuerst das, was schon gilt und wenig kostet. Seit Februar 2025 sind bestimmte KI-Praktiken grundsätzlich verboten, daran ändert sich nichts. Entscheidend ist gerade aber, die Lage im Blick zu behalten, denn sie ist in Bewegung. Mit dem Digital Omnibus, den die EU im November 2025 auf den Weg gebracht hat und der kurz vor der Veröffentlichung im Amtsblatt steht, wird der AI Act an mehreren Stellen entschärft. Die Pflichten für Hochrisiko-Anwendungen werden deutlich nach hinten geschoben, für eigenständige Systeme auf Dezember 2027, für KI in regulierten Produkten sogar auf August 2028. Und die KI-Kompetenzpflicht wird umgebaut: Aus der Vorgabe, das nötige KI-Wissen jedes Mitarbeiters sicherzustellen, wird eine Pflicht der Unternehmen, die KI-Kompetenz ihrer Leute zu fördern. Das nimmt viel Druck aus dem Zeitplan. Am eigentlichen Punkt ändert es nichts: Der wichtigste konkrete Schritt ist und bleibt eine Inventur. Welche KI-Systeme setzen wir überhaupt ein, in welcher Rolle, mit welchem Risiko. Erst wenn man das weiß, lässt sich einordnen, was auf einen zukommt, und die meisten Mittelständler sind ohnehin nicht im Hochrisikobereich. Was man trotz aller Fristverschiebungen nicht aufschieben sollte, ist genau diese Bestandsaufnahme. Und das Thema gehört im eigenen Interesse ernst genommen, nicht weil Brüssel es erzwingt, sondern weil unternehmerische Sorgfalt und die Zukunftsfähigkeit des Geschäfts davon abhängen, wie souverän man mit KI umgeht. Die Regulierung liefert nur den Anlass, der eigentliche Treiber ist das eigene Geschäft.
Der EU AI Act folgt einem risikobasierten Ansatz. Das bedeutet: Nicht jede KI-Anwendung unterliegt denselben Pflichten. Verboten sind Anwendungen mit inakzeptablem Risiko, etwa Social Scoring durch staatliche Stellen, manipulative KI-Systeme oder Echtzeit-Biometrie an öffentlichen Orten zu Strafverfolgungszwecken. Diese Verbote gelten seit Februar 2025 vollständig. Für Hochrisiko-KI, also Systeme, die in kritischen Infrastrukturen, im Bildungswesen, in der Personalverwaltung oder bei Kreditvergabe eingesetzt werden, gelten strenge Anforderungen an Transparenz, Robustheit und menschliche Aufsicht. Diese Anforderungen werden durch den Digital Omnibus in ihrer Fristgebung erheblich entschärft.
Für den typischen Mittelständler, der KI für Textgenerierung, Kundenservice-Unterstützung, interne Dokumentation oder Datenanalyse nutzt, ist die Einstufung als Hochrisiko-System in aller Regel nicht zutreffend. Dennoch ist die Inventur, die Stadler fordert, kein bürokratischer Selbstzweck. Sie ist die Voraussetzung dafür, die eigene Situation korrekt einzuordnen, Haftungsrisiken zu kennen und handlungsfähig zu bleiben, wenn Aufsichtsbehörden Nachweise verlangen. Unternehmen, die heute keine Übersicht haben, welche KI-Systeme sie einsetzen, werden bei behördlichen Anfragen oder im Schadensfall schlechte Karten haben.
Schatten-KI im Betrieb: Verbote helfen nicht, kluge Regeln schon
Cyberschutzbetrieb.de: Mitarbeitende nutzen KI-Tools oft unkontrolliert, auch mit sensiblen Unternehmensdaten. Wie sollten Unternehmen damit umgehen?
Frank Stadler: Verbieten funktioniert nicht, das treibt die Nutzung nur tiefer in den Untergrund. Wenn die Leute zu Hause selbstverständlich mit KI arbeiten, tun sie es auch im Büro, ob erlaubt oder nicht. Der bessere Weg verbindet einen sicheren, offiziellen Pfad mit gezieltem Kompetenzaufbau. Zum Pfad gehören klare, einfache Regeln: Welche Tools sind freigegeben, welche Daten dürfen hinein, welche auf keinen Fall, etwa Personaldaten, Patientendaten oder ungeschützte Geschäftsgeheimnisse. Eine geschäftliche Lösung, bei der die Eingaben nicht zum Training des Anbieters verwendet werden, nimmt schon einen großen Teil des Risikos heraus. Mindestens genauso wichtig ist aber, dass die Mitarbeiter verstehen, was sie da tun. Die meisten Fehler entstehen schlicht aus Unwissen. Wer nicht weiß, dass seine Eingaben beim falschen Dienst auf fremden Servern landen oder dass ein Modell überzeugend klingende Falschauskünfte liefert, kann gar nicht verantwortungsvoll damit umgehen. Deshalb gehören Schulungen dazu, die zeigen, welche Daten sensibel sind, wo die Grenzen der Werkzeuge liegen und wie man sie sicher und wirksam einsetzt. Der nachgeschärfte AI Act verlangt von Unternehmen ohnehin, die KI-Kompetenz ihrer Mitarbeiter zu fördern, und das ist kein bürokratischer Selbstzweck, sondern genau der Hebel, der aus unkontrollierter Nutzung beherrschte Nutzung macht. Schatten-KI ist am Ende kein Disziplinproblem, sondern ein Zeichen dafür, dass Mitarbeiter produktiver sein wollen, als die offiziellen Mittel es erlauben. Diese Energie lenkt man mit klaren Regeln und mit Kompetenz in geordnete Bahnen, statt sie zu bekämpfen.
Die Analogie zur Schatten-IT ist aufschlussreich. Vor zehn Jahren gab es in vielen Unternehmen das gleiche Phänomen mit Cloud-Diensten: Mitarbeitende nutzten Dropbox, Google Drive oder Trello, weil die offiziellen IT-Systeme langsamer oder umständlicher waren. Die IT-Abteilungen reagierten mit Verboten, die teilweise wirkungslos blieben oder die Produktivität der Belegschaft dämpften. Die klügere Reaktion war die Einführung offizieller, sicherer Alternativen kombiniert mit Richtlinien zur Nutzung. Der gleiche Lerneffekt gilt jetzt für KI. Wer ChatGPT verbietet, ohne eine Alternative zu bieten, wird feststellen, dass Mitarbeitende auf ihren privaten Geräten oder über mobile Datenverbindungen weiterarbeiten.
Der Hinweis auf Eingabeschutz durch Business-Lizenzen ist dabei technisch wesentlich. Die Standard-Konsumentenversionen großer KI-Dienste erlauben es den Anbietern, Nutzereingaben für das Training ihrer Modelle zu verwenden. Das ist problematisch, wenn Mitarbeitende Kundendaten, interne Strategiepapiere oder Personalinformationen in solche Systeme eingeben. Business-Versionen mit entsprechenden Vertragsklauseln und Datenschutzgarantien schließen dieses Risiko weitgehend aus. Viele Unternehmen wissen nicht, dass dieser Unterschied existiert, und zahlen die günstigere Konsumentenlizenz, ohne die Implikationen zu kennen.
KI-Governance im Mittelstand: Was sie bedeutet und warum sie Führungssache ist
Cyberschutzbetrieb.de: Was bedeutet KI-Governance konkret, und warum ist sie keine reine IT-Aufgabe?
Frank Stadler: Governance heißt im Kern: Es ist klar, wer entscheidet, wer verantwortlich ist und nach welchen Regeln KI im Unternehmen eingesetzt wird. Dazu gehören eine Übersicht der eingesetzten Systeme, eine Risikoeinordnung, definierte Zuständigkeiten und ein paar dokumentierte Spielregeln. Eine reine IT-Aufgabe ist das nicht, weil die wesentlichen Fragen geschäftliche sind. Ob wir ein bestimmtes Risiko eingehen, ob ein Anwendungsfall zu unseren Werten und unserer Haftung passt, wer geradesteht, wenn eine KI-gestützte Entscheidung falsch läuft: Das entscheidet nicht die IT, das entscheidet die Führung. Die IT setzt um und sichert technisch ab, aber den Rahmen setzt das Management. Gute Governance ist außerdem kein Selbstzweck. Sie sorgt dafür, dass man KI schneller und ruhiger ausweiten kann, weil die Grundfragen einmal geklärt sind und nicht bei jedem neuen Tool von vorn diskutiert werden.
KI-Governance ist für viele mittelständische Unternehmen ein neues Konzept, das zunächst nach aufwendigem Regelwerksbau klingt. Tatsächlich lässt es sich schlanker denken: Ein KI-Register, in dem alle eingesetzten Systeme mit ihrem Verwendungszweck und ihrer Risikokategorie erfasst sind, eine einseitige Nutzungsrichtlinie und ein Verantwortlicher, der bei Fragen ansprechbar ist, das sind die Grundelemente einer funktionsfähigen Governance im Mittelstand. Der entscheidende Unterschied zur IT-Aufgabe liegt darin, dass Governance Entscheidungen voraussetzt, nicht nur Implementierungen. Die Frage, ob ein KI-System zur automatisierten Vorauswahl von Bewerbungen eingesetzt werden darf, ist nicht technisch, sondern rechtlich, ethisch und kulturell. Sie berührt das Unternehmensimage, die Arbeitgebermarke und mögliche Haftungsrisiken. Solche Entscheidungen trifft die Geschäftsführung, nicht die IT.
Der Aspekt der Geschwindigkeit, den Stadler anspricht, ist für viele Unternehmen überraschend. Governance wird oft als Bremse wahrgenommen, nicht als Beschleuniger. Aber das Gegenteil gilt: Wenn für jede neue KI-Initiative von vorn diskutiert werden muss, welche Daten verwendet werden dürfen, wer die Verantwortung trägt und welche Risiken akzeptiert werden, kostet das erheblich Zeit. Einmal geklärte Grundsätze ermöglichen dagegen schnelle Entscheidungen, weil der Rahmen bereits steht.
Compliance als Tempobonus: Wie der AI Act Innovation fördern statt bremsen kann
Cyberschutzbetrieb.de: Wie lässt sich Compliance mit dem EU AI Act so umsetzen, dass sie nicht zum Bremsklotz für Innovation wird?
Frank Stadler: Indem man Governance schlank hält und an die Praxis koppelt, statt ein Regelwerk auf Vorrat zu bauen. Im Mittelstand kann man die KI-Struktur an Vorhandenes andocken, etwa an ein bestehendes Qualitäts- oder Datenschutzmanagement, statt einen zweiten Apparat aufzuziehen. Entscheidend ist, den Aufwand am Risiko auszurichten: Harmlose Anwendungsfälle brauchen wenige Leitplanken, die wenigen kritischen bekommen die volle Aufmerksamkeit. So wird Compliance zu einem Filter, der die guten Vorhaben schneller durchlässt, weil die Grundfragen schon beantwortet sind. Ein Unternehmen, das weiß, welche Daten in welche Tools dürfen und wer entscheidet, ist schneller unterwegs, weil es nicht bei jedem Schritt zögert. Zum Bremsklotz wird Regulierung erst, wenn man sie als einmaligen Papierberg missversteht statt als laufende, leichte Steuerung. Klarheit ist im Mittelstand ein Tempovorteil.
Die Idee, KI-Governance an bestehende Managementsysteme anzudocken, ist praktisch überzeugend. Unternehmen, die bereits nach ISO 9001 zertifiziert sind oder ein dokumentiertes Datenschutzmanagementsystem nach DSGVO betreiben, haben bereits Strukturen, in die KI-Governance integriert werden kann. Das Qualitätsmanagementsystem kennt bereits das Konzept der Prozessverantwortlichen, der Risikoeinschätzung und der Dokumentationspflichten. Für die KI-Governance bedeutet das: kein neues System aufbauen, sondern vorhandene Strukturen erweitern und anpassen. Das reduziert den Initialaufwand erheblich und erhöht die Chance, dass Governance tatsächlich gelebt wird, statt als Parallelsystem zu verkümmern.
Der risikobasierte Ansatz, den Stadler beschreibt, entspricht auch der Logik des EU AI Acts selbst. Das Gesetz differenziert bewusst nach Risikostufen und verlangt nicht von allen Anwendungen das gleiche Maß an Dokumentation und Kontrolle. Ein Chatbot, der interne FAQ beantwortet, ist anders zu behandeln als ein System, das Kreditwürdigkeiten bewertet. Diese Differenzierung in die Compliance-Praxis zu übersetzen, ist die eigentliche Aufgabe. Unternehmen, die alles gleich behandeln, verschwenden Ressourcen. Unternehmen, die gar nichts differenzieren, riskieren Haftung.
Gesamtverantwortung bleibt oben: Die Rolle der Geschäftsführung bei KI-Sicherheit
Cyberschutzbetrieb.de: Welche Rolle spielt die Geschäftsführung beim Thema KI-Sicherheit, und wo liegt die Verantwortung?
Frank Stadler: Die Verantwortung liegt am Ende bei der Geschäftsführung, und das lässt sich nicht wegdelegieren. Aufgaben kann man verteilen, die IT-Sicherheit an die IT, einzelne Themen an Verantwortliche, aber die Gesamtverantwortung dafür, dass das Unternehmen KI beherrscht und nicht umgekehrt, bleibt oben. Das ergibt sich schon aus den allgemeinen Sorgfaltspflichten eines Geschäftsführers, der AI Act macht es für KI nur explizit. Konkret heißt das: Die Geschäftsführung muss wissen, wo KI eingesetzt wird, sie muss den Rahmen setzen und dafür sorgen, dass jemand das Thema aktiv steuert. Die technische Tiefe muss sie nicht selbst mitbringen, dafür holt man sich Leute oder einen externen Verantwortlichen. Aber sie muss die Frage beantworten können, wer im eigenen Haus den Hut aufhat. Wenn darauf niemand eine klare Antwort hat, ist genau das die erste Baustelle.
Der rechtliche Hintergrund dieser Position ist eindeutig. GmbH-Geschäftsführer und Vorstände von Aktiengesellschaften unterliegen allgemeinen Sorgfaltspflichten, die es ihnen untersagen, Risiken zu ignorieren, von denen sie wissen oder wissen müssten. KI-Systeme, die Unternehmensdaten verarbeiten, Entscheidungen unterstützen oder Kundenkommunikation steuern, gehören zu den Themen, über die Führungskräfte informiert sein müssen. Der EU AI Act konkretisiert das für den KI-Bereich: Er verlangt, dass Unternehmen, die KI einsetzen, Verantwortung zuweisen, Systeme dokumentieren und Risiken managen. Diese Pflichten können nicht einfach an die IT-Abteilung weitergegeben werden, weil sie letztlich die Entscheidungsebene des Unternehmens betreffen.
Stadlers Hinweis auf den externen Verantwortlichen ist in diesem Kontext die praktische Antwort auf ein strukturelles Problem: Wenn kein interner Mitarbeitender die nötige Kompetenz und Kapazität hat, um KI-Sicherheit auf Managementebene zu steuern, dann muss diese Kompetenz von außen geholt werden. Das Mandat eines externen Chief AI Officers erfüllt genau diese Funktion. Es stellt sicher, dass die Geschäftsführung handlungsfähig ist, ohne selbst KI-Experte werden zu müssen, und dass die Frage nach dem Verantwortlichen im Haus eine klare Antwort hat.
Die abschließende Aussage, dass die fehlende klare Antwort auf die Frage nach dem KI-Verantwortlichen die erste Baustelle ist, trifft den Kern. Viele Unternehmen befassen sich intensiv mit KI-Technologie, investieren in Tools und Schulungen, aber versäumen, diese grundlegende Organisationsfrage zu klären. Das Ergebnis ist, dass bei Problemen, Sicherheitsvorfällen oder behördlichen Anfragen niemand ansprechbar und handlungsfähig ist. Der erste Schritt zu echter KI-Sicherheit im Betrieb ist daher kein technischer, sondern ein organisatorischer: die Benennung einer verantwortlichen Person und die Erteilung der nötigen Befugnisse, das Thema aktiv zu steuern.
Frank Stadler und die KIVOREX GmbH bieten Mittelständlern mit dem externen Chief-AI-Officer-Mandat einen Weg, diese Verantwortung professionell zu verankern, ohne dauerhaft eine neue Vollzeitstelle zu schaffen. Für eine Unternehmenslandschaft, in der KI-Kompetenz knapp und KI-Risiken real sind, ist das ein Angebot, das strategische Klarheit mit unternehmerischer Verhältnismäßigkeit verbindet.
