Shadow AI im Mittelstand: So steuern Sie Ihre KI-Nutzung

KI ist auf vielen Wegen in mittelständische Unternehmen gelangt. IT-Teams waren dabei allerdings nicht immer involviert. Denn während viele Unternehmen Copilot- oder Claude-Lizenzen gezielt verteilen und von zusätzlichen Funktionen im lange genutzten CRM- oder Ticketsystem wissen, gibt es an anderen Stellen verborgene KI: sogenannte Shadow AI. Sie entsteht, wenn Software-Hersteller nicht transparent machen, wenn sie KI verwenden, oder wenn Mitarbeitende nicht freigegebene Tools für berufliche Zwecke nutzen. Dadurch entstehen für Unternehmen große Risiken in Sachen Datenschutz und Sicherheit. Wir erklären, wie Unternehmen für Transparenz sorgen und KI in die kontrollierte Nutzung bringen können.

Laptop düster

Das Wichtigste in Kürze

  • Shadow AI umfasst sowohl nicht freigegebene KI-Nutzung durch Mitarbeitende als auch KI-Funktionen in bestehenden Anwendungen, die der IT nicht ausreichend bekannt sind.
  • AI Governance lässt sich ohne Transparenz darüber, wo KI im Einsatz ist, nicht wirksam umsetzen. Tools können beim Monitoring helfen.
  • Mittelständische Unternehmen sollten die eingesetzten KI-Tools, integrierte KI-Funktionen, Datenflüsse und Kosten zentral erfassen und klar regeln, welches Tool für welchen Zweck verwendet werden darf.
  • Für eine erfolgreiche AI Governance müssen technische Kontrollmechanismen auf ein attraktives Angebot freigegebener KI-Tools sowie verständliche Regeln und Schulungen treffen.

Was ist Shadow AI?

Von Shadow AI sprechen wir vor allem in zwei Fällen:

  • Personen zeigen Shadow AI

    1. Unerlaubte Nutzung

    Wenn Mitarbeitende KI-Anwendungen oder KI-Funktionen für geschäftliche Zwecke einsetzen, ohne dass diese Nutzung ausreichend durch das Unternehmen freigegeben oder gesteuert wird, ist das Shadow AI. Das kann ein privater ChatGPT-Account sein oder eine KI-Funktion, die plötzlich Bestandteil einer bereits eingesetzten Anwendung wird. Weil die KI-Nutzung in vielen Unternehmen anfangs nicht geregelt war, haben viele Mitarbeitende Wege gesucht und gefunden, um KI zu nutzen: Sie haben beispielsweise eigenständig Accounts bei Open AI angelegt und mit Unternehmensdaten bespielt oder erste Versuche mit NotebookLM unternommen.

  • Laptop zeigt Shadow AI

    2. Unbekannte Nutzung

    Zudem gibt es mittlerweile in fast jeder schon früher eingesetzten Software oder Hardware KI-Funktionalitäten: von Breeze bei HubSpot über Personio Assistant und Adobe Firefly bis hin zu Apple Intelligence auf Apple-Geräten. Mal ist die KI direkt sichtbar, mal agiert sie versteckt im Hintergrund. Mal ist sie erst nach Zustimmung aktiv, mal ohne. Mal muss man das Training von Daten erlauben, mal muss man ihm widersprechen. Mal kann nur ein Account mit Admin-Rechten Funktionen zur Nutzung freigeben, mal kann jeder User den eigenen Account um KI-Optionen ergänzen.

Warum Shadow AI ein Governance-Problem für den Mittelstand ist

Wenn jede Software anders mit KI und dem Thema Transparenz umgeht, sich tagtäglich neue KI-Funktionen breit machen und User:innen KI ohne Genehmigung und Kontrolle nutzen, ist es für IT-Teams in mittelständischen Unternehmen zunehmend schwer, den Überblick zu behalten und AI Governance zu gewährleisten.

Dabei sollten sie wissen, welche Daten von KI verarbeitet werden, um die Verarbeitung bei Notwendigkeit unterbinden zu können. Schließlich sollten gerade sensible Daten wie zum Beispiel Gesundheitsdaten nicht durch KI verarbeitet werden. Und auch wenn die KI-Funktionalitäten sinnvoll sind und eine Nutzung möglich ist, sollten IT-Teams dies genau dokumentieren und ihre Mitarbeitenden beim Umgang mit KI begleiten.

Was sollten IT-Teams über die KI-Nutzung im Unternehmen wissen?

Unternehmen sollten unter anderem wissen:

  • Welche KI-Tools werden verwendet?
  • Welche bestehenden Anwendungen enthalten KI-Funktionen?
  • Welche Unternehmensdaten werden von KI verarbeitet?
  • Wo werden Daten zum Training verwendet?
  • Welche privaten KI-Accounts werden geschäftlich genutzt?
  • Was kostet die KI-Nutzung?
  • Werden bereitgestellte KI-Lösungen tatsächlich genutzt?

Genau diese Fragen sind die Basis einer funktionierenden AI Governance.

Shadow AI reduzieren: 6 Tipps

  • 1. Sichtbarkeit schaffen

    Bevor Unternehmen Regeln auf- und umsetzen können, müssen sie verstehen, welche KI tatsächlich genutzt wird. Während das für die offiziell freigegebenen KI-Dienste und KI-Funktionalitäten in anderen Tools vergleichsweise leichtfällt, ist verborgene und ungenehmigte KI deutlich schwerer zu erfassen. Hierbei helfen Tools wie Lookout AI Visibility & Governance oder Jamf AI Governance, die identifizieren, wo KI in mobilen Apps vorkommt.

  • 2. Datenflüsse prüfen

    Entscheidend ist auch, wohin die Daten übertragen werden und welche Bedingungen für Speicherung und Training gelten.

  • 3. Entscheidungen treffen und dokumentieren

    Unternehmen sollten daher definieren, welche Tools genutzt werden dürfen und welche nicht. Dokumentieren Sie freigegebene KI-Dienste und in Software integrierte KI-Funktionen zentral und beschreiben Sie, wie die Tools genutzt werden dürfen und wie Daten verarbeitet werden.

  • 4. Klare Regeln formulieren

    Mitarbeitende müssen schnell verstehen können: Welches Tool darf ich für welchen Zweck verwenden? Welche Daten darf ich eingeben? Und was ist nicht erlaubt?

  • 5. Kosten und Nutzung gemeinsam betrachten

    Governance bedeutet auch Wirtschaftlichkeit. Budgets und tatsächliche Nutzung sollten deshalb zusammengeführt und Maximalbeträge für bestimmte Zeiträume definiert werden.

  • 6. Gute Alternativen bereitstellen

    Wer Shadow AI reduzieren möchte, sollte nicht nur verbieten. Schließlich ist es ein gutes Zeichen, dass Ihre Mitarbeitenden offen für KI sind und ihre Arbeitseffizienz steigern wollen. Bieten Sie Ihnen daher sichere Lösungen dafür an.

Einblicke in die Praxis

EBF-Mitarbeiter

„In unseren Kundenprojekten erfassen wir zunächst, welche KI bereits genutzt wird – von freigegebenen KI-Tools über KI-Funktionen in vorhandener Software bis hin zu eigenständig angelegten Accounts. Dafür verbinden wir technische Analysen mit einem offenen Austausch mit den Fachbereichen und decken so auch bislang unbekannte Shadow AI auf. Dieser Überblick bildet die Grundlage, um Datenflüsse zu prüfen und die Nutzung gezielt zu steuern.“

Robert Hamel Solution Architect EBF

Unser Fazit: AI Governance braucht Technik und Menschen.

Shadow AI ist nicht ausschließlich ein technisches Problem. Wenn Mitarbeitende nicht wissen, welche Tools sie verwenden dürfen – oder die offiziell bereitgestellten Lösungen ihre Anforderungen nicht erfüllen –, entstehen Umgehungslösungen fast automatisch.

Bei erfolgreicher AI Governance im Mittelstand müssen daher technische Kontrollmechanismen auf ein attraktives Angebot freigegebener KI-Tools sowie verständliche Regeln und Schulungen treffen. Nur dann ist eine produktive, gesteuerte KI-Nutzung möglich.

KONTAKT

Sie haben Fragen? Lassen Sie uns gerne sprechen.

Sie möchten wissen, wo KI in Ihrem Unternehmen bereits genutzt wird? Wir unterstützen Sie dabei, Transparenz zu schaffen und eine kontrollierte KI-Nutzung aufzubauen.

AI Governance Beratung