Archiv für die Kategorie: Alle Beiträge

Schatten-KI ist kein Ausnahmefall, sondern Normalität

Schatten-KI ist in vielen Unternehmen längst Realität – auch wenn sie häufig nicht sichtbar ist.

Mitarbeitende nutzen KI-Tools, um schneller zu arbeiten, Inhalte zu erstellen oder Entscheidungen vorzubereiten. Oft geschieht das ohne Abstimmung mit IT oder Management. Nicht aus Absicht, sondern aus Pragmatismus.

Wie bereits aus der Schatten-IT bekannt birgt die KI Risiken:

• KI greift direkt auf Inhalte und Daten zu

• Ergebnisse fließen unmittelbar in Entscheidungen ein

• Nutzung bleibt oft unsichtbar

Die Frage ist: Wie gehen Unternehmen damit um?

Warum Verbote das Problem nicht lösen

Viele Unternehmen reagieren zunächst mit Verbote. Das hat zudem den bequemen Aspekt, dass man sich nicht um eine KI-Governance  kümmern muss. Doch diese Haltung verhindert Fortschritt und entspricht nicht dem AI-Act.

Gerade Systeme in denen Daten und Prozesse gemanaget werden (z.B. ERP, CRM, PIM) enthalten bereits KI-Agenten, um das Datenmanagement und die Prozessabbildung zu unterstützen. Diese müssen dokumentiert werden.

Gleichzeitig können Sie KI-Nutzung nicht komplett verhindern, dafür stehen inzwischen zu viele Tools mit nur wenigen Clicks entfernt im Web.

Warum KI Governance und KI Richtlinien die technische Transformation fördern kann

Wenn man Schatten-KI dahingehend versteht, dass sich Mitarbeiter ihre Arbeitsumgebung optimieren und nicht dem Unternehmen schaden wollen, dann können sich wahre Schätze offenbaren. Manche Schatten-KI lässt sich verhindern, indem Mitarbeiter an vorhandenen Systemen gezielter geschult werden oder die Bedarfe gebündelt und für die Investition in ein professionelles zusätzliche System / Modul genutzt wird.

In diesem Sinne lässt sich Schatten-KI auch als Signal lesen. Sie zeigt, wo Prozesse nicht mehr anschlussfähig sind, wo Steuerung unklar bleibt und wo Fachbereiche beginnen, eigene Lösungen zu entwickeln.

Mit KI-Governance und KI-Richtlinien schaffen Sie eine Organisation, die diese versteckten „Anfroderungen“ sichtbar machen.

Was zunächst nach starker Regulierung wirkt birgt große Chancen: Wenn die Nutzung von KI transparent wird

Mit einer KI-Governance und KI-Richtlinie Potenziale für die digitale Transformation nutzen

Die KI-Governance gibt den organisatorischen Rahmen vor: KI-Strategie, Richtlinien, Prozesse und technische Kontrollen.

Die KI-Richtlinie ist Teil der KI-Governance und legt konkret fest, wie künstliche Intelligenz im Unternehmen eingesetzt, entwickelt oder beschafft werden darf.

 

Mit diesen Schritten können Sie sofort starten:

KI-Governance implementieren

Mit einer KI-Governance legen Sie den Rahmen z.B. für Prozesse, und Standards fest, wie KI-Systeme und -Tools entwickelt, getestet und eingesetzt werden. Auf diese Weise verhindern Sie, dass Daten nicht unkontrolliert auf fremde Server landen und fördern die kritische Bewertung von KI-Ergebnissen.

Bereits vorhandene Schatten-KI identifizieren

Decken Sie die Nutzung nicht genehmigter Tools auf:

• Freiwillige Meldungen
• Auswertung von Netzwerkprotokollen
• Auswertung von Browsererweiterungen

Gehen Sie auf Ihre Mitarbeiter zu und klären Sie sie über die Gefahren auf. Kommunizieren Sie das weitere Vorgehen, z.B. Sperrung wegen Sicherheitsrisiken, Aufnahme der Anforderung in die Weiterentwicklung der eigenen Systemlandschaft, Schulungstermin für ein vorhandenes System.

Organisieren Sie ein zentrales Beschaffungsmanagement für KI-Tools

Die Nutzung von KI-Tools muss über einen vordefinierten Prozess angemeldet und genehmigt werden. So haben Sie die Kontrolle und können die Sicherheitsrisiken besser einschätzen.

Setzen Sie die Pflichten der EU-KI-Verordnung um

Bei der Implementierung von KI-Systemen sind die Pflichten der EU-KI-Verordnung einzuhalten. Hierzu gehören:

• Risikoklassifizierung
• Dokumentationspflichten
• Schulungen (z.B. gemäß AI-Act, bezüglich Ihrer KI-Governance und KI-Richtlinien, Anwendungen)
• Transparenzanforderungen

Entwickeln Sie eine KI-Richtlinie

Formulieren Sie klare Regeln in Bezug auf die KI-Nutzung:

• Welche KI-Systeme (z.B. ChatGPT, Claude) sind erlaubt?
• In welchem Umfang dürfen die Systeme genutzt werden?
• Welche Daten dürfen in öffentliche KI-Systeme eingegeben werden, welche nicht (z.B. Kundendaten, Geschäftsgeheimnisse)?
• Wie werden Externe in die Regelungen eingebunden?

Je nach Sensibilität Ihrer Geschäftsbereiche, können sie auch für einzelne Bereiche spezialisierte Regeln ausgeben. Wenn die Bereiche z.B. wichtige Forschungsprojekte begleiten, wäre es durchaus gerechtfertigt öffentliche KI-Systeme gar nicht nutzen zu dürfen.

Stellen Sie Alternativen (eigene standardisierte KI-Lösungen) bereit

Das Interesse an KI-Tools zeigt mitunter Defizite in der digitalen Unterstützung. Decken Sie diese Bedarfe auf und konsolidieren Sie sie:

• Können die Bedürfnisse auch mit Nachschulungen an vorhandenen Systemen gedeckt werden?
• Können die Bedürfnisse durch Erweiterungen bestehender Systeme gedeckt werden?
• Führen Sie interne datenschutzkonforme KI-Systeme ein und definieren Sie sie zum Standard.
• Stellen Sie in der Architektur sicher, dass Sie entsprechend ihren Betriebsstrukturen (Backups, Weiterverwendung von Daten, Support) unterstützt werden können.

Fördern Sie die KI-Kompetenz

KI-Systeme verändern das Denken über System-Architekturen, Prozesse und Datenverantwortung. Ein Wissen, das in nahezu allen Unternehmen nicht vorhanden ist. Es muss kontinuierlich aufgebaut werden:

• KI-Schulungen und Sensibilisierungen der Mitarbeiter
• KI-Workgroups für den Erfahrungsaustausch (auch unternehmensübergreifend)
• KI-Workgroups zur Weiterentwicklung der KI-Governance und KI-Richtlinie

Stellen Sie sicher, dass Synergien genutzt werden

Geben Sie Raum, in dem Mitarbeiter ihre selbst entwickelten Tools vorstellen können. Erfassen Sie sie in einer Datenbank, die von den Mitarbeitern selbst befüllt werden können. Das hat zwei Vorteile:

• Überblick über die Bedürfnisse der Mitarbeiter
• Interessante Lösungen können weiterentwickelt und einer größeren Nutzerbreite angeboten werden.

Schützen Sie Ihre Daten und Systeme

In einer Zeit zunehmender Cyberangriffe können Nachlässigkeiten die Sicherheit Ihres Unternehmens gefährden.

Mit diesen drei Aktivitäten sollten Sie sofort das Risiko senken:

• Zugriffskontrollen und Verschlüsselung: Rollenbasierte Zugriffskontrollen und Verschlüsselung schützen sensible Daten, auch wenn KI-Tools eingesetzt werden.
• Schutz der Eingabedaten: Sicherstellen, dass keine geschäftskritischen Daten in öffentliche Modelle fließen, die zum Training der KI weitergenutzt werden könnten (z.B. Enterprise-Lösungen, spezifischen Architektur-Entscheidungen / RAG)
• Regelmäßige Audits: Durchführung von Audits zur Sicherung der Modell-Qualität (z. B. auf Bias/Voreingenommenheit, Sicherheitslücken).

Fazit

Eine KI-Governance ist unumgänglich, kann aber nicht von Anfang an perfekt sein. Erfahrungen aus der Praxis zeigen, dass man mit der Einführung nicht zu lange warten sollte. Je früher ein Unternehmen damit startet, um sicherer werden Management und Mitarbeiter in der Nutzung und Bewertung von KI-Agenten.

Mit Hilfe interner Meetings für Erfahrungaustausch und Weiterentwicklung der KI-Governance wird ein Umfeld geschaffen, in dem Weiterentwicklungen mit kalkulierbaren Risiken möglich sind. Regelmäßige Audits der genutzten KI-Systeme geben zusätzliche Sicherheit, dass sich die Qualität der KI-Ergebnisse durch erweiterte Datengrundlagen und System-Upgrades  nicht negativ verändert.

 

Gerne unterstütze ich Sie dabei eine KI-Governance aufzubauen.

Meine Empfehlungen zum Weiterlesen:

• Chatbots – Wissenstransfer im Unternehmen übernimmt die KI
• KI-Modell vs. KI-System – EXKURS
• Vakanzüberbrückung bis Spezialauftrag – Wann Interim-Manager einer Festanstellung vorzuziehen sind