Das hilft gegen KI-Wildwuchs

Wildwuchs hat in der IT Tradition – nimmt mit KI jedoch eine neue Qualität an.Rob Schultz / Shutterstock



Laut der aktuellen McKinsey-Studie „The State of AI“ setzen 88 Prozent der Unternehmen künstliche Intelligenz (KI) inzwischen in mindestens einem Geschäftsbereich ein. Mit der zunehmenden Verbreitung steigt auch die Zahl der Experimente und neu entwickelten Tools, wobei ein Großteil davon außerhalb traditioneller IT-Prozesse – und oft jenseits formaler Kontrolle stattfindet, Stichwort Schatten-KI.



Für IT-Führungskräfte sind die Auswirkungen erheblich: Sie verwalten nicht mehr eine geschlossene, zentral gesteuerte Umgebung. Vielmehr ist diese dadurch geprägt, dass Technologien überall aufkommen, sich rasch verbreiten und Kerngeschäftsprozesse auf eine Weise beeinflussen können, die nur schwer vorherzusagen oder einzudämmen ist. Was den KI-Wildwuchs dabei vor allem auszeichnet, ist die Art und Weise, wie er sich manifestiert: Waren Anwendungen im SaaS-Zeitalter noch an Anbieter, Verträge und Stammdatensysteme gebunden, taucht KI heute in vielen Fällen in Form von Fragmenten auf – etwa Skripten, Agenten, Workflows und eingebetteten Funktionen. Diese sind möglicherweise nicht als eigenständige KI-Systeme erkennbar.



Um die Transparenz wiederherzustellen, erfassen einige Anwender indirekte Signale – etwa Ausgaben-Reportings, Netzwerk-Traffic oder Mitarbeiter-Befragungen. Allerdings können solche Maßnahmen das Gesamtbild nicht erfassen. Trotzdem gibt es Grund zur Hoffnung: Einige Unternehmen haben das Problem nicht nur erkannt, sondern verlagern ihren Fokus darauf, zu handeln. Zwar hat das bislang nicht dazu geführt, das KI-Wildwuchsproblem vollständig zu lösen. Doch es zeichnen sich erste Muster ab, wie zukunftsorientierte Unternehmen mit dem Problem umgehen.



In diesem Beitrag geben wir Ihnen fünf praktische Möglichkeiten an die Hand, um unkontrolliertem KI-Wildwuchs entgegenzutreten.



1. Transparenz statt Inventare schaffen



Eine traditionelle IT-Bestandsaufnahme ist im KI-Zeitalter nicht mehr ausreichend. Schließlich wird die Technologie unter anderem auch über private Accounts genutzt – oder intern auf eine Art und Weise entwickelt, die Standardsysteme selten erfassen. Laut Alla Valente, Principal Analyst bei Forrester, ist das das Kernproblem: „Man weiß nicht genau, wo KI zum Einsatz kommt – insbesondere, wenn die Technologie über Drittanbieter-Apps einfließt oder außerhalb formaler Beschaffungsprozesse genutzt wird.“



Um einen dynamischeren Überblick über die KI-Aktivitäten zu gewinnen, setzen einige Unternehmen deshalb darauf, Telemetriedaten, Identity-Systeme und Nutzungsinformationen miteinander zu kombinieren. Andere führen auch interne Registries ein, um Apps, Agenten und Workflows von Anfang an zu tracken.



2. Kontrollmaßnahmen durch Guardrails ersetzen



Den Einsatz von KI komplett zu unterbinden, ist nicht praktikabel. Wie Unternehmen stattdessen vorgehen sollten, bringt Chris Drumgoole, President of Global Infrastructure Services beim IT-Dienstleister DXC, auf den Punkt: „Es geht um viele grundlegende, aber entscheidende Maßnahmen. Etwa klare Regeln für die Datennutzung, den Modellzugriff und akzeptable Anwendungsfälle zu definieren – und diese Regeln im Rahmen technischer Kontrollen durchzusetzen.“



Am Ende gehe es schließlich vor allem darum, KI sicher einzusetzen und nicht darum, die Technologie zu verbannen, so der langjährige CIO.



3. Formalisieren, was funktioniert



Mitarbeiter sind heute in der Lage, mit KI innerhalb kurzer Zeit selbst nützliche Tools zu entwickeln. Um diese in Enterprise Assets umzuwandeln, sind strukturierte Aufnahmeverfahren erforderlich, die solche Kreationen evaluieren und festlegen, was skaliert werden sollte.



Andrea Malagodi, CTO beim DevOps-Spezialisten Sonar, weiß, was nötig ist, damit Unternehmen Tools, die von der Belegschaft entwickelt wurden, in gemanagte Umgebungen integrieren können: „Definierte Zuständigkeiten, Auditierbarkeit und Governance sind das A und O. Ansonsten laufen Sie Gefahr, dass nützliche Innovationen zu unkontrollierten Altlasten mutieren.“



4. Continuous-Creation-Infrastruktur etablieren



Weil Software im KI-Zeitalter, wie eben thematisiert, nicht mehr nur von der IT entwickelt werden kann, sollten Unternehmen, die das fördern möchten, auch eine entsprechende Infrastruktur zur Verfügung stellen.



Jonathan Tushman, CTO und Chief AI Officer beim KI-Plattformanbieter Hi Marley, weiß, was dazu nötig ist: „Unternehmen sollten interne Plattformen, Hosting-Umgebungen und standardisierte Pattern bereitstellen, die es der Belegschaft ermöglichen, intern auf sichere Art und Weise zu entwickeln.“



5. Governance auf (Dritt-)Anbieter ausweiten



Ein wachsender Anteil an KI-Funktionen und -Anwendungen wird jedoch nicht intern entwickelt, sondern über Anbieter oder Partner eingeführt. Forrester-Analystin Valente warnt, dass diese Art der KI-Einbindung über Dritte leicht unter den Tisch fallen kann: „Diese Funktionen sind oft in Tools eingebettet, denen Firmen bereits vertrauen. Das kann dazu führen, dass diese nicht im Bereich KI eingestuft werden – obwohl die Tools Unternehmensdaten verarbeiten.“



Führende Unternehmen reagieren darauf mit einer verschärften Überwachung ihrer (Dritt-)Anbieter: Sie fügen KI-spezifische Fragen in Ausschreibungen ein, passen Verträge an, um die Datennutzung und das Modellverhalten zu regeln, oder bringen die Erwartungen von Dritten mit internen KI-Richtlinien in Einklang. (fm)



Dieser Artikel ist im Original bei unserer Schwesterpublikation Computerworld.com erschienen.