Ein Leitfaden zur beschleunigten Einführung von KI: Sicherheit ohne unnötige Risiken

In den vergangenen 18 Monaten haben sich unsere Teams von der reinen Diskussion um den Einsatz von KI hin zur Frage entwickelt, wie schnell wir sie implementieren können. Die schwierigere Frage ist jedoch, wie wir die Teams befähigen können, schnell genug zu agieren, um die Vorteile von KI optimal zu nutzen, ohne dass das Risikoprofil des Unternehmens schneller ansteigt, als es beherrschbar und steuerbar ist.

Jason Taylor

Technischer Leiter (CTO) und Informationssicherheitschef (CISO) bei Entrata.

Dieses Dilemma ist Führungskräften im Technologie- und Cybersicherheitsbereich wohlbekannt, da künstliche Intelligenz zwei scheinbar widersprüchliche Anforderungen mit sich bringt. Einerseits strebt die IT-Abteilung eines Unternehmens nach Experimentiermöglichkeiten, Zugänglichkeit, Geschwindigkeit und dem Potenzial, echte Produktivitätssteigerungen zu erzielen. Andererseits benötigt die Sicherheitsabteilung Kontrolle, Verantwortlichkeit, Datengrenzen und die Gewissheit, dass der neue Workflow keine vermeidbaren Risiken birgt.

Beide Ansätze sind berechtigt. Deshalb tun sich Unternehmen schwer, wenn sie KI entweder als rein innovatives Projekt oder als reines Sicherheitsproblem betrachten. Es handelt sich um einen Paradigmenwechsel, und die Organisationen, die ihn erfolgreich meistern, sind diejenigen, die eine ausreichende Infrastruktur und robuste Tools bereitstellen, um Teams zu befähigen, souverän zu agieren, anstatt sie vor die Wahl zwischen Geschwindigkeit und Kontrolle zu stellen.

Beginne mit der Arbeit, nicht mit dem Werkzeug.

Viele Unternehmen behandeln die Einführung von KI zunächst wie die Markteinführung einer Standardsoftware. Sie einigen sich auf einen Anbieter, verteilen Lizenzen, veröffentlichen einige Richtlinien und gehen davon aus, dass die Nutzung sich von selbst transformativ auswirken wird. Dieser Ansatz mag zwar kurzfristig Aktivitäten auslösen, führt aber selten zu nachhaltigen betrieblichen Veränderungen.

Die tatsächliche Einführung beginnt, wenn Führungskräfte verstehen, wie die Aufgaben in der Praxis bewältigt werden können. Die Teams aus Finanzen, Produktentwicklung, Marketing, Support und Entwicklung werden KI-Tools nicht auf dieselbe Weise einsetzen, da jede Gruppe unterschiedliche Wissensanforderungen, vielfältige Datenquellen, verschiedene Risikoschwellen und spezifische Fachkenntnisse besitzt. Jedes dieser Teams muss daher KI-spezifische Fähigkeiten und Tools entwickeln.

Führungskräfte sollten zunächst fragen, was mit jeder Stelle erreicht werden soll, welches Wissen für bessere Entscheidungen erforderlich ist, welche Fähigkeiten für den verantwortungsvollen Umgang mit künstlicher Intelligenz benötigt werden und welche Werkzeuge oder Datenquellen notwendig sind, um ein verlässliches Ergebnis zu erzielen.

Wenn künstliche Intelligenz mit diesen Fähigkeiten verknüpft wird, wird sie zu einem integralen Bestandteil der Arbeitsweise einer Organisation ; wird sie auf nicht damit zusammenhängende Prozesse angewendet, führt sie tendenziell zu einem Plus an Output, ohne dass dies unbedingt zu besseren Ergebnissen führt.

Die Behandlung des Datenzugriffs als Risikodesignproblem

Der Datenzugriff ist einer der wichtigsten Bereiche, in denen KI das Betriebsmodell verändert. Damit KI wirklich von Nutzen ist, benötigen Teams häufig Zugriff auf Informationen, die sie zuvor noch nicht direkt genutzt haben.

Das Marketingteam benötigt möglicherweise Produktdokumentationen und Kundeneinblicke, während das Finanzteam strukturierte operative Daten benötigt, und das Supportteam benötigt möglicherweise Insiderwissen und historischen Kontext sowie die Fähigkeit, Muster in verschiedenen Systemen zu erkennen.

Der Trend, den Datenzugang zu erweitern, ist verständlich; künstliche Intelligenz gewinnt durch einen breiteren Kontext an Wert. Umgekehrt ist auch der Trend, den Zugang einzuschränken, nachvollziehbar, da ein erweiterter Zugang Bedenken hinsichtlich Datenschutz, Compliance und Sicherheit aufwerfen kann. Die Lösung liegt nicht darin, das eine dem anderen vorzuziehen, sondern in der Entwicklung eines systematischeren Modells, das festlegt, welche Daten von wem und zu welchem ​​Zweck genutzt werden dürfen.

In einem unternehmensweiten Implementierungsprojekt bestand die praktische Lösung beispielsweise nicht darin, jedem Team uneingeschränkten Zugriff zu gewähren oder KI auf eine rein technische Funktion zu beschränken. Vielmehr ging es darum, weniger kritische operative Daten von sensibleren Informationen zu trennen und den Teams anschließend ausreichend Zugriff zu geben, um anders arbeiten zu können, während gleichzeitig potenzielle Schäden minimiert wurden, falls ein Workflow unerwartet reagierte.

Ein hilfreicher Ansatzpunkt ist das Konzept der „Datenauswirkungen“. Nicht jeder Datensatz birgt das gleiche Risiko, und nicht jeder Anwendungsfall von KI erfordert die gleichen Einschränkungen. Manche Informationen können leichter zugänglich gemacht werden, da der potenzielle Schaden im Fehlerfall begrenzt ist, während andere Informationen, insbesondere personenbezogene Daten oder sensible Kundendaten, deutlich strengere Kontrollen erfordern.

Dieser Ansatz ermöglicht es Teams, in Bereichen mit geringeren Risiken zu experimentieren und gleichzeitig eine stärkere Governance dort aufrechtzuerhalten, wo das Unternehmen sie wirklich benötigt. Ziel ist es nicht, die Sicherheit zu schwächen, sondern sie zu präzisieren, damit das Unternehmen schneller agieren kann, ohne die Kontrolle über seine kritischsten Umgebungen, Daten und Arbeitsabläufe zu verlieren.

Integration der Verifizierung in den Arbeitsablauf

Die Validierung ist ein entscheidender Punkt, der darüber entscheidet, ob KI-Strategien skalierbar sind oder scheitern. KI-Systeme können Ergebnisse liefern, die zwar professionell wirken, aber unvollständig, fehlerhaft, nicht markenkonform oder nicht standardkonform sein können. Menschliche Überprüfung kann zwar einige dieser Risiken in der Anfangsphase abfedern, ist aber nicht effektiv skalierbar, sobald KI in den täglichen Betrieb integriert ist.

Ich habe das besonders deutlich in technischen Teams beobachtet: KI kann die Softwareentwicklung nur dann beschleunigen, wenn die Qualität, Sicherheit und Genauigkeit der Ergebnisse zuverlässig überprüft werden können. Ohne diese Validierungsebene mögen Teams kurzfristig schneller sein, doch sie schaffen sich dadurch unbemerkt einen höheren Prüfaufwand, mehr Nacharbeit und größere Risiken in späteren Phasen.

Unternehmen benötigen Verifizierungsmodelle, die integraler Bestandteil des Arbeitsablaufs sind. Dazu gehören automatisierte Prüfungen, Datenqualitätskontrollen, Genehmigungsprozesse, Protokollierung, Beobachtbarkeit und klare Eskalationsregeln für Ergebnisse, denen ohne weitere Prüfung nicht vertraut werden sollte.

Führungskräfte sollten diese Mechanismen nicht als zusätzliche, verspätete Routine betrachten. Vielmehr ermöglichen sie es, KI von einem bloßen individuellen Produktivitätswerkzeug zu einer umfassenden, unternehmensweiten Fähigkeit zu entwickeln, denn Teams können die Nutzung nur dann ausweiten, wenn sie über eine wiederkehrende Methode verfügen, um zu überprüfen, ob die erstellten Ergebnisse korrekt, angemessen und sicher zu verwenden sind.

Die Einführung künstlicher Intelligenz ist zu einer Führungsaufgabe geworden.

Die Einführung künstlicher Intelligenz kann nicht einem einzelnen Innovationsteam oder KI-Manager überlassen werden, während der Rest der Führungsebene tatenlos zusieht. Jede Führungskraft muss verstehen, wie KI die Arbeit ihres Teams verändern wird, wie die Mitarbeitenden mit Agenten und Modellen zusammenarbeiten werden und wo Risiken entstehen können.

Das bedeutet nicht, dass jede Führungskraft ein Spezialist für maschinelles Lernen werden muss, aber es bedeutet, dass Führungskräfte über ausreichende Kenntnisse verfügen müssen, um Entscheidungsprozesse zu steuern, Erwartungen zu formulieren und das von ihnen gewünschte Verhalten vorzuleben. Mitarbeiter werden ihre Arbeitsweisen kaum ändern, wenn ihre Führungskräfte KI als etwas behandeln, das jeder übernehmen muss.

Die kulturelle Einbettung ist ebenfalls wichtig, denn wenn Mitarbeitende die Einführung von KI als Euphemismus für Stellenabbau verstehen, werden sie eher an ihrer aktuellen Rolle festhalten, anstatt sich mit deren zukünftigen Möglichkeiten auseinanderzusetzen. Führungskräfte sollten transparent kommunizieren, dass sich Rollen verändern, manche Arbeitsabläufe wegfallen und neue Verantwortlichkeiten entstehen werden. Gleichzeitig sollten sie betonen, dass das unmittelbare Ziel darin besteht, die Mitarbeitenden zu befähigen, bessere und effizientere Leistungen zu erbringen und so einen Return on Investment zu erzielen.

In vielen Fällen verlagert sich die Arbeit von der manuellen Ausführung einzelner Aufgaben hin zur Koordination von Systemen, die die Erledigung der Aufgaben unterstützen. Dies erfordert die Bereitschaft, mit Mehrdeutigkeit umzugehen, was mit dem Wachstum der Fähigkeiten künstlicher Intelligenz immer wichtiger wird.

Unternehmen, die künstliche Intelligenz erfolgreich einführen, sind nicht diejenigen, die Innovation über Sicherheit stellen oder jedes potenzielle Risiko im Voraus eliminieren wollen. Vielmehr schaffen sie solide Grundlagen für Governance, Verifizierung und Disziplin im Umgang mit Daten und geben ihren Teams so das nötige Vertrauen für die Weiterentwicklung. In einer KI-Umgebung ist Kontrolle der Grundstein für nachhaltiges Wachstum. Daher ist in jedem Schritt Vorsicht geboten, insbesondere beim Umgang mit sensiblen KI-Komponenten.