Vertrauen aufbauen im Zeitalter von Fehlinformationen, Desinformationen und schädlichen Informationen: Herausforderungen und Lösungsansätze

Viele Organisationen sehen sich der Realität gegenüber, dass ihre Mitarbeiter bereits getäuscht werden. Dies dürfte sich höchstwahrscheinlich auch auf ihre Kunden, Investoren und Vorstandsmitglieder ausweiten.

Jahrelang konzentrierten sich die Warnungen auf die Auswirkungen von Deepfakes, wie etwa gefälschte CEOs in Videoanrufen, geklonte Stimmen, die Zahlungen autorisieren, und betrügerische E-Mails.

Diese Taktiken an sich sind nicht neu, aber in den letzten Jahren hat die künstliche Intelligenz sie billiger in der Anwendung, schwieriger zu erkennen und im normalen Geschäftsablauf weitaus überzeugender gemacht.

Dieser Trend bedeutet, dass das Zero-Trust-Prinzip für die Informationsverarbeitung genauso relevant geworden ist wie für den Informationszugriff.

Im Bereich der Cybersicherheit basiert das Zero-Trust-Prinzip auf einer einfachen Annahme: Kein Benutzer, kein Gerät, keine Anwendung und keine Anfrage sollte standardmäßig als vertrauenswürdig gelten.

Im Zeitalter von KI-generierten Fehlinformationen müssen Unternehmen die gleiche Denkweise auch auf die Informationen anwenden, die in ihren Organisationen zirkulieren.

Die neue Vertrauenskrise

Mitarbeiter, Kunden, Investoren und Partner treffen Entscheidungen auf Grundlage dessen, was sie sehen, lesen und hören. Sind diese Informationen falsch, manipuliert oder aus dem Zusammenhang gerissen, können die Folgen schnell von Verwirrung zu ernsthaften Geschäftsschäden eskalieren. Daher müssen Fehlinformationen, Desinformationen und böswillige Behauptungen als Geschäftsrisiken behandelt werden.

Falschinformationen – unbeabsichtigt verbreitete Falschmeldungen – waren schon immer ein Problem. Desinformation, die gezielt zur Täuschung eingesetzt wird, lässt sich heute leichter denn je in großem Umfang produzieren. Malinformation – wahre Informationen, die jedoch oft bewusst aus dem Kontext gerissen und als Waffe missbraucht werden – ist womöglich die heimtückischste der drei Formen. Ein Rivale, eine kriminelle Gruppe oder eine aktive Kampagne muss nicht mehr in ein Netzwerk eindringen, um erheblichen Schaden anzurichten. Sie können diejenigen beeinflussen, die mit einer Organisation verbunden sind oder sich um sie sorgen, indem sie einfach deren Wahrnehmung und Überzeugungen prägen.

Besonders schwierig für Unternehmen ist, dass dies einem Problem ähnelt, mit dem Einzelpersonen bereits konfrontiert sind. In einer Welt voller KI-generierter Inhalte müssen sich Menschen zum Schutz ihrer selbst aneignen – innehalten, bevor sie interagieren, die Quelle hinterfragen, Informationen überprüfen, bevor sie handeln – genau diese Gewohnheiten auch Organisationen in ihre Abläufe integrieren.

Im Grunde ist der Instinkt für Vertrauen zu einer Schwäche geworden. Um dem entgegenzuwirken, bedarf es einer strukturellen Reaktion, die über eine bloße Sensibilisierungskampagne hinausgeht.

Die Bedeutung von verifiziertem Vertrauen

Hier kommt das Zero-Trust-Prinzip ins Spiel. Traditionell verstanden Unternehmen Zero Trust als eine Frage der eingeschränkten Berechtigungen, um sicherzustellen, dass nur die berechtigten Nutzer Zugriff auf die richtigen Anwendungen haben. In einer KI-gesteuerten Informationsumgebung muss sich dieses Prinzip jedoch weiterentwickeln. Angesichts zunehmender Bedrohungen wie bösartiger KI-Programme können sich Unternehmen nicht mehr allein darauf konzentrieren, wer Zugriff anfordert. Sie müssen auch die Art der verwendeten Informationen, die durchgeführten Aktionen und die Vertrauenswürdigkeit der dahinterstehenden Absicht untersuchen.

Der nächste Schritt geht über Verifizierung und Authentifizierung hinaus und beinhaltet Fragen wie: „Sind diese Informationen vertrauenswürdig?“, „Ist dieses Bild echt oder KI-generiert?“ und „Wurden diese Inhalte verändert?“ Das Zero-Trust-Prinzip bietet Unternehmen einen Rahmen, um diese Fragen zu beantworten. Es verpflichtet Organisationen, vor dem Handeln zu prüfen, die Offenlegung von Informationen nach Möglichkeit zu begrenzen und das Risiko zu reduzieren, dass sich falsche, manipulierte oder aus dem Kontext gerissene Informationen unkontrolliert im Unternehmen verbreiten.

Standardisierungsorganisationen wie die C2PA (Alliance for Content Origin and Trust) weisen auf die zukünftige Entwicklung hin: eine Zukunft, in der Herkunft und Integrität von Inhalten in den digitalen Inhalten selbst verankert sind, ähnlich wie ein Schloss-Symbol im Browser eine sichere Verbindung signalisiert. Unternehmen müssen Vertrauen nicht mehr manuell überprüfen; es ist den Informationen inhärent und wird mit ihnen übertragen, wobei die Herkunft der Inhalte in den Verifizierungsprozess einfließt. So wird jeder Inhalt zu einem Signal für die fortlaufende Vertrauensentscheidung.

Vertrauen aufbauen im Zeitalter intelligenter Agenten

Mit dem Einzug von KI-Systemen in die Arbeitswelt ist das Vertrauen in die Absichten der Nutzer dringlicher denn je geworden. Diese Systeme werden zunehmend wie eine weitere Person mit uns zusammenarbeiten und unser Verhalten imitieren, beispielsweise Dokumente lesen, Daten interpretieren, Entscheidungen treffen und handeln. Der Unterschied liegt jedoch darin, dass diese nicht-menschlichen Systeme in Maschinengeschwindigkeit agieren – einer Geschwindigkeit, die menschliche Verifizierungsprozesse unmöglich erreichen können.

Das bedeutet, dass KI-Agenten von Anfang an einem Zero-Trust-Modell unterliegen müssen . Einem Agenten sollte nicht allein deshalb vertraut werden, weil er sich innerhalb der Organisation befindet, die Zustimmung der Nutzer hat oder mit Unternehmenssystemen verbunden ist. Seine Identität, Berechtigungen, sein Verhalten und seine Ergebnisse müssen ständig überprüft werden. Ebenso wichtig ist, dass Agenten den Prinzipien der minimalen Berechtigungen, der minimalen Information und der minimalen Funktion folgen und nur die für eine bestimmte Aufgabe erforderlichen Zugriffsrechte, Daten und Fähigkeiten erhalten.

Diese Agenten stellen jedoch eine Vertrauensherausforderung dar, die durch Identitätsmanagement allein nicht gelöst werden kann. Unternehmen müssen wissen, ob sie es mit einem Menschen oder einer Maschine zu tun haben, ob der Agent verantwortungsbewusst handelt und ob sein Handeln den Werten und Grenzen des Unternehmens entspricht. Im Wesentlichen benötigen Unternehmen daher eine Betriebsverfassung, anhand derer das Verhalten der Agenten konsequent gemessen wird.

Im Zeitalter der künstlichen Intelligenz müssen Organisationen Informationen, Inhalte, Absichten, Verhalten und Handlungen permanent und in Echtzeit prüfen, während die Identitätsprüfung üblicherweise nur beim Zugriff erfolgt. Angesichts des Umfangs der anstehenden Aufgaben wird KI jedoch für Audits, die Aufdeckung von Unregelmäßigkeiten, die notwendige Governance und die Aufrechterhaltung der Integrität der Vertrauenskette unerlässlich sein.

Vertrauenstechnik im Geschäftsleben

Erfolgreich werden nur Organisationen sein, die Vertrauen als etwas betrachten, das aktiv gestaltet und entwickelt werden muss, anstatt es als selbstverständlich vorauszusetzen. Fehlinformationen, Desinformationen und bösartige Inhalte stellen Herausforderungen für Sicherheit, Resilienz und Führung dar, und künstliche Intelligenz macht es noch schwieriger, diese zu ignorieren.

Da die Technologie die Art und Weise, wie Informationen erstellt, geteilt und verarbeitet werden, weiterhin prägt, müssen Unternehmen dieselbe Disziplin in Bezug auf Authentizität entwickeln, die sie schon immer im Bereich der Barrierefreiheit angewendet haben. Dies bedeutet, Inhalte zu überprüfen, Absichten zu hinterfragen und die Möglichkeiten von KI-Systemen auf das wirklich Notwendige zu beschränken.

Vertrauen ist nicht länger selbstverständlich. Vielmehr muss es im heutigen Arbeitsumfeld ein bewusster, kontinuierlicher Prozess sein, der in Echtzeit Informationen, Absichten, Verhaltensweisen und Handlungen umfasst. Die gute Nachricht: Das Rahmenwerk dafür existiert bereits im Zero-Trust-Modell. Was sich jedoch ändern muss, ist die Art und Weise, wie Organisationen dieses Modell implementieren und seinen Anwendungsbereich auf Informationen, Absichten, Verhaltensweisen und Handlungen ausweiten.

Wir haben die besten Internet-Sicherheitspakete geprüft, bewertet und eingestuft.