Künstliche Intelligenz: Eine Sicherheitskrise, auf die die Welt nicht vorbereitet war
Entdecken Sie das gravierende KI-Sicherheitsproblem, auf das niemand vorbereitet war. Erfahren Sie mehr über die verborgenen Herausforderungen und realen Risiken, die unsere Zukunft bedrohen.
Die wichtigsten Dinge, die Sie wissen müssen
- Die von einkommensstarken Ländern festgelegten KI-Sicherheitsstandards schaffen blinde Flecken und ernsthafte Risiken bei der Anwendung von Modellen in Regionen mit anderen Sprachen, Kulturen und Trainingsdaten, was zu schwerwiegenden Fehlern in sensiblen Bereichen wie dem Gesundheitswesen führt.
- Die rasante weltweite Verbreitung künstlicher Intelligenz erfordert einen ebenso schnellen Ausbau der Sicherheitsinfrastruktur, wobei besonderer Wert darauf gelegt werden muss, dass Chatbots die Sprachen der Nutzer verstehen und genaue und nicht irreführende Informationen liefern.
- Sprachliche Unterschiede schaffen eine neue Lücke in der KI-Sicherheit, da Benutzer für dasselbe Produkt unterschiedliche Schutzniveaus erhalten und die Wahrscheinlichkeit, dass Modelle für Informationen gefälscht werden, in Sprachen mit wenigen Trainingsdaten zunimmt.
KI -Unternehmen investieren enorme Ressourcen, um sich über die Folgen zunehmender Leistungsfähigkeit ihrer Modelle Gedanken zu machen. OpenAI ging letzten Monat sogar so weit, das Training eines seiner Modelle aus Sicherheitsgründen vorübergehend einzustellen, da der Sektor Risiken ausgesetzt ist, die von autonomem Verhalten bis hin zu immer ausgefeilteren Cyberfähigkeiten reichen.
Doch es gibt ein weiteres, oft übersehenes Problem der KI-Sicherheit: Die in diese Systeme integrierten Schutzmechanismen funktionieren nicht unbedingt für alle gleichermaßen gut. Ein neuer Bericht von Rest of World hebt hervor, dass sich die Bemühungen um KI-Sicherheit nach wie vor größtenteils auf die Bedürfnisse wohlhabender, englischsprachiger Länder konzentrieren. Dies könnte dazu führen, dass Bevölkerungsgruppen in Teilen Asiens, Afrikas und anderer Entwicklungsländer mit grundlegenden und potenziell schwerwiegenden Problemen konfrontiert werden, beispielsweise mit Chatbots, die ihre Sprache nicht verstehen.
Die Sicherheit künstlicher Intelligenz sieht außerhalb des Silicon Valley ganz anders aus.
Viele große KI-Unternehmen beschäftigen umfangreiche Teams, die sich mit Vertrauen und Sicherheit befassen. Die Standards zur Bewertung von Modellen werden jedoch größtenteils in Ländern mit hohem Einkommen geprägt. Forscher argumentieren, dass dies zu blinden Flecken führt, wenn dieselben Modelle in Regionen mit anderen Sprachen, Infrastrukturen, Gesetzen und kulturellen Erwartungen eingesetzt werden. Der Gesundheitssektor liefert hierfür ein besonders besorgniserregendes Beispiel. Untersuchungen zu KI-Systemen für die Verarbeitung natürlicher Sprache in Afrika haben Übersetzungsfehler in der medizinischen Terminologie aufgedeckt. So verwechselte die maschinelle Übersetzung beispielsweise in Tigrinya Pocken mit Syphilis und übersetzte „intravenöse Antibiotika“ sogar mit „intravenöse Insektizide“.
Das Problem geht über die reine Übersetzung hinaus. Studien haben gezeigt, dass KI-Modelle in Sprachen mit relativ wenigen Trainingsdaten häufiger Informationen verfälschen können . Sicherheitsmaßnahmen, die in Englisch bösartige Anfragen erkennen sollen, funktionieren in anderen Sprachen möglicherweise schlechter oder lassen sich leichter umgehen. Dies ist besonders relevant, da immer mehr Menschen Chatbots für Gesundheitsinformationen und andere wichtige Entscheidungen nutzen. Dadurch entsteht eine neue Kluft in der KI: Zwei Personen können dasselbe Produkt verwenden und dennoch ein völlig unterschiedliches Schutzniveau erhalten, nur weil sie unterschiedliche Sprachen sprechen.
Die Einführung künstlicher Intelligenz wartet nicht darauf, dass die Sicherheitsstandards angepasst werden.
Dieses Thema ist angesichts der rasant wachsenden Begeisterung für künstliche Intelligenz in vielen dieser Märkte gerade jetzt besonders relevant. China liefert hierfür vielleicht das deutlichste Beispiel. Wir haben bereits gesehen, wie sich die KI-Nutzung weit über Technologieunternehmen hinaus verbreitet hat; von Schulen bis hin zu lokalen Behörden setzen immer mehr Institutionen auf diese Technologie. Sogar Pekinger Teigtaschenläden sind davon betroffen: Ein Unternehmen begann, Kunden KI-Tokens anzubieten und entwickelte KI-gestützte Systeme zur Warteschlangenverwaltung. Diese Begeisterung ist nicht zwangsläufig ein Problem. Forscher warnen jedoch davor, dass die Sicherheitsinfrastruktur im gleichen Tempo ausgebaut werden muss.
Regierungen haben begonnen zu reagieren. KI-Sicherheit spielt eine zentrale Rolle in zahlreichen internationalen Initiativen, darunter die Bletchley-Erklärung und der diesjährige KI-Gipfel in Indien. Auch China hat Mechanismen zum Management von KI-Risiken in Entwicklungsländern vorgeschlagen. Die größte Herausforderung besteht darin, sicherzustellen, dass „KI-Sicherheit“ nicht einfach nur bedeutet, zukünftige Modelle daran zu hindern, ihre Grenzen zu überschreiten oder Cyberangriffe zu starten. Für die Millionen von Menschen, die diese Tools bereits nutzen, kann Sicherheit viel einfacher sein: Es genügt sicherzustellen, dass Chatbots ihre Sprache verstehen, Dringlichkeit erkennen und ihnen keine falschen oder gefährlichen Informationen liefern . Da KI im Alltag immer allgegenwärtiger wird, sind diese Probleme nicht länger die Ausnahme. Sie gehören nun zu dem, was es bedeutet, KI wirklich sicher zu machen.
Kommentarfunktion ist geschlossen.