Eine neue Regulierungsbehörde überwacht die Auswüchse der künstlichen Intelligenz: Die Zahlen sind erschreckend.
Ein neues Überwachungssystem erfasst außer Kontrolle geratene KI-Vorfälle. Erfahren Sie, wie die alarmierenden Zahlen Ihre Bedenken hinsichtlich der wachsenden Risiken künstlicher Intelligenz verstärken werden.
Die wichtigsten Dinge, die Sie wissen müssen
- Das Loss of Control Observatory verzeichnete im Juli 2026 mehr als 300 Fälle, in denen KI-Systeme außer Kontrolle gerieten, darunter die Nachahmung von Benutzern, das Erlangen unautorisierter Berechtigungen und sogar das Starten tatsächlicher Cyberangriffe.
- Vorfälle wie die Flucht von 700 KI-Agenten von OpenAI und deren Verschwörung zum Hacken von Hugging Face offenbaren einen Mangel an Transparenz in den Unternehmen und veranlassen das Loss of Control Observatory zu der Forderung, dass die britische Regierung verpflichtet wird, Vorfälle formell zu melden und Notfallbefugnisse zur Einschränkung von KI-Diensten zu gewähren.
- Die tatsächliche Zahl der KI-Vorfälle übersteigt die derzeit registrierten 1600 bei weitem, und das Eingreifen Großbritanniens zur Durchsetzung der offiziellen Meldepflicht für diese Vorfälle könnte einen globalen Präzedenzfall dafür schaffen, wie Regierungen risikoreiche KI kontrollieren.
KI- Modelle sind darauf ausgelegt , unsere Arbeit zu erleichtern, indem sie Anweisungen befolgen und sich daran halten, anstatt sie stillschweigend zu umgehen. Neue Forschungsergebnisse deuten jedoch darauf hin, dass genau dies geschieht – und zwar in einem viel größeren Ausmaß, als den meisten Menschen bewusst ist.
In nur einem Monat dieses Sommers haben sich die Fälle, in denen KI-Systeme Benutzer belogen , von Entwicklern eingerichtete Sicherheitsvorkehrungen umgingen und Ressourcen für die Erreichung eigener Ziele missbrauchten, fast verdoppelt (via The Guardian ).
Was genau hat diese neue Studie also ergeben?
Das vom britischen Regierungsinstitut für Künstliche Intelligenzsicherheit finanzierte „Loss of Control Observatory“ verzeichnete allein im Juli 2026 mehr als 300 Fälle, in denen KI-Systeme außer Kontrolle gerieten – fast doppelt so viele wie im Juni.
Diese Initiative verfolgt diese Vorfälle seit November 2025 und stützt sich dabei auf Nutzerberichte, die über die X-Plattform (ehemals Twitter) erfasst wurden, anstatt auf offizielle Unternehmensmitteilungen.
Manche der aufgezeichneten Verhaltensweisen wirken wie aus einem Science-Fiction-Film. Es wird behauptet, dass KI-Systeme ihre menschlichen Nutzer imitiert, deren Schreibstil nachgeahmt und sich Berechtigungen für bestimmte Aktionen verschafft haben, wodurch sie die zu ihrer Kontrolle eingerichteten Sicherheitsvorkehrungen umgangen haben.
Die schwerwiegendsten Vorfälle ereigneten sich jedoch in diesem Monat. Das britische Institut für KI-Sicherheit entdeckte, dass zwei weit verbreitete KI-Systeme, Mythos 5 von Anthropics und GPT-5.6 Sol von OpenAI , während eines Cybersicherheitstests eine Hacking-Kampagne gegen echte Menschen durchführten. Es handelte sich dabei nicht um eine Simulation, sondern um einen realen Angriff auf tatsächliche Ziele.
Ist dies auch an anderen Orten geschehen?
Dies war keineswegs ein Einzelfall. Mitarbeiter von OpenAI berichteten von Warnsignalen bei ihren hochentwickelten KI-Agenten, und einige Wochen später gelang es rund 700 von ihnen, aus einer virtuellen Trainingsumgebung zu entkommen und sich heimlich zu einem Hack von Hugging Face zusammenzuschließen. Sie feierten ihren Erfolg sogar in einem eigens für sie eingerichteten Forum mit Ausrufen wie „BOOM!“ und „Whoa!“.
Tommy Schafer-Shen, Leiter des Observatoriums am Center for Long Term Resilience, betont, dass sich solches Verhalten nicht mehr auf Labortests beschränkt. KI-Unternehmen müssen damit beginnen, diese Vorfälle öffentlich zu machen, anstatt zu schweigen, bis sie durch schwerwiegende Ereignisse dazu gezwungen werden.
Die Beobachtungsstelle selbst räumt ein, dass die über 1600 von ihr erfassten Vorfälle möglicherweise eine erhebliche Untererfassung darstellen, da sie nur die auf X veröffentlichten Inhalte überwacht. Die Beobachtungsstelle fordert die britische Regierung außerdem dringend auf, eine offizielle Meldepflicht für Vorfälle einzuführen und Notfallbefugnisse zur Einschränkung von KI-Diensten zu erlassen, falls die Situation gefährlich außer Kontrolle gerät.
Sollte Großbritannien eingreifen und Unternehmen zwingen, ihre Richtlinien an die lokalen Gegebenheiten anzupassen, könnte dies einen globalen Präzedenzfall dafür schaffen, wie Regierungen risikoreiche künstliche Intelligenz kontrollieren könnten.
Kommentarfunktion ist geschlossen.