Künstliche Intelligenz verwandelt gewöhnliche, unschuldige Fotos von Kindern in entsetzliches Material sexueller Ausbeutung: eine schockierende Wahrheit
Schützen Sie Ihre Kinder: Künstliche Intelligenz verwandelt ihre gewöhnlichen Fotos in sexuell ausbeuterische Inhalte. Verstehen Sie dieses gefährliche Phänomen und erfahren Sie, wie Sie es sofort bekämpfen können.
Die wichtigsten Dinge, die Sie wissen müssen
- Eine Untersuchung hat 332 KI-generierte Anzeigen für Material mit kinderpornografischem Inhalt auf Facebook und Instagram aufgedeckt, in denen gewöhnliche, echte Kinderfotos zu missbräuchlichen Inhalten manipuliert wurden.
- Die KI-Systeme von Meta konnten selbst nach angeblichen Verbesserungen hunderte von bezahlten, missbräuchlichen Anzeigen nicht erkennen, während andere Anzeigen fast 50 missbräuchliche Bildbearbeitungs-Apps bewerben, die über App-Stores erhältlich sind.
- Eltern sollten KI-generierte, missbräuchliche Bilder ihrer Kinder nicht weiterverbreiten, sondern diese direkt der jeweiligen Plattform melden und die Kontodaten erfassen. Sie können den „Take It Down“-Service des NCMEC nutzen, um eine digitale Spur zu hinterlassen.
Ein Foto meiner Kinder am Strand, meines Sohnes beim Fußballspielen oder auch meine ganze Familie, die vor unserem Haus lächelt – das sind alles Beispiele für Fotos, die ich in den sozialen Medien geteilt habe. Ich weiß, dass ich damit nicht allein bin, denn ich sehe ständig ähnliche Bilder, die den Alltag so treffend einfangen.
Doch die künstliche Intelligenz hat eine neue und besorgniserregende Gefahr geschaffen: Sie ermöglicht es, gewöhnliche Bilder von Kindern aus dem realen Leben, wie die eben genannten, in Bilder sexueller Ausbeutung zu verwandeln, ohne dass das Kind oder seine Eltern davon wissen.
Um es klarzustellen: Dies ist keine theoretische Bedrohung.
332 KI-generierte Anzeigen mit Bildern von sexuellem Kindesmissbrauch wurden weitergeleitet
Eine neue Untersuchung des Tech Transparency Project (TTP) hat Hunderte von KI- generierten Anzeigen mit kinderpornografischem Material aufgedeckt , die auf Facebook und Instagram kursieren. Laut WIRED identifizierten die Forscher vier echte Kinder, deren Fotos manipuliert worden waren . Darunter befanden sich zwei jugendliche Influencer, ein Kind im Vorpubertätsalter, dessen Bild auf einer Stockfoto-Website verwendet wurde, und ein junges Mitglied einer europäischen Königsfamilie.
Insgesamt fand TTP 332 Werbeanzeigen mit KI-generiertem Material zur sexuellen Ausbeutung von Kindern (CSAM). Die meisten dieser Anzeigen zeigten ein Kind, dessen Bild mithilfe von KI so manipuliert worden war, dass es den Anschein erweckte, als würde es eine sexuelle Handlung ausführen.
Diese Erkenntnisse verdeutlichen auf beunruhigende Weise, wie generative KI die Risiken beim Teilen von Kinderbildern im Internet verändert hat . Um überzeugende Fälschungen zu erstellen, benötigt man nicht einmal mehr ein echtes Foto; ein gewöhnliches Bild kann als Rohmaterial dienen.
Wie man gewöhnliche Bilder in KI-generiertes anstößiges Material verwandelt
Bildgenerierende KI-Tools können ein vorhandenes Bild nehmen und Teile davon verändern, während die ursprünglichen, erkennbaren Merkmale der Person erhalten bleiben.
Dies sei, so Forscher, einer Reihe von Kindern widerfahren, die in Meta-Anzeigen identifiziert wurden.
Laut WIRED gelang es Forschern, die Bilder von vier Minderjährigen bis zu ihren Ursprungsquellen zurückzuverfolgen. Zwei von ihnen waren jugendliche Influencer mit öffentlichen Social-Media-Profilen. Bei einem weiteren Kind handelte es sich um ein Kind im Vorpubertätsalter, dessen Bild auf einer Stockfoto-Website verfügbar war. Das vierte Kind war ein junges Mitglied einer europäischen Königsfamilie.
Keines dieser Originalbilder musste sexuelles Material enthalten, um missbraucht werden zu können.
Emma Hardy, Kommunikationsdirektorin der Internet Watch Foundation, sagte gegenüber WIRED: „KI-Anwendungen machen es sehr einfach, realistische, kriminelle Bilder von sexuellem Kindesmissbrauch zu erstellen, wodurch ein neues Risiko entsteht, dass alltägliche Kinderfotos aufgenommen und zu sexuellen Inhalten umfunktioniert werden.“
Sobald ein reguläres Bild öffentlich verfügbar ist, kann es jeder herunterladen und in ein KI-Tool zur Bildbearbeitung einspeisen.
Die KI von Meta hat es nicht geschafft, Hunderte von Anzeigen zu erkennen.
Das Ausmaß der jüngsten Untersuchung zeigt auch, wie schwierig es ist, die daraus resultierenden Inhalte zu unterbinden.
Im August entdeckten Forscher von TTP zunächst 53 Anzeigen mit kinderpornografischem Material auf den Plattformen von Meta. Meta erklärte später, dass viele dieser Anzeigen vor der Einführung einer neuen KI-Technologie erschienen waren, die die Erkennung unangemessener Anzeigen beim Hochladen verbessern sollte.
Die Forscher fanden jedoch weiterhin solche Inhalte. TTP gibt an, letztendlich 332 Anzeigen mit KI-generiertem kinderpornografischem Material identifiziert zu haben, wobei Hunderte davon nach der Ankündigung der verbesserten Erkennungstechnologie von Meta auftauchten, was Fragen zur Effektivität der KI-gestützten Überwachung aufwirft.
Dies ist besonders wichtig, da es sich nicht einfach um Facebook- oder Instagram-Posts handelte, die unbemerkt geblieben waren. Es waren bezahlte Werbeanzeigen.
Meta gibt an, dass Anzeigen vor ihrer Veröffentlichung geprüft werden und dass automatisierte Systeme dabei eine Schlüsselrolle spielen.
Meta-Sprecherin Tracy Clayton erklärte gegenüber WIRED, dass das Unternehmen keinerlei Toleranz gegenüber Apps zur Verbreitung von Nacktbildern oder Kindesmissbrauch verfolge, unabhängig davon, ob die Bilder echte Kinder zeigen oder KI-generiert sind. Meta gab an, dass Täter gezielt versuchen, die Erkennungssysteme zu umgehen, und dass einige Videos schwerer zu erkennen seien, da Bilder von Kindern nur kurz zu sehen oder verpixelt seien.
Das Unternehmen gab an, dass viele der von den Forschern identifizierten Anzeigen bereits entfernt worden seien, die meisten weniger als 200 Impressionen erzielt hätten und es weniger als 5000 US-Dollar an Zahlungen aus diesen Anzeigen erhalten habe. Die Forscher dokumentierten jedoch Fälle, in denen die Reichweite der Anzeigen nach der Meldung zunahm.
TTP berichtete, dass eine einzelne Anzeige, die sich an einen echten Teenager richtete, vier europäische Accounts erreicht hatte, als sie Meta gemeldet wurde. Einige Tage später, als Meta die Anzeige entfernte, hatte sie über 330 Accounts erreicht.
Die Untersuchung zeigt den weitverbreiteten Einsatz dieser Werkzeuge.
Forscher entdeckten Anzeigen, die Nutzer zu fast 50 Apps im Apple App Store und bei Google Play weiterleiteten. Laut WIRED bewarben etwa 300 der 350 im Rahmen der Untersuchung analysierten Anzeigen KI-gestützte Bild- oder Videogeneratoren.
Apple teilte WIRED mit, dass einige Entwickler zunächst konforme Versionen ihrer Apps anboten, bevor sie später verbotene Funktionen zum Entfernen von Inhalten hinzufügten. Apple gab an, 17 der 20 von Forschern identifizierten Apps entfernt und gegen die verbleibenden drei sowie sieben weitere von WIRED aufgedeckte Apps vorgegangen zu sein.
Google seinerseits erklärte, alle in dem Bericht genannten Apps entfernt und Hunderte weiterer Apps wegen Verstößen gegen seine Richtlinien gesperrt zu haben.
Diese Ergebnisse offenbaren jedoch ein Problem, das über einzelne Plattformen hinausgeht, da künstliche Intelligenz zur Erstellung solcher anstößiger Bilder missbraucht werden kann. Die meisten KI-Tools sind unreguliert, wodurch Unternehmen einem Risiko ausgesetzt sind. Ein App-Store könnte das Tool zur Erstellung dieser Bilder verbreiten, und eine Werbeplattform könnte anschließend entsprechende Anzeigen schalten.
Jede Ebene dieses Systems kann über eigene Sicherheitssysteme verfügen, aber anstößiges Material muss diese Systeme nur einmal durchlaufen, um die Benutzer zu erreichen.
Was würden Sie tun, wenn Sie ein KI-generiertes Bild Ihres Kindes finden würden?
Sollten Sie KI-generierte sexuelle Bilder Ihres Kindes entdecken, veröffentlichen oder verbreiten Sie das Bild nicht weiter, um andere zu warnen.
Stattdessen sollten Sie Informationen speichern, die dabei helfen, festzustellen, wo dieses Material erscheint, wie z. B. den Kontonamen, den Seitentitel und andere zugehörige Details, und den Inhalt direkt an die Plattform melden.
In den Vereinigten Staaten können Verdachtsfälle von sexueller Ausbeutung von Kindern auch der CyberTipline des National Center for Missing & Exploited Children gemeldet werden.
Eltern können auch den „Take It Down“-Dienst des NCMEC nutzen , der dazu beitragen soll, die Online-Verbreitung von Nackt-, Teilakt- oder sexuell expliziten Fotos oder Videos von Personen unter 18 Jahren zu unterbinden. Das System erstellt einen digitalen Fingerabdruck oder Hash des Bildes, ohne dass das Bild selbst hochgeladen werden muss.
Da KI-generierte Bilder neue und komplexere Szenarien erzeugen, sollten Eltern, die sich nicht sicher sind, ob ein bearbeitetes Bild die Meldekriterien erfüllt, das Gesehene melden, anstatt selbst darüber zu entscheiden.
Fazit
Eltern werden seit Jahren vor den Gefahren des „Teilens“ und den digitalen Spuren ihrer Kinder gewarnt. Der Begriff „Teilen“, eine Wortschöpfung aus „Teilen“ und „Elternschaft“, bezeichnet die Praxis von Eltern, Fotos, Videos und persönliche Details ihrer Kinder in sozialen Medien zu teilen.
Auch wenn Eltern das Risiko eines Missbrauchs der von ihnen veröffentlichten Fotos oder Videos durch KI nicht vollständig ausschließen können , lässt sich durch die Verringerung der Anzahl öffentlich verfügbarer Bilder ihrer Kinder und durch eine sorgfältigere Auswahl der geteilten Inhalte die Menge an Material, das Personen zur Verfügung steht, die es missbrauchen könnten, reduzieren.
Kommentarfunktion ist geschlossen.