Google hat einen Fehler gemacht, als es Nano Banana in Google Earth einfügte.

Letzte Woche hat Google sein KI-gestütztes Bildgenerierungsmodell Nano Banana 2 in Google Earth integriert. Das Unternehmen bewarb die Funktion als Möglichkeit, Infografiken über verschiedene Orte weltweit zu erstellen oder historische Landschaften aus aktuellen Bildern zu generieren. Nutzer wurden außerdem dazu eingeladen, ihre „Traumhäuser“ vor realistischen Hintergründen zu visualisieren – ob Sie nun einen Hausanbau planen oder von einem Ferienhaus am See träumen, mit Nano Banana 2 in Google Earth können Sie Ihre Visionen umsetzen.

Diese Nachricht kommt inmitten von Googles Bestrebungen, seine KI-Plattformen in nahezu alle Produkte und Dienstleistungen zu integrieren (beispielsweise wurden letzte Woche neue Gemini-Funktionen für Google Docs für Workspace-Nutzer hinzugefügt). Aus Unternehmenssicht erschien die Integration von Nano Banana 2 in Google Earth zunächst logisch. Wie sich später jedoch herausstellte, passte diese Integration nicht optimal zu Google Earth.

Google Earth veröffentlicht bereits Nano Banana 2.

Nur einen Tag nach der Veröffentlichung dieser wichtigen Integration für Nano Banana 2 hat Google sie wieder entfernt . Das Unternehmen veröffentlichte eine Aktualisierung seiner ursprünglichen Ankündigung: „Wir wissen, dass Nutzer Google Earth als verlässliche Quelle für die Weltkarte besonders vertrauen. Wir haben festgestellt, dass Geodatenexperten diese Funktion für verschiedene Zwecke nutzen; gleichzeitig haben wir aber auch beobachtet, dass Screenshots generierter Bilder geteilt wurden, die offenbar gegen unsere Richtlinien verstoßen. Daher entfernen wir diese Funktion vorübergehend aus Google Earth, während wir an der Implementierung strengerer Kontrollmechanismen arbeiten. Wichtig ist anzumerken, dass die generierten Bilder nicht in der Hauptansicht von Google Earth sichtbar waren und ein Wasserzeichen trugen, das auf ihre KI-Generierung hinwies.“

Diese Aussage beschreibt die Bilder, die Nutzer mit diesem Tool erstellten, nicht korrekt. Meiner Meinung nach ging es um mehr als nur einen Verstoß gegen Googles Richtlinien : Wie erwartet, nutzte das Internet Nano Banana 2, um unangebrachte und sensible Bilder von realen Orten zu generieren. Es dürfte kaum überraschen, dass eines der am weitesten verbreiteten Bilder ein Flugzeug zeigte, das in das neue World Trade Center in Manhattan stürzte . Andere zeigten den Eiffelturm in Trümmern oder die ägyptischen Pyramiden, die in eine tiefe Grube stürzten. Auch wenn viele erkennen mögen, dass diese Bilder als Scherz gedacht waren, könnten weitaus mehr Menschen diese „offiziellen“ Google Earth-Bilder online sehen und das Schlimmste befürchten.

Aber Spaß beiseite, das Potenzial für die Verbreitung von Fehlinformationen und Desinformationen war alarmierend. Ein Nutzer demonstrierte beispielsweise, wie er mithilfe des Tools Flüchtlinge dicht an dicht nahe der mexikanischen Grenze platzierte . Man kann sich vorstellen, wie ein solches Bild viral ging und die Betrachter getäuscht wurden, indem sie diesen Google-Earth-Schnappschuss für ein echtes Satellitenbild hielten. Google hatte wahrscheinlich einige Kontrollmechanismen implementiert, um viele Bildgenerierungsprozesse zu verhindern, doch diese Einschränkungen waren offensichtlich nicht ausreichend. Da jeder, unabhängig davon, ob er für Googles KI-Funktionen bezahlt hatte oder nicht, Nano Banana 2 mit Google Earth nutzen konnte, musste er lediglich Google Earth öffnen und eine manipulierte Eingabeaufforderung so lange manipulieren, bis Nano Banana 2 reagierte.

Generative künstliche Intelligenz hat in einem Tool wie Google Earth nichts zu suchen.

Man muss kein KI-Skeptiker sein, um zu verstehen, warum das von vornherein eine schlechte Idee war. Trotzdem scheinen nur wenige KI-Unternehmen skeptisch zu sein, bevor sie generative KI-Funktionen in ihre Produkte integrieren. Tools wie Google Earth sind für Bildungszwecke konzipiert. Wir nutzen sie, um etwas über die Welt, ihre Geografie und das Aussehen verschiedener Städte und Landschaften zu lernen. Ich persönlich verbringe gerne Zeit damit, meinen digitalen Globus zu drehen, um neue Orte zu entdecken, und setze oft eine Stecknadel an eine beliebige Stelle, um zu sehen, wie es dort in Street View aussieht. Der Grund dafür ist, dass ich Google Earth für eine genaue und zuverlässige Informationsquelle über die Welt halte; sonst würde es mich ja nicht interessieren.

Daher sehe ich keinen Sinn darin, dass Google ein Tool anbietet, das naturgemäß ungenaue und verzerrte Bilder der Welt erzeugt. Eines der Verkaufsargumente war die Darstellung von Orten auf einer Karte, wie sie in der Vergangenheit aussahen, doch genau das tat Nano Banana 2 nicht . Stattdessen nutzte die KI ihre Trainingsdaten, um eine vermeintlich historische Repräsentation des Gebiets zu erstellen . Würde man sie bitten, einem zu zeigen, wie Paris im Jahr 1726 aussah, würde sie höchstwahrscheinlich öffentliche Gebäude und Bauwerke auf der Karte platzieren, anstatt das Paris von vor dreihundert Jahren tatsächlich darzustellen . Man erhält eine Illusion von Geschichte; sie mag unterhaltsam sein, ist aber sicherlich nicht lehrreich – ähnlich wie das Durchstöbern der minderwertigen, KI-generierten historischen Inhalte in sozialen Medien.

Dasselbe gilt für KI-generierte „Infografiken“. Unternehmen wie Google bewerben die Fähigkeiten von KI gern als Lernwerkzeug, und es mag beeindruckend klingen, dass Google Earth informative Infografiken zur Darstellung eines Ortes auf einer Karte erstellen kann. Doch die resultierenden Infografiken werden von keiner Instanz, schon gar nicht von einem Experten, geprüft: Das von Nano Banana 2 erzeugte Bild kann Halbwahrheiten und Fehlinterpretationen enthalten, und schlimmer noch: Es werden keine anklickbaren Quellen zur Überprüfung der KI-Ergebnisse angegeben. Normale Nutzer behalten die Informationen, die sie aus diesen Infografiken „lernen“, möglicherweise, unabhängig davon, ob diese Informationen korrekt sind oder nicht.

Im schlimmsten Fall fungierte diese Funktion als Maschine zur Verbreitung von Fehlinformationen. Wollte man Menschen davon überzeugen, dass in einem bestimmten Teil der Welt etwas Schlimmes passiert war, konnte man einfach seine Anfrage eingeben, und Nano Banana 2 generierte ein realistisches Satellitenbild der Behauptung, das sich problemlos in sozialen Medien teilen ließ. In Zeiten, in denen KI-generierte Fehlinformationen sich rasant verbreiten, verschärft dies das Problem nur und gießt Öl ins Feuer. Unternehmen wie Google sollten Wege finden, KI-generierte Fehlinformationen von echten Informationen zu trennen, anstatt deren Verbreitung zu fördern.

Dies ist kein Argument gegen KI-Tools im Allgemeinen, sondern vielmehr gegen die Integration generativer KI in ein Lernwerkzeug. Ich verstehe nicht, welchen Nutzen Google darin sieht, Fakten zu verzerren – außer dass es ihnen ein weiteres Beispiel liefert, um mit ihren KI-„Erfolgen“ zu prahlen.