Google Gemini-Fehler führt Shasta-Bergsteiger in die Irre: „Wir haben uns zu sehr auf KI verlassen“
Shasta-Bergsteiger geben zu, sich zu sehr auf Google Gemini verlassen zu haben, nachdem ein KI-Fehler sie in Notlage gebracht hat. Eine warnende Geschichte.
Die wichtigsten Dinge, die Sie wissen müssen
- Es empfiehlt sich, vor jeder Reise die örtliche Rangerstation des Mount Shasta Forest zu kontaktieren und sich bei der Planung nicht ausschließlich auf künstliche Intelligenz zu verlassen.
- Die übermäßige Abhängigkeit von künstlicher Intelligenz führte dazu, dass die Bergsteiger den Gipfel erst um 7 Uhr statt um 11 Uhr erreichten, sich verirrten und einer von ihnen sich auf dem Rückweg in der Dunkelheit verletzte.
- Wichtige Informationen, die mithilfe künstlicher Intelligenz gewonnen werden, müssen anhand anderer Quellen und Referenzen überprüft werden, da Roboter keine praktische Erfahrung in Bereichen wie Bergsteigen oder Verletzungsbehandlung haben.
Hier eine warnende Geschichte aus Kalifornien, die sich an all jene richtet, die sich bei der Planung ihrer Outdoor-Abenteuer auf KI-Roboter verlassen: Eine Gruppe von Bergsteigern geriet in große Schwierigkeiten und musste vom Mount Shasta im Siskiyou County gerettet werden, nachdem Google Gemini ihnen ungenaue Informationen über das Ausmaß der bevorstehenden Herausforderung geliefert hatte.
Wie das Sheriffbüro von Siskiyou County (via Engadget ) berichtete, riet Googles KI den drei unerfahrenen Bergsteigern lediglich, sich auf eine achtstündige Wanderung zum Gipfel vorzubereiten und einfache Kohlenhydrate anstelle von Fetten einzupacken, da Fette „lange Zeit zum Verdauen brauchen“.
Nach mehr als 16 Stunden, einer schweren Knieverletzung und nachdem sie sich in der Dunkelheit verirrt hatten, bereute die Gruppe zweifellos ihre Entscheidung, Rat bei einer immateriellen künstlichen Intelligenz einzuholen, anstatt bei einem Menschen, der den Mount Shasta tatsächlich bestiegen hatte.
Glücklicherweise wurden die Bergsteiger am folgenden Morgen von einem Team gerettet, das aus Mitarbeitern des Sheriffs von Siskiyou County, freiwilligen Rettungskräften und auf Bergsteigen spezialisierten US-Forstbeamten bestand. Das unglückliche Trio musste die Nacht jedoch in einem provisorischen Lager im Mud Creek Canyon verbringen.
Lektion gelernt
In einer Mitteilung des Sheriffbüros heißt es: „Es wird stets empfohlen, sich vor Ihrer Tour mit der zuständigen Rangerstation des U.S. Forest Service (USFS) am Mount Shasta in Verbindung zu setzen, um sicherzustellen, dass Sie über die aktuellsten Informationen verfügen und sich bei der Planung Ihrer Tour nicht ausschließlich auf künstliche Intelligenz verlassen .“ ( Lesen Sie die Mitteilung. ) In der Mitteilung wurde außerdem betont, wie wichtig es ist, die festgelegte Rückkehrzeit von 12:00 Uhr mittags für Bergsteiger einzuhalten.
Die Bergsteiger waren um 3 Uhr morgens aufgebrochen und hatten erwartet, den Gipfel bis 11 Uhr zu erreichen, kamen aber erst um 7 Uhr an. Auf dem Rückweg in der Dunkelheit verirrten sie sich und gerieten ins Tal, wo sich eines der Gruppenmitglieder verletzte, woraufhin sie um Hilfe riefen.
Obwohl einer der Bergsteiger die AllTrails-App auf seinem Handy hatte, versagte das Gerät während des Aufstiegs. Wie SFGate berichtete , sagten die Bergsteiger nach dem Vorfall zu den Rangern: „Wir haben uns zu sehr auf die KI verlassen, anstatt unser eigenes kritisches Denken einzusetzen.“
Künstliche Intelligenz kann zwar bei der Online-Recherche zweifellos hilfreich sein, doch Roboter wie Gemini haben noch nie Berge bestiegen, Verletzungen behandelt, Finanzen verwaltet oder elektrische Leitungen ausgetauscht. Daher sollten Sie bei wichtigen Anfragen stets die angegebenen Quellen und Referenzen überprüfen, um die Richtigkeit der Informationen sicherzustellen.
Kommentarfunktion ist geschlossen.