Tesla FSD v14: Es scherte aus und versuchte ohne ersichtlichen Grund, mich in einen Graben zu lenken.

Teslas Full Self-Driving System, Version v14.3.6, versuchte, eine Autobahnausfahrt zu nehmen, die mein Auto bereits mit einer Geschwindigkeit von 110 km/h (68 mph) passiert hatte, und drängte uns beinahe direkt in einen Graben.

Ich war bereit, die Kontrolle über das Auto zu übernehmen, und das tat ich auch, aber die Situation war furchterregend. Mein Freund, der auf dem Beifahrersitz saß, schrie vor Angst.

Was die Dashcam zeigt

Dieser Vorfall ereignete sich am Sonntagabend auf der Autoroute 55 in der Region Mauricie in Quebec, während das FSD (Supervised) v14.3.6-System in Betrieb war – die neueste und beste Version des FSD-Systems von Tesla auf der neuesten Hardware.

Das Auto fuhr mit 110 km/h auf der rechten Fahrspur. Die Fahrbahn war trocken, es herrschte kein Verkehr in beide Richtungen, die Fahrbahnmarkierungen waren modern und deutlich, und die Schilderbrücken waren reflektierend. Die Bedingungen waren perfekt für das FSD-System. Als wir die Brücke an der Ausfahrt 217 unterquerten, aktivierte sich der rechte Blinker, und das Auto begann, zum Seitenstreifen auszuweichen, während die Meldung „Selbstfahrend“ weiterhin auf dem Bildschirm angezeigt wurde.

Das Problem war, dass der Hang hinter uns bereits nachgegeben hatte. Hätte man diese späte Kurve bei dieser Geschwindigkeit genommen, wären wir direkt in das Loch gerutscht.

Die Geschwindigkeitsanzeige sank auf 110, 109, 107 und 104 km/h, als das Auto das Fahrmanöver durchführte. In diesem Moment umklammerte ich das Lenkrad. Bei 102 km/h verschwand der Schriftzug „Autonomes Fahren“ vom Bildschirm.

Es handelte sich weder um ein Wackeln in der Spur noch um einen Moment des Zögerns. Das Auto entschied sich, den Blinker zu setzen und eine Ausfahrt zu nehmen, die es nicht hätte nehmen sollen.

Dies waren ideale Bedingungen für das FSD-System.

Wenn man das einfachste mögliche Szenario für Tesla entwerfen müsste, dann wäre es dieses.

Eine mehrspurige Straße. Nachts sind entgegenkommende Scheinwerfer und Fahrbahnreflektoren gut erkennbar. Kein Verkehr, der einer Analyse bedarf. Deutliche Fahrbahnmarkierungen. Große, gut beleuchtete Schilder.

Nach allem, was ich mit Version 14 erlebt habe, ist das Fahren auf Autobahnen bei Nacht und auf leeren Straßen die absolute Stärke des Systems . Ich habe so Tausende von Kilometern zurückgelegt, ohne irgendetwas einstellen zu müssen. Deshalb bin ich so zuversichtlich. Und genau diese Zuversicht ist die Falle.

Über diese spezielle Gefahr habe ich im Juni geschrieben.

Vor zweieinhalb Monaten veröffentlichte ich einen Artikel, in dem ich behauptete, das FSD-v14-System sei so gut, dass es mich gefährlich selbstsicher gemacht habe. Ich schrieb damals: „Ein System, das nahezu perfekt funktioniert, stellt eine Falle dar – Fahrer vertrauen ihm so sehr, dass sie unaufmerksam werden, doch es versagt immer noch unerwartet und manchmal sogar kritisch.“

Ich stehe zu jedem Wort, das ich gesagt habe, und der Sonntagabend hat es bewiesen. Tausende von Kilometern zwischen zwei kritischen Eingriffen zurückzulegen, ist wahrlich eine beeindruckende Ingenieursleistung. Aber genau diese Zeitspanne lehrt das Gehirn auch, nicht mehr ständig nur zu scannen, sondern aufmerksam zu sein – und lässt einen deshalb zweimal überlegen, bevor man sich einen Tesla kauft.

In den Versionshinweisen zu Teslas Version 14.3.6 heißt es, das Unternehmen habe „eine Reinforcement-Learning-Phase (RL) entwickelt, um das neuronale Netzwerk des FSD-Systems zu trainieren“, den KI-Interpreter mithilfe von MLIR neu geschrieben, um „20 % schnellere Reaktionszeiten“ zu erzielen, und die Reaktion des Fahrzeugs auf Systembeeinträchtigungen verbessert, wodurch „unnötige Eingriffe des Fahrers reduziert“ würden. Eingriffe des Fahrers nehmen mit der Softwareverbesserung ab und verringern sich auch, wenn der Fahrer nicht mehr eingreift. Tesla veröffentlicht keine Informationen, die es Außenstehenden ermöglichen würden, zwischen diesen beiden Faktoren zu unterscheiden.

Die verfügbaren öffentlichen Zahlen sind nicht beruhigend. Tesla meldete der NHTSA innerhalb eines Monats einen Rekord von 207 Unfällen mit Autopilot und FSD. In 99.9 % der 3,763 Unfallberichte zu Fahrerassistenzsystemen seit 2019 wurden die Unfallhergänge nicht näher erläutert. Musk versichert Investoren weiterhin, dass unüberwachtes FSD bis Ende des Jahres in den USA flächendeckend verfügbar sein wird, während der Co-CEO von Waymo fortwährend erklärt, warum autonomes Fahren allein mithilfe von Kameras nicht den Anforderungen eines wirklich autonomen Fahrsystems genügt.

DzTecnium-Meinung

Ein Vorfall, der beinahe passiert wäre, ist nur eine Geschichte und keine Tatsache, aber ich denke, er ist eine wichtige Mahnung, wachsam zu bleiben.

Wie ich bereits mehrfach erwähnt habe, ist Teslas FSD-System v14 ein wirklich beeindruckendes Produkt. Es erfüllt jedoch nicht das ursprüngliche Versprechen von FSD: unüberwachtes autonomes Fahren. Davon ist es weit entfernt und wird es vielleicht auch nie sein. Dies wird ein Problem bleiben und ist womöglich der größte Fehler, den Tesla je begangen hat.

Aber wenn wir das einmal beiseite lassen und FSD als ein Fahrerassistenzsystem betrachten, das von Punkt zu Punkt funktioniert, ist es wirklich erstaunlich.

Diese beeindruckende Darstellung führt jedoch zu Selbstzufriedenheit (Gleichgültigkeit). Tesla trägt nicht gerade dazu bei, insbesondere durch Aussagen von CEO Elon Musk wie: „Sie können jetzt auf Ihr Handy schauen, während Sie es benutzen.“

Das ist eindeutig leichtsinnig. Mit der Verbesserung des Systems muss Tesla die Fahrer besser darin machen, auf dieses Problem der Sorglosigkeit aufmerksam zu machen, und nicht umgekehrt.