"Gefährlich" und "verantwortungslos": Anwalt fordert Rückruf von Teslas "Autopilot"

[PCGH-Redaktion]

Jetzt ist Ihre Meinung gefragt zu "Gefährlich" und "verantwortungslos": Anwalt fordert Rückruf von Teslas "Autopilot"

Der US-amerikanische Verbraucheranwalt und Politiker Ralph Nader fordert den Rückruf der "Autopilot"-Systeme aller Tesla-Fahrzeuge. Er bezeichnet die Technologie als gefährlich und verantwortungslos.

Bitte beachten Sie: Der Kommentarbereich wird gemäß der Forenregeln moderiert. Allgemeine Fragen und Kritik zu Online-Artikeln von PC Games Hardware sind im Feedback-Unterforum zu veröffentlichen und nicht im Kommentarthread zu einer News. Dort werden sie ohne Nachfragen entfernt.

Zurück zum Artikel: "Gefährlich" und "verantwortungslos": Anwalt fordert Rückruf von Teslas "Autopilot"

 

[Jairun_T]

Für mich ist das System mit unterschiedlichen "Leveln" an "Autonomie" der "Autopiloten" schuld im Marekting Schuld.
Wieso sind Systeme bei denen der Fahrer noch aktiv auf den Verkehr achten muss nicht einfach "Assistenz Systeme" und erst wenn das nicht mehr notwendig ist ein "Autopilot".

Aber fürs Marketing Gewäsch ist halt der Verkauf eines Autopiloten* (*Autonomie Level 1-3) besser... :/

 

[Incredible Alk]

Einen Assistenten, bei dem man "immer wachsam und bereit zum Eingreifen" sein muss, liefern die Level 3 Systeme der deutschen Hersteller auch.

Nur dass diese sofort warnen und sogar anhalten, wenn sie feststellen, dass keine Hand mehr am Lenker ist und der Fahrer seine Augen nicht mehr auf den Straßenverkehr richtet.

Die machen noch ganz andere "tolle" Sachen.

Ich bin vorgestern mit dem "Travel Assist" des Golf8 unterwegs gewesen. Also Abstand/Geschwindigkeit zum Vordermann halten und mitlenken. Ich komme in eine Baustelle, wo eine zweispurige Bundesstraße neu gemacht wird und in der Baustelle halt die eine zweispurige Richtung für jeweils eine Richtung einspurig verwendet wird. Baustellen-60-Tempomat. Alles super.
Und jetzt kommts: Das Navi/GPS kriegt auf einmal die Idee, dass ich ja auf der falschen Spur (in die andere Richtung) wäre - stimmt ja auch, ist eben so in der Baustelle. Aber statt irgendeinen Hinweis auszugeben (oder noch besser zu bemerken dass das nicht sein kann da ich sonst ein Geisterfahrer mit 60 in die falsche Richtung wäre) kommt ein "BITTE WENDEN" aus der Box und der Travelassi verlangsamt das Fahrzeug ohne Vorwarnung. Die Hinter mir haben sich gefreut.
Was soll denn der Schei...?!

Also wenn diese tollen Fahrassistenten alle so strunzdumm sind wie der im Golf8 dann können die mich mal erstens alle und ich fahr 100% selber und zweitens haben wir dann noch einen SEHR langen Weg vor uns bevor da irgendwas zuverlässig autonom geht.

 

[Khabarak]

Ich glaub dem Anwalt geht es auch um diesen Bericht:

https://www.golem.de/news/autopilot...-kinder-dummy-mehrfach-nicht-2208-167535.html

Ein Model 3 hat auch verschiedenen Geschwindigkeiten einen Kind Dummy nicht als Hindernis erkannt und halt schlicht überfahren.
Edit: Allerdings wäre der Notbremsassistent unabhängig vom FSD Modus...

 

[Hoagy]

Einen Assistenten, bei dem man "immer wachsam und bereit zum Eingreifen" sein muss, liefern die Level 3 Systeme der deutschen Hersteller auch.

Nur dass diese sofort warnen und sogar anhalten, wenn sie feststellen, dass keine Hand mehr am Lenker ist und der Fahrer seine Augen nicht mehr auf den Straßenverkehr richtet.

Das Problem von Tesla ist, dass sie ihr System als etwas anders vermarkten als es eigentlich ist, und damit eine falsche Erwartungshaltung erzeugt.

Das ist so nicht ganz richtig. Leider werden die Begriffe im Artikel mal wieder durcheinander gebracht, aber Tesla vermarket den Autopiloten als Assistenzsystem. Ergibt auch sinn, denn man kennt den auch aus dem Flugzeug, wo er ebenfalls nur ein Assistenzsystem ist.
Funktioniert übrigens ganz hervorragend und erhöht die Sicherheit enorm. Ich fahre größtenteils nur noch damit.

Als automones Fahren vermarktet Tesla das FSD (= Full Self Driving), das aktuell in den USA für einige Kunden als Beta-Version erprobt wird. Ähnlich wie hier die deutschen Hersteller ihre automonen Systeme in bestimmten öffentlichen Gebieten testen.

Also wenn diese tollen Fahrassistenten alle so strunzdumm sind wie der im Golf8 dann können die mich mal erstens alle und ich fahr 100% selber und zweitens haben wir dann noch einen SEHR langen Weg vor uns bevor da irgendwas zuverlässig autonom geht.

Keine Sorge, andere Hersteller sind da schon wesentlich weiter. Vor fünf Jahren war es auch noch ein Abenteuer, mit dem Tesla-Autopiloten durch Baustellen zu fahren (man bekam dann auch eine Warnung), aber inzwischen funktioniert das sehr gut. Sogar bei schlechten Sicht- und Wetterverhältnissen.
Ich stimme dir aber zu, dass wir noch einen sehr weiten Weg bis zum tatsächlichen (vor allem flächendeckenden) autonomen Fahren vor uns haben. Es gibt einfach zu viele Edge Cases und schwierige Situationen, wo man auch als Mensch mitunter kaum erkennen kann, was zu tun ist.

 

[huenni87]

Also beim Vergleich zwischen einem Autopiloten im Flieger und dem eines Autos bestehen für mich nochmal sehr gravierende Unterschiede. Denn Baustellen und Fußgänger gibt es in der Regel auf 35000 Fuß Höhe nicht.

Ein Flieger der mit Autopilot fliegt macht das idR problemlos wenn die Computer des Flugzeugs auch mit den korrekten Daten gefüttert sind. Hier geben die Piloten ein, wo sie hinwollen, die Höhen die Geschwindigkeiten, alles wird programmiert. Und das tut der dann und die Piloten müssen halt aufpassen dass es keine techn. Defekte gibt.

Im Auto ist das nochmal eine ganz andere Hausnummer. Ständig wechselnde Geschwindigkeiten, Verkehr überall (Autos, Räder, Fußgänger), Baustellen, Engstellen und vor allem immer das menschliche Verhalten von anderen Fahrzeugen. Dazu noch vieles mehr.

Der Autofahrer gibt dem Autopiloten auch nicht exakt die Route und das Tempo vor. Er sagt nur, ich will dahin und dann gehts los.

Alleine der Name Autopilot im Tesla ist daher grob Fahrlässig, da wir leider heutzutage in einer Zeit leben wo Menschen nicht verstehen, dass auch das Ding nicht zaubern kann. Und Piloten im Flugzeug sind geschult auf die Systeme und die Wissen was zu tun ist, wenn es einen Defekt gibt. Viele Autofahrer sind schon überfordert wenn mal eine Lampe im Cockpit angeht die sie nicht kennen.

 

[KasenShlogga]

Schön, dass es noch Leute mit gesundem Menschenverstand zu geben scheint. Glaube aber nicht, dass es Tesla großartig interessiert, was irgendein Anwalt dazu denkt.

 

[-Kerby-]

Die machen noch ganz andere "tolle" Sachen.

Ich bin vorgestern mit dem "Travel Assist" des Golf8 unterwegs gewesen. Also Abstand/Geschwindigkeit zum Vordermann halten und mitlenken. Ich komme in eine Baustelle, wo eine zweispurige Bundesstraße neu gemacht wird und in der Baustelle halt die eine zweispurige Richtung für jeweils eine Richtung einspurig verwendet wird. Baustellen-60-Tempomat. Alles super.
Und jetzt kommts: Das Navi/GPS kriegt auf einmal die Idee, dass ich ja auf der falschen Spur (in die andere Richtung) wäre - stimmt ja auch, ist eben so in der Baustelle. Aber statt irgendeinen Hinweis auszugeben (oder noch besser zu bemerken dass das nicht sein kann da ich sonst ein Geisterfahrer mit 60 in die falsche Richtung wäre) kommt ein "BITTE WENDEN" aus der Box und der Travelassi verlangsamt das Fahrzeug ohne Vorwarnung. Die Hinter mir haben sich gefreut.
Was soll denn der Schei...?!

Also wenn diese tollen Fahrassistenten alle so strunzdumm sind wie der im Golf8 dann können die mich mal erstens alle und ich fahr 100% selber und zweitens haben wir dann noch einen SEHR langen Weg vor uns bevor da irgendwas zuverlässig autonom geht.

Es gibt auch ausgereiferte Modelle z. B. von Mercedes-Benz: https://www.computerbase.de/2020-08/mercedes-benz-s-klasse-drive-pilot-level-3/

Der Erste, der vollständig zertifiziert wurde für SAE-3. Das gehört aber alles zur Entwicklung dazu - die autonomen Systeme sind schon Wettbewerbsprodukte wie es damals die Motorentwicklung war, aber es braucht Zeit zur Weiterentwicklung und gewisse Rahmenbedingungen, dass man nicht gleich jeden Vollhonk mit einem rudimentären Autopiloten auf die Straße fahren lässt.

 

[PCGH_Torsten]

Einen Assistenten, bei dem man "immer wachsam und bereit zum Eingreifen" sein muss, liefern die Level 3 Systeme der deutschen Hersteller auch.

Nur dass diese sofort warnen und sogar anhalten, wenn sie feststellen, dass keine Hand mehr am Lenker ist und der Fahrer seine Augen nicht mehr auf den Straßenverkehr richtet.

Das Problem von Tesla ist, dass sie ihr System als etwas anders vermarkten als es eigentlich ist, und damit eine falsche Erwartungshaltung erzeugt.

Level 3 Systeme haben den Anspruch, dass man sie nicht mehr überwachen, sondern nur noch bereit zum Eingreifen sein muss. Oder vielleicht besser "nur" in Anführungszeichen, denn eine 10-Sekunden-Bereitschaft fällt Menschen in der Regel auch nicht einfacher als Überwachungsaufgaben. Wenn solche Systeme erst einmal zum regulären Fahren genutzt werden können (bislang gibt es als Level 3 nur Mercedes' Staupilot), dann kommt eventuell noch sinkende Fahrerfahrung hinzu.

Tesla bietet allerdings nur Level 2 und, in den USA, Level 2+ (keine Hand am Lenkrad) an, bei denen der Fahrer permanent die gesamte Umgebung und sämtliche Fahrzeugfunktionen überwachen muss. Erst der fertige FSD soll Level 3 erreichen – aber bislang läuft da nur die Beta, in der die (privaten, ungeprüften, ungeschulten, unüberwachten) "Testfahrer" natürlich erst recht aufmerksam sein sollen. Aber: Tesla vermarktet bereits den "Level 2"-Assistenten als "Autopilot" und hat in Werbematerial teils auch über vollautonomes Fahren (also Level 4) geredet. Elon Musk verspricht seit Jahren sogar immer wieder Level 5 "bald". Ein Anwender müsste sich also intensiv mit der Technik, die er da kauft auseinandersetzen und wer macht das schon?

Gerade Tesla hat jetzt auch nicht gerade ein "1.000 Seiten gedruckte Anleitung studieren"-Image (und auch keine derartige Anleitung), sodass die meisten Fahrer wohl ihren "Autopiloten" ganz instinktiv anhand des Namens deuten werden: "System, dass nach Eingabe des Ziels den Großteil des Reiseverkehrs im Alleingang übernimmt und bei drohenden Gefahren rechtzeitig warnt". Die resultierenden nicht/unzureichend überwachten Autopilot-Tiefflüge haben in den USA bereits mehrere Menschenleben gekostet – vor allem auch von Unschuldigen, die automatisiert überfahren wurden. Auch wenn Ralph Nader für publikumswirksame Aufarbeitungen und drastische Wortwahl bekannt ist, kann man seine Forderung also durchaus begründen. Bei einem menschlichen Fahrer wird bereits nach Verursachung eines schwerwiegenden Unfalls die Fahrerlaubnis in Frage gestellt, nach mehreren Wiederholungen nicht selten entzogen. Teslas Autopilot dagegen darf weiter fahren.

 

[Terracresta]

Jetzt ist die Preisfrage, selbst wenn man immer die Hände am Steuer haben und dem ganzen volle Aufmerksamkeit schenken muss, wie schnell lässt man sich bei einem Autopiloten ablenken oder schläft wegen Untätigkeit ein? Könnte mir vorstellen, wesentlich schneller als wenn man selbst lenken und schalten, Gas geben und bremsen muss (ewig gerade US Straßen und Tempomat mal außen vor).

Wenn man nun jederzeit eingreifen können muss und bei Unfall vor Gericht oft gestritten wird, ob man schnell genug reagiert hat, dann kann man auch gleich selber steuern, anstatt die Kosten für pseudo-autonomes Fahren zu tragen.
In meinen Augen machen Autopiloten erst dann Sinn, wenn man nicht mehr eingreifen muss. Im besten Fall wäre dann nicht mal mehr ein Führerschein notwendig.

 

[Khabarak]

Einschlafen geht nicht, da das System Deine Aufmerksamkeit überwacht (ob die Augen auf den Straßenverkehr gerichtet sind). Du wirst auch gewarnt, wenn das System Anzeichen von Übermüdung erkennt.

Ja, manchmal nervt die Bevormundung auch.

Funktioniert wunderbar:

Video shows Tesla driver asleep at the wheel on Interstate 5 in San Diego

 

[PCGH_Torsten]

Ich rede auch nicht von Tesla sondern von den Deutschen Autos.

Meine Frage war ja, ob Tesla das auch überwacht. Offenbar nicht.

Soweit ich weiß, gibt es einen Berührungserkennung am Lenkrad, die nach ein paar Sekunden alarm schlagen soll – sich aber auch relativ leicht durch ins Lenkrad geklemmte Objekte täuschen lässt. Von einer Müdigkeitsüberwachung habe ich noch nichts gehört, obwohl Tesla den Innenraum permanent filmt. Die wäre in meinen Augen aber zwingend nötig, denn man kann auch mit Händen am Lenkrad nach vorne starren und in Gedanken ganz woanders sein, während das Auto vermeintlich "alles" von alleine macht. Wie Terracresta schon beschrieben hat: Eintönige Monitoringaufgaben liegen Menschen nicht sonderlich und Länder mit langen, geraden Autobahnen (Italien, Frankreich) oder Tunneln (Skandinavien, Alpenraum) sorgen schon bewusst für optische Abwechslung, damit aktiv lenkende Fahrer nicht ob der Eintönigkeit unaufmerksam werden.

Lokführer werden sogar jahrelang trainiert, um in Situationen in denen sie immerhin noch die Geschwindigkeit kontrollieren, aufmerksam zu bleiben und müssen das auch alle paar Minuten per Knopfdruck bestätigen, obwohl ihre Lenkzeit insgesamt beschränkt ist und meist durch Zwischenhalte aufgelockert wird. Noch länger ausgebildete Piloten lösen sich sogar bei der Überwachung ab und das von einem System dass derart autonom ist, dass manuelles Fliegen in einen Situationen verboten wird. Und in Kraftwerken gilt neben langer Anlernphase direkt ein 4+-Augenprinzip, bei dem der Überwacher mit überwacht wird. Nur Autofahrer dürfen, nach dem einmaligen Durchscrollen einer Hinweismeldung als einzige Qualifikation, alleine ein automatisiertes System überwachen ohne dabei selbst kontrolliert zu werden und das auch noch ohne irgendwelche Einschränkungen bezüglich Lenk- und Ruhezeiten.

 

[Terracresta]

Von einer Müdigkeitsüberwachung habe ich noch nichts gehört, obwohl Tesla den Innenraum permanent filmt. Die wäre in meinen Augen aber zwingend nötig, denn man kann auch mit Händen am Lenkrad nach vorne starren und in Gedanken ganz woanders sein, während das Auto vermeintlich "alles" von alleine macht.

Da muss ich an meine Schulzeit denken, als der Physiklehrer zu einem Mitschüler sagte: "Herr Hanisch, es gibt so einige, die im Unterricht schlafen, aber Sie schlafen mit offenen Augen." xD

 

[Hoagy]

Level 3 Systeme haben den Anspruch, dass man sie nicht mehr überwachen, sondern nur noch bereit zum Eingreifen sein muss. Oder vielleicht besser "nur" in Anführungszeichen, denn eine 10-Sekunden-Bereitschaft fällt Menschen in der Regel auch nicht einfacher als Überwachungsaufgaben. Wenn solche Systeme erst einmal zum regulären Fahren genutzt werden können (bislang gibt es als Level 3 nur Mercedes' Staupilot), dann kommt eventuell noch sinkende Fahrerfahrung hinzu.

Tesla bietet allerdings nur Level 2 und, in den USA, Level 2+ (keine Hand am Lenkrad) an, bei denen der Fahrer permanent die gesamte Umgebung und sämtliche Fahrzeugfunktionen überwachen muss. Erst der fertige FSD soll Level 3 erreichen – aber bislang läuft da nur die Beta, in der die (privaten, ungeprüften, ungeschulten, unüberwachten) "Testfahrer" natürlich erst recht aufmerksam sein sollen. Aber: Tesla vermarktet bereits den "Level 2"-Assistenten als "Autopilot" und hat in Werbematerial teils auch über vollautonomes Fahren (also Level 4) geredet. Elon Musk verspricht seit Jahren sogar immer wieder Level 5 "bald". Ein Anwender müsste sich also intensiv mit der Technik, die er da kauft auseinandersetzen und wer macht das schon?

Gerade Tesla hat jetzt auch nicht gerade ein "1.000 Seiten gedruckte Anleitung studieren"-Image (und auch keine derartige Anleitung), sodass die meisten Fahrer wohl ihren "Autopiloten" ganz instinktiv anhand des Namens deuten werden: "System, dass nach Eingabe des Ziels den Großteil des Reiseverkehrs im Alleingang übernimmt und bei drohenden Gefahren rechtzeitig warnt". Die resultierenden nicht/unzureichend überwachten Autopilot-Tiefflüge haben in den USA bereits mehrere Menschenleben gekostet – vor allem auch von Unschuldigen, die automatisiert überfahren wurden. Auch wenn Ralph Nader für publikumswirksame Aufarbeitungen und drastische Wortwahl bekannt ist, kann man seine Forderung also durchaus begründen. Bei einem menschlichen Fahrer wird bereits nach Verursachung eines schwerwiegenden Unfalls die Fahrerlaubnis in Frage gestellt, nach mehreren Wiederholungen nicht selten entzogen. Teslas Autopilot dagegen darf weiter fahren.

Wo ist das Problem dabei, dem Fahrer die Lizenz zu entziehen, wenn er unter Verwendung eines Assistenzsystems einen Menschen überfährt?
Dass man als Käufer nicht verstehen soll, was der "Autopilot" überhaupt macht, der im Fahrzeug übrigens nie so genannt wird, sondern je nach Funktion als "Adaptiver Anstandstempomat", "Lenkassistent" oder "Spurwechselassistent" bezeichnet wird, halte ich für Quatsch. Das ist mit Sicherheit jedem Fahrer auch ohne Anleitung bewusst und vollkommen selbsterklärend. Genauso wie die Assistenten der anderen Hersteller auch.

@PCGH_Torsten

Handbücher müssen auch nicht sein, aber eine Meldung im Display wäre ja schon ausreichend. "Vorsicht, der Autopilot bedeutet nicht..." usw.

Diese Meldung gibt es. Wenn ich z.B. den Lenkassistenten einschalte, steht gut sichtbar auf dem Display, dass ich die Hände am Lenkrad behalten und den Verkehr beobachten soll.

Außerdem ist meine Frage, ob Tesla die Aufmerksamkeit des Fahrers überwacht, leider noch nicht beantwortet. Mein BMW macht das (manchmal etwas nervig, wenn man im Stau bei Schrittgeschwindigkeit immer noch das Lenkrad halten muss, obwohl das Auto eigentlich alles sicher von selber macht).

Auch das ist der Fall. Wenn ich das Lenkrad los lasse, kommt nach 15 Sekunden eine Meldung, dass ich es festhalten soll, die zunehmend auffällig blinkt und dann sogar durch penetrantes Piepen ergänzt wird, bevor das Fahrzeug die Funktion abstellt und langsam runter bremst.

Soweit ich weiß, gibt es einen Berührungserkennung am Lenkrad, die nach ein paar Sekunden alarm schlagen soll – sich aber auch relativ leicht durch ins Lenkrad geklemmte Objekte täuschen lässt. Von einer Müdigkeitsüberwachung habe ich noch nichts gehört, obwohl Tesla den Innenraum permanent filmt. Die wäre in meinen Augen aber zwingend nötig, denn man kann auch mit Händen am Lenkrad nach vorne starren und in Gedanken ganz woanders sein, während das Auto vermeintlich "alles" von alleine macht. Wie Terracresta schon beschrieben hat: Eintönige Monitoringaufgaben liegen Menschen nicht sonderlich und Länder mit langen, geraden Autobahnen (Italien, Frankreich) oder Tunneln (Skandinavien, Alpenraum) sorgen schon bewusst für optische Abwechslung, damit aktiv lenkende Fahrer nicht ob der Eintönigkeit unaufmerksam werden.

Das mit der Innenraumkamera stimmt so nicht ganz. Die wird erst seit Kurzem in bestimmten Modellen verbaut (mein Model 3 hat eine, aber mein Model S nicht), überwacht den Fahrer aber nur mit seiner ausdrücklichen Zustimmung. Man muss dazu aktiv im Menü die Funktion einschalten und dann den Bedingungen zustimmen. Das macht vermutlich kaum jemand.

Ich kann nach fünf Jahren Erfahrung mit "Autopilot" auf jeden Fall sagen, dass das Fahren viel weniger ermüdend ist als ohne. Nach einer gewissen Eingewöhnungsphase kann man die Aufmerksamkeit viel besser auf die entscheidenden Dinge richten und fährt damit bedeutend sicherer. Das bestätigen übrigens auch die Statistiken.

 

[PCGH_Torsten]

Wo ist das Problem dabei, dem Fahrer die Lizenz zu entziehen, wenn er unter Verwendung eines Assistenzsystems einen Menschen überfährt?
Dass man als Käufer nicht verstehen soll, was der "Autopilot" überhaupt macht, der im Fahrzeug übrigens nie so genannt wird, sondern je nach Funktion als "Adaptiver Anstandstempomat", "Lenkassistent" oder "Spurwechselassistent" bezeichnet wird, halte ich für Quatsch. Das ist mit Sicherheit jedem Fahrer auch ohne Anleitung bewusst und vollkommen selbsterklärend. Genauso wie die Assistenten der anderen Hersteller auch.

Ich kann dir aus leidvoller Erfahrung sagen, dass ein erheblicher Teil von Leuten nicht einmal weiß, was zwischen einer Überschrift und einem Kommentarbereich abläuft, obwohl sie der Meinung sind, sich über angebliche Defizite dort beschweren zu müssen. Das eine derartige Person bei einem Hersteller, der mit "Autopilot" wirbt, auch nur eine halbe Gehirnzelle auf Abläufe im Auto verwendet, ist sehr optimistisch.