Tesla-Autos versuchen mit verschiedenen Methoden, die Aufmerksamkeit des Fahrers zu erkennen. Doch die lassen sich überlisten. Solange Autos noch nicht völlig autonom durch den Verkehr steuern können, müssen teil- und hochautomatisierte Fahrzeuge in der Lage sein, die Aufmerksamkeit des Fahrers zu erkennen und je nach Automatisierungsgrad sofort oder innerhalb weniger Sekunden das Lenkrad zu übernehmen. Wie diese Überwachung bei einem Tesla komplett ausgetrickst werden kann, hat der frühere Tesla-Testpilot John Bernal auf seinem Youtube-Kanal AI Addict demonstriert. Für die Fahrerüberwachung setzt Tesla ebenso wie andere Hersteller verschiedene Verfahren ein. Vorgeschrieben für teilautomatisierte Fahrzeuge ist die sogenannte Freihanderkennung. Diese registriert, ob der Fahrer seine Hände am Lenkrad hat. Detektiert wird das entweder über ein Lenkmoment oder über eine Berührung. Da Tesla das Lenkmoment überwacht, lässt sich dies bekanntlich mithilfe von Lenkradgewichten überlisten. Große Stofftiere auf dem Fahrersitz Für seinen Versuch hat Bernal nach eigenen Angaben ein Lenkradgewicht eingesetzt und ein Gewicht auf den Fahrersitz gelegt. Doch das reichte noch nicht, denn Tesla überwacht mit einer Innenraumkamera ebenfalls, ob sich eine Person auf dem Fahrersitz befindet. Dies simulierte Bernal in dem Video mit großen Stofftieren. Im Video ist zu sehen, wie ein Tesla Model 3 auf einer offenbar abgesperrten Straße automatisiert unterwegs ist, während ein lebensgroßer Teddybär hinter dem Steuer sitzt. Bernals Fazit: Das Fahrerüberwachungssystem erkennt nicht, ob der Fahrer schläft oder nicht auf die Fahrbahn schaut. Daher sei das Fahrassistenzsystem nicht sicher.
via golem: MIT TEDDYBÄR: Youtuber trickst Teslas Fahrerüberwachung aus
siehe auch: Video Shows Tesla Mistaking Teddy Bear For A Driver And Hitting A (Fake) Kid Tesla’s driver monitoring system can still be easily fooled, allowing for misuse of the car’s assistance systems (…) In the first test, a large teddy bear was placed behind the wheel and despite there clearly not being a human behind the wheel, the driver monitoring system appears to do nothing. The Tesla continues to drive itself unimpeded. Then, the testers dragged a small child doll across the road to see how the autonomous emergency braking system would work. It takes a while to detect anything and when it does, it does not brake in time. A second test saw the teddy bear being replaced by a unicorn and once again, the driver monitoring system proved useless. The car also hit the child doll once again but this time, it didn’t even stop. In the last test, there was no object (other than a weight) in the driver’s seat and once again, the Full Self-Driving beta continued to work. It hit the child doll once again and after briefly stopping, then decided to keep on driving. Curiously, a recent video shared to YouTuber by Whole Mars Catalog, which you can see below, shows the driver monitoring system actually working quite well. In the clip, the driver can be seen repeatedly looking at his phone and then quickly receiving a warning from the car to pay attention to the road. After ignoring these warnings four times, the car’s self-steering system was disabled for the rest of the drive.