Ich würde nicht sagen, dass nur die Leute bei Tesla oder nur die User deppert sind. Es ist einerseits ziemlich deppert, sich völlig auf ein System zu verlassen, zu dem gesagt wird, dass man es ständig aufmerksam überwachen muss. Andererseits ist es natürlich auch deppert, sich darauf zu verlassen, dass User tun, was man ihnen sagt.
Man muss schließlich bedenken, dass die meisten Leute in vielen Gebieten DAUs sind. Vom Autofahren wissen sie z.B. noch ein paar Dinge aus der Fahrschule und der Rest sind gesammelte Erfahrungen. Mit Autopiloten haben sie aber keine Erfahrung. Aus Filmen wissen sie wahrscheinlich noch "Autopilot an, Maschine fliegt alleine, Pilot kann andere Dinge tun". Und wer schon mal das Vergnügen hatte, mit einer Betriebsanleitung in Kontakt zu kommen, weiß wie man mit diesen umzugehen hat. Wenn das Gerät trivial erscheint, kann sie ungelesen in der Tonne landen, bei komplexeren Geräten bleibt sie meist als unberührtes Nachschlagewerk für Notfälle. Eine bisher unbekannte Funktion in einem neuen Auto zu nutzen ist aber vermutlich für viele noch kein Grund, sich die Anleitung durchzulesen. Da steht schließlich viel Text drin und Text ist anstrengend und langweilig. Ein motivierter DAU wird vielleicht noch kurz in einer Schnellanleitung gezielt nach der Info suchen, die er braucht, aber alle anderen Textabschnitte, inkl. Warnhinweisen ignorieren. Andere werden jemanden fragen, der Ahnung haben könnte. Dann kommt die Anleitung vielleicht von jemandem der mal in einem Youtubevideo gesehen hat, wie jemand anders, der nur wie oben erwähnt die Schnellanleitung überflogen hat, sein Halbwissen anwendet. Da bleibt dann nur noch das grundlegendste übrig. Und selbst das wird dann vielleicht nochmal komprimiert um in einen Tweet oder eine kurze SMS zu passen. Schon weiß der DAU was er drücken muss, um den Autopiloten zu aktivieren. Was das Ding kann, weiß er ja noch aus Werbevideos. Der Rest ist dann learning by dooing (oder eher learning by letting do?). Am Anfang vielleicht noch kritsch mit ein wenig Misstrauen, aber wenn der Autopilot auf den ersten Kilometern begeistert, dürfte sich das schnell legen und das Auto in den vollautonomen Betrieb gezwungen werden. Das Auto kriegt das aber vermutlich nicht mit und verlässt sich weiterhin darauf, dass der "Fahrer" jederzeit eingreifen kann. Das geht dann so lange gut, bis es nicht mehr gut geht.
Um das zu verhindern fallen mir nur zwei Optionen ein:
1. Man verzichtet komplett auf teilautonome Systeme
2. Man überprüft kontinuierlich die Funktion aller relevanten Komponenten
Bei der Komponente "Fahrer" könnte man z.B. mit Innenraumkameras und Eyetracking überprüfen, auf was er sich konzentriert und sobald sich die Aufmerksamkeit von der Außenwelt entfernt, könnte das Auto das Warnblinklicht einschalten, vorsichtig langsamer werden und den Fahrer wecken. Wenn das 2-3x passiert, wird er den "Autopiloten" danach vermutlich nicht mehr nutzen. Dann merkt er nämlich, dass er nichts von dem System hat, wenn er eh aufpassen muss. Wenn sich das wiederum herumspricht, wird fast niemand mehr sowas nutzloses haben wollen und man landet effektiv wieder bei Option 1.