Im Fall des Teslas wäre das System ja eindeutig besser gewesen als der Mensch, insofern traue ich der Technik auch einiges zu, aber problematisch scheint hier die Schnittstelle zwischen Mensch und Maschine bzw. der Mensch selbst gewesen zu sein.

Was mich überrascht hat, sind die vielen Warnhinweise in der Anleitung des Tesla. Einige sind trivial, aber eine Vielzahl darf nicht ignoriert werden und aus meiner Sicht sind das eigentlich zu viele um in einer Sicherheitsbetrachtung davon ausgehen zu können, dass alle zum Nutzer verstanden und berücksichtigt werden.
Im deutschen Eisenbahnbereich gibt des das Konzept der Betreiberhinweise. Wenn ich Fehlverhalten oder Besonderheiten der Software kenne, die sicherheitsrelevanz (Safety) haben, muss ich diese für den Nutzer, i.d.R. den Fahrdienstleiter, dokumentieren, so dass dieser seine Bedienhandlungen danach ausrichten kann (und muss). Das kann auch mal mehr als ein Betreiberhinweis sein, aber sicher nicht so viele wie Warnhinweise im Tesla Handbuch. Damit würde uns jeder Gutachter und auch der Betreiber selbst zum Teufel jagen, weil damit die „Sicherheitsleistung“ des Menschen im Rahmen der Berechnungen einfach zu schlecht wird.
Beta-Software an diesen Stellen in einem Auto ... gehört eigentlich für Otto-Normal-Fahrer deaktiviert.