KI im Auto: können wir im Ernstfall noch schnell genug reagieren?

Voriges Jahr habe ich mit meinen Eltern einen Ausflug gemacht. Während der Fahrt diskutierten wir eifrig über das neue Auto. Es bietet schon allerhand intelligente Unterstützung wie z.B. eine Verkehrszeichenerkennung oder piepende Warnmeldungen, wenn das Auto die Mittellinie überschreitet (Spurhalte-Assistent) oder sich zu stark einem Hindernis nähert (Notbrems-Assistent).

Die Fahrerassistenz-Systeme des Nissans sind beeindruckend. Solche Systeme bilden laut ADAC "die Grundlage für ... autonomes Fahren" und helfen laut verschiedener Studien nachweislich dabei, die Zahl der Verkehrstoten zu senken. Bei aller Begeisterung entstand während der Autofahrt trotzdem eine kleine Diskussion über die Zuverlässigkeit solcher Systeme. Es gibt keine Garantie dafür, dass die Unterstützung unter allen Umständen funktioniert. Die Systeme können z.B. versagen, wenn die Sicht schlecht ist oder wenn die Sonne zu stark reflektiert. In dem Moment, in dem ein unterstützendes System ausfällt, muss der menschliche Fahrer die Kontrolle übernehmen.

Ich habe starke Bedenken, dass ein Fahrer, der sich die meiste Zeit auf die Assistenzsysteme verlässt, anstatt eigene Erfahrungen zu sammeln, im Ernstfall noch schnell genug reagieren und die richtigen Entscheidungen fällen kann ("Deskilling"-Effekt oder "cognitive starvation").

Aber es geht gar nicht nur darum, dass die intelligente Hilfe ausfallen kann. Selbst wenn sie ununterbrochen im Rahmen ihrer Parameter funktioniert, erkennt sie womöglich spezielle oder außergewöhnliche Gefahrensituationen nicht. Eine Aufforderung zum manuellen Eingreifen des Fahrers gibt es in diesem Fall nicht.

Es besteht die Gefahr, dass der Fahrer das Geschehen auf der Straße nicht aufmerksam genug überwacht, während die Assistenzsysteme aktiv sind. Womöglich erkennt er eine Gefahrensituation zu spät oder gar nicht, weil er mit anderen Tätigkeiten, wie z.B. Lesen, Gesprächen oder Smartphone-Aktivitäten abgelenkt ist.

Auf dem Gebiet der Mensch-Computer-Interaktion wird diese Problematik unter dem Begriff "Complacency-Effekt" (Selbstzufriedenheitseffekt) erforscht. Dieser Effekt beschreibt ein übersteigertes Vertrauen in die Funktionen und die Zuverlässigkeit automatisierter Systeme, das eine mangelnde Kontrolle und Überwachung dieser Systeme zur Folge hat.

Diese Risiken treffen besonders auf Fahrzeuge mit den Automatisierungsstufen 3 oder 4 zu (siehe rote Box). Ob es eine Stufe 5 geben wird, in der sich der Fahrer überhaupt nicht mehr um das Fahrgeschehen kümmern muss, bleibt allerdings fraglich.

Ein Fahrer, der mit anderen Tätigkeiten abgelenkt ist, benötigt bis zu 8 Sekunden, um im Ernstfall wieder die Kontrolle zu übernehmen, teilt der Psychologe Klaus Bengler in einem Zeit-Interview mit. Es gibt also auch noch eine gefährlich lange Zeitspanne zwischen dem Erkennen der Gefahrensituation, die durch den Complacency-Effekt beeinträchtigt werden kann, und der tatsächlichen Kontrollübernahme, die aufgrund degenerierter Fähigkeiten scheitern kann. Mich interessiert, wie die Industrie jetzt und in Zukunft mit diesen Gefahren der Automatisierung umgehen möchte.

Es kristallisieren sich drei Ansätze heraus, die in Zukunft wahrscheinlich eine Rolle spielen werden:

• Autofahrer müssen stärker auf ihre verantwortungsvolle Rolle als Beobachter vorbereitet werden. Sie müssen speziell geschult werden. Dabei können Schulungen für Piloten im Luftverkehr als Vorbild herangezogen werden. Da Flugzeuge bereits hochautomatisiert sind, wird in diesem Bereich schon seit längerer Zeit an der bestmöglichen Mensch-Maschine-Interaktion geforscht. Die Rede ist von einem "'Pilotenschein' für den Straßenverkehr, der die erforderlichen Fertigkeiten für das automatisierte Fahren vermittelt". Auch regelmäßige Fahrtrainings könnten erforderlich sein, um dem Kompetenzverlust vorzubeugen (z.B. mit einem Anreiz durch Bonuspunkte).
• Die dem Fahrsystem vorliegenden Informationen und die automatisch getroffenen Entscheidungen müssen für den Fahrer transparent und nachvollziehbar aufbereitet werden. Damit soll erreicht werden, dass der Fahrer "in the loop" ist und sich weiterhin als Teil des Entscheidungsprozesses versteht. Im Forschungsprojekt Ko-HAF wird untersucht, wie es gelingen kann, den Fahrer rechtzeitig in das Fahrgeschehen einzubeziehen, auch wenn er streckenweise mit "fahrfremden Tätigkeiten" beschäftigt ist. Das Auto soll dazu mit einem externen Server kommunizieren, der u.a. Informationen über Baustellen, Unfälle oder Hindernisse von weit vorausliegenden Streckenabschnitten liefert. Der Fahrer soll mit Hilfe dieser Daten im Voraus entscheiden, wann seine Aufmerksamkeit mehr oder weniger stark erforderlich sein wird. Diese erhöhte Vorausschaureichweite wird als Voraussetzung für eine sichere Kontrollübernahme des Fahrers angesehen.
• Fahrzeuginterne Sensoren sollen den Zustand des Fahrers überwachen und ihn aufmerksam machen, wenn er einschläft oder in einer gefährlichen Situation abgelenkt ist. Quelle: Christof Vieweg, Schau mir in die Augen, Auto!, zeit.de (abgerufen am 28.02.2020)

Die Industrie arbeitet daran, das automatisierte Fahren immer weiter auszubauen. Die oben diskutierten Risiken beim Wechsel vom autonomen zum konventionellen Fahren sollen vermieden werden, indem die Notwendigkeit für menschliches Eingreifen weitestgehend minimiert wird. Dies ist jedoch nur möglich, wenn auch die gesamte Verkehrsinfrastruktur automatisiert wird. Der Straßenbau wird sich daher an die Anforderungen der autonomen bzw. halb-autonomen Autos anpassen müssen ("digitale Autobahn"). Ich hoffe jedoch, dass nicht zu viel Natur und Landschaft zerstört wird, um die perfekte Umgebung für autonome Fahrzeuge zu erschaffen.