Maschinenethik - Wer entscheidet, wen mein selbstfahrendes Auto überfährt?

Mit den Fortschritten, die Robotik und Automatisierungssysteme machen, zeichnet sich nicht nur perspektivisch ab, dass wir in nicht allzu ferner Zukunft manches Sci-Fi-Element als Alltag erleben. Es tauchen auch ein paar Fragen auf, die eigentlich sehr alte Debatten fortführen, die wir aber noch nicht wirklich gelöst haben.

Etwa: Wie definieren, modellieren und programmieren wir ethisches Verhalten? Wie verändern und verschieben sich Verantwortlichkeiten durch Automatisierung?

Um es plastischer darzustellen: Wer ist eigentlich schuld, wenn mein selbstfahrendes Auto jemanden überfährt? Ich als Fahrer bin ja eben das nicht mehr, sondern Passagier statt Akteur. Eine Ecke weiter gedacht: Wie entscheidet das Auto in einer Situation, in der - durch äußere Umstände bedingt - auf jeden Fall jemand zu Schaden kommt? Wenn es sich in einem Szenario befindet, in dem eine sichere, niemanden gefährdende Lösung ausgeschlossen ist, etwa weil rechtzeitiges Halten nicht mehr gelingen kann - fährt es dann die Fußgänger vor sich um oder rammt es den entgegenkommenden Laster? 

Rammt es den gern als Klischee bemühten Schulbus voller Kinder oder schanzt es sich samt Fahrer gegen einen Brückenpfeiler?

Bild: Flckr user jurvetson (Steve Jurvetson). Trimmed and retouched with PS9 by Mariordo // Wikimedia Commons.

Was hier abstrakt klingt, ist dank Google & Co. gar nicht so weit weg. Der Suchmaschinenriese testet seine selbstfahrenden Autos schließlich seit einiger Zeit erfolgreich. Um genau zu sein, haben sie schon vor einer ganzen Weile 300.000 unfallfreie Meilen zurückgelegt, besser als der durchschnittliche US-Autofahrer. Natürlich fahren die Autos momentan noch unter Aufsicht, für die jeweiligen Streckenabschnitte wird die Software optimiert und sie sind mit Sensorik unterwegs, die schon allein mehr als ein Mittelklassewagen kostet.

Auf dem langen Weg, den sie noch vor sich haben, bis sie tatsächlich reif für Straßenzulassungen ohne Experiment-Charakter sind, müssen aber neben technischen Dingen in der Tat noch ein paar interessante Fragen geklärt werden. Im Folgenden also ein paar lockere Überlegungen. (Hier geht es mir eher um das Erkennen der Fragen als das Finden von Antworten.)

Ist es ein Vogel? Ist es ein Flugzeug? Nein, es ist eine autonome Drohne!

Irgendwann, in ein paar Jahren, wenn euch ein Schwarm intelligenter Killerdrohnen durch die zerbombten Straßen einer postsingulären Welt jagt, in der Maschinen die Kontrolle übernommen haben, könnt ihr euch - schwer atmend an eine Wand gepresst - an diesen Moment zurückerinnern und sagen: Ja, so fing es an.

Spaß beiseite: Es ist faszinierend, was die kleinen Flugroboter wie die Quadrotors vom Grasp Lab und die Multicopter vom ETH Zürich schon können. Beide Konzepte basieren auf einer durch vier Rotoren in der Luft gehaltenen Drohnenkonstruktion.

Das Ausmaß an Manövrierfähigkeit und Flugmanövern, das die Quadrotors des Grasp Lab inzwischen hinkriegen, ist beeindruckend. Formationsflug, Ausrichtung im Raum, selbständiges Ausweichen bei Hindernissen. Alles ohne Mensch am Steuerknüppel.