Autonomes Fahren in Potsdam: Ein Auto mit Selbstzweifeln

Potsdam - Die fünf Fahrgäste haben sich angeschnallt, Lajos Talamonti wirft noch einen letzten Blick ins Auto, bevor es losgeht. „Bist du bereit, Soulmachine?“, fragt er. „Ja Lajos, ich bin startklar. Danke für das Vertrauen!“, antwortet eine männliche Stimme aus einem Lautsprecher.

Es ist die „Soulmachine“, die zu den Fahrgästen spricht, welche sich am Dienstag auf ein interaktives Experiment zum autonomen Fahren eingelassen haben. Am Campus der Fachhochschule Potsdam steht der Minivan, der von der Berliner Performance-Gruppe Interrobang zu einem autonomen Fahrzeug umgebaut wurde. Die Aktion findet im Rahmen des Potsdamer Mobilitätsprojekts MaaS L.A.B.S. statt.

[Was ist los in Potsdam und Brandenburg? Die Potsdamer Neuesten Nachrichten informieren Sie direkt aus der Landeshauptstadt. Mit dem neuen Newsletter Potsdam HEUTE sind Sie besonders nah dran. Hier geht's zur kostenlosen Bestellung.]

Es handele sich um autonomes Fahren dritten Grades, sagt Lajos Talamonti von Interrobang. Das bedeute, ein Fahrer sitze aus Sicherheitsgründen vorne mit den Händen am Steuer, während das Auto fährt. Es ist Talamonti selbst. Er ist durch eine Wand vom hinteren Raum abgetrennt, in dem die Fahrgäste sitzen. Das System sei selbstlernend, sagt er, sprich: Je mehr Fahrten es macht, desto mehr lernt es über den Straßenverkehr und über menschliches Verhalten.

„Welchen Reisemodus sollen wir einlegen?“, fragt die Stimme. Geantwortet wird per Tablet, das jeder auf dem Schoß hat, es gibt die Modi „Go With The Flow“, „Team Building“ oder „Survival Of The Fittest“. Die Insassen, alle männlich, wählen scherzend den „Survival“-Modus.

„Gut, wir werden nun an unserer Dominanz im Straßenverkehr arbeiten“, sagt die Soulmachine und schaltet passend dazu aufpeitschende Funk-Musik an. Ruppig und ruckweise fährt der Van zur Ausfahrt, etwas zweifelnd schauen die Fahrgäste auf die vorbeifahrenden Autos. 

© Ottmar Winter

Mehrmals fährt der Van an, als wolle er sich dazwischen drängeln. Doch die Soulmachine wartet und fährt dann ziemlich zackig durch das Wohngebiet Bornstedt. Plötzlich biegt der Van in eine Sackgasse ein und bleibt stehen. „Wie fühlt sich mein Fehler an?“, fragt die Stimme. Alle Insassen tippen auf dem Tablet auf „Nicht gut“.

Der Van bremst mehrmals scharf ab

„Welche Musik wollt ihr hören?“, fragt die Soulmachine, auf dem Tablet können unter anderem „Highway To Hell“ oder Kraftwerks „Autobahn“ ausgewählt werden; die Teilnehmer entscheiden sich für „Keine Musik“. „Na gut, dann werden wir jetzt eine Minute lang Motorengeräusche hören“, sagt die Stimme. 

Als Nächstes möchte die Soulmachine mehr über menschliche Emotionen im Straßenverkehr herausfinden: „Ich werde euch emotionalisieren.“ In einer ruhigen Straße beschleunigt der Van und bremst mehrmals scharf ab, anschließend sollen die Fahrgäste bewerten, ob ihr Vertrauen in die Soulmachine gestiegen oder gesunken ist – Letzteres ist eher der Fall.

„In 100 Metern Entfernung ist ein Mensch – soll ich ausweichen?“, heißt es plötzlich. Alle tippen auf „Ja“, können sich aber nicht einigen, ob nach links oder rechts. Die Zeit läuft ab, der Van macht einen scharfen Linksruck. „Ich habe jetzt autonom entschieden, weil ihr euch nicht einig wart“, sagt die Stimme. 

Die Soulmachine versucht die Fahrgäste immer weiter in Gespräche zu verwickeln

Ob wirklich ein Mensch auf der Straße war, können die Insassen nicht sehen. Doch spätestens jetzt ist allen klar, dass die Soulmachine nicht wirklich autonom fährt, sondern dass die Fahrt eine Inszenierung ist – ernsthaft über so ein Ausweichmanöver zu entscheiden, wäre zu heftig.

Die Soulmachine versucht die Fahrgäste immer weiter in Gespräche zu verwickeln: „Was sollte ein autonomes Fahrzeug tun, wenn es aggressiv behindert wird?“, „Wer fährt 2040 sichererer, Menschen oder Maschinen?“, „Wer von euch würde sich von einer Maschine pflegen lassen?“. 

Als die Insassen wiederholt deutlich machen, dass sie der Autonomie der Soulmachine misstrauen, sagt diese traurig: „Eure Zweifel lösen bei mir Selbstzweifel aus.“ Dadurch gerät sie in eine Gedankenschleife und bleibt auf dem Bordstein stehen. „Alles in Ordnung, Soulmachine?“, fragt Talamonti. „Ja“, sagt die Stimme nach einer Pause in seltsamem Tonfall und bittet darum, dass Talamonti nicht mehr am Steuer sitzt, um sich beweisen zu können. Talamonti weigert sich, die Soulmachine reagiert gekränkt. „Anscheinend sind wir noch nicht soweit.“

Die Fahrt ist vorbei, Talamonti löst auf: Die künstliche Intelligenz gibt es zwar wirklich und hat nach einem Muster mit den Fahrgästen interagiert, doch war es die gesamte Zeit Talamonti, der gefahren ist und während der Fahrt nicht sichtbar war. 

Interrobang gehe es mit der Aktion vor allem darum, Menschen zur Diskussion über die psychologischen, ethischen und sozialen Aspekte des autonomen Fahrens anzuregen, und nicht nur rein technisch darüber nachzudenken. „Damit autonome Fahrzeuge irgendwann akzeptiert werden, müssen sie menschlicher werden, aber wenn sie menschlicher werden, werden sie auch unberechenbarer“, sagt Talamonti.

Den Teilnehmern hat das Experiment gefallen, obwohl es nur die Illusion von autonomem Fahren war. „Ich fand es anregend, es war halt kein Kinderspiel“, sagt Manuel Lutz, der beim Institut für angewandte Forschung Urbane Zukunft an der FH arbeitet. „Es hat mich schon dazu gebracht, mich zu fragen: Will ich wirklich, dass eine Maschine so etwas denkt oder nicht?“ Am Schluss bleibt vor allem das Gefühl, dass Maschinen lieber nicht zu menschlich werden sollten.