Testen, testen, testen

Cluster-Manager Florian Danmayr erklärte zum Auftakt, warum er den Titel „Vertrauensgrundsatz neu definiert“ gewählt hatte. Die Straßenverkehrsordnung legt fest, dass jeder Straßenbenützer darauf vertrauen darf, dass andere Personen die Rechtsvorschriften befolgen. „Wenn autonome sich mit individuellen Fahrzeugen vermischen, ist das der Knackpunkt. Es kann zum Widerstand in der Akzeptanz kommen, oft sind die Technologien intransparent. Da es sich um einen lebenskritischen Bereich handelt, ist die Vertrauenswürdigkeit umso wichtiger. Die beste Technologie hilft nichts, wenn der Mensch nicht verstehen kann, wie die Maschine entscheidet“, sagte Danmayr.

KI braucht viele Kompetenzen

Die Geschäftsführerin der DigiTrans GmbH, DI Eva Tatschl-Unterberger, MBA, stellte die Mission ihres Unternehmens vor: die besten Antworten zu finden, um den autonomen Transports Realität werden zu lassen. Tatschl-Unterberger zeigte auf, wie komplex ein autonomes System aufgebaut ist und wie viele Kompetenzen die Künstliche Intelligenz (KI) beherrschen muss, um sich mit einem 360-Grad-Rundumblick orientieren sowie Objekte erkennen zu können. Um die Transportwege zu planen und Entscheidungen treffen zu können, ist eine enorme Rechnerleistung nötig.

Menschliche Fähigkeiten übertragen

Die DigiTrans-Geschäftsführerin sprach von einem Paradigmen-Shift: „Der Human Driver reagiert auf die vielen Eindrücke in der Umwelt: Wetter, Radfahrer, Fußgänger, Verkehrsordnung. Der Mensch reagiert auf ein am Straßenrand spielendes Kind, auf die Frau, die über den Zebrastreifen geht, den Teenager, der nur aufs Handy schaut. Diese Aufgabe muss nun das automatisierte Fahrzeug übernehmen. Entweder mit einem Menschen, der im Notfall eingreift, oder immer automatisierter.“ Daraus ergeben sich eine Reihe von Fragen: Wie gut beherrscht das System die Aufgabe? Ist es vertrauenswürdig? Können wir ihm erlauben, unser Partner im Verkehr zu sein?

Große Herausforderung

Die DigiTrans GmbH setzt daher aufs umfassende Testen aller Komponenten der KI-Systeme. Die größte Herausforderung dabei ist, valide Daten zu erhalten. Simulationen sind kostengünstig. Für Tatschl-Unterberger stellt sich allerdings die Frage nach Modellierungsfehlern in den Szenarien. Die DigiTrans GmbH setzt daher auf Feldtests auf der echten Straße mit realen Verkehrsteilnehmern – auch, wenn diese Tests zeit- und kostenintensiv sind. „‚2023 fahren wir alle autonom, hieß es einmal, es wird kaum noch menschliche Fahrer geben. So weit sind wir noch nicht – auch weil wir zwar in der Lage sind, solche Fahrzeuge zu bauen, aber für den Operational Standard fehlt die Freigabemöglichkeit“, relativierte Tatschl-Unterberger.

Teststrecke für Realbedingungen

Die Herausforderung für Techniker, Fahrzeughersteller und Behörden liegt im Weiterentwickeln der Gesetze, weil diese noch aus der analogen Welt stammen. Demnächst erfolgt der Spatenstich für die Digitrans-Teststrecke in St. Valentin. Dort kann der autonome Gütertransport unter Realbedingungen getestet werden. Die DigiTransGmbH beteiligt sich auch am Testfeld Nord. In Kooperation mit der ASFINAG wird hier die Kommunikation auf öffentlicher Straße getestet.

Chancen nutzen

„Auch Aufzüge waren mal in diesem Stadium. Sie brauchten einen Operator, einen Sicherheitsfahrer – niemand traute sich sonst in den Lift“, verglich Tatschl-Unterberger. „Irgendwann gab es die Überprüfungstechnologie und wir steigen heute ohne nachzudenken in den Aufzug. Wenn es uns gelingt, die KI zu verstehen und zu überprüfen, werden wir auch die Chancen des automatisierten Fahrens nutzen können.“ Der autonome Güterverkehr wird unsere Lebensqualität verbessern, unseren Standort nachhaltiger machen und dabei helfen, zero emission zu erreichen, ist Tatschl-Unterberger überzeugt. Dazu hat die DigiTrans GmbH auch ein Positionspapier erstellt: www.digitrans.expert

Risiken der KI

Mag. Rudolf Ramler präsentierte in seinem Vortrag, wie die Software Competence Center Hagenberg GmbH die Verlässlichkeit von KI testet und analysiert und vor welchen Herausforderungen die Forscher dabei stehen. Der Mathematiker betonte, dass KI bei Healthcare, in der Biologie oder Industrie zu enormen Durchbrüchen verholfen hat. „Doch die Killerapplikation von KI ist automatisiertes Fahren“, sagte Ramler. „Künstliche Intelligenz per se ist einfach eine Technologie, die Frage ist: Was machen wir daraus? Wir Menschen sind gut darin, komplexe Systeme zu entwickeln, aber dem menschlichen Geist sind Grenzen gesetzt. Es ist uns oft nicht möglich, die Technologie zur Gänze zu beherrschen. Das ist dann der Punkt, an dem wir scheitern.“

Ereignisketten

Als Beispiel, wie Konsequenzen aussehen können, nannte Ramler den Unfall eines Uber-taxis vor drei Jahren, der weltweit für Aufsehen sorgte: Es war ein „historischer Moment“, da es der erste tödliche Unfall mit einem autonomen Fahrzeug war. Die Ursachen sind aber immer menschliche Fehler, die schon in der Konzeption eingebaut werden. „Alle großen Unfälle z.B. auch in der Luftfahrt zeigen, wie komplex solche Ereignisketten aussehen können“, betonte der Experte. Seine Forschung befasst sich daher mit dieser Ereigniskette. „Software funktioniert nicht immer fehlerfrei, oft werden mehrere Bibliotheken zu einer Pipeline zusammengeschaltet“, erklärte der Forscher. „Dadurch entstehen junge, komplexe Systeme, die oft noch Kinderkrankheiten haben.“

Testen mit Deepfake

Das SCCH trainierte anhand von Bildern das Erkennen von Verkehrszeichen. Die KI wusste rote und grüne Ampeln zu unterscheiden. Derzeit liegt die Erkennungsgenauigkeit bei 95 Prozent. Die Frage ist, ob das in der Realität genug ist. Das SCCH hat in Robustheitstests die Genauigkeit erhöht und die Fehleranfälligkeit deutlich reduziert. Heute können die Forscher zum Datensammeln auf Videos zurückgreifen und mit der Deepfake-Technologie die unterschiedlichen Straßenzustandsszenarien simulieren. Man filmt einen Streckenverlauf und kann es dann im Video regnen oder schneien lassen, Nebel und Dunkelheit simulieren.

Mensch muss weiter eingreifen

Im darauffolgenden Deep Test sehen die Forscher, wie das Gesamtsystem funktioniert. Hier lassen sich viele Fehler identifizieren. Es hat sich herausgestellt, dass diese Simulationen noch nicht repräsentativ für die reale Welt sind. Um Fehler zu korrigieren, muss meist noch immer der menschliche Fahrer eingreifen. Wenn einzelne Komponenten optimiert werden, kann es passieren, dass andere Features, die vorher funktioniert haben, nicht mehr funktionieren. Meist muss dann das gesamte System nachtrainiert werden.

Vertrauen in KI herstellen

Dr. Karin Bruckmüller von der Johannes Kepler Universität Linz und Nikolaus Hofer von der RISC Software GmbH veranschaulichten in ihrem Vortrag, wie KI vertrauenswürdig gestaltet werden kann. Das Vertrauen in KI fusst laut Hofer auf mehreren Säulen. Erstens soll die KI dem Recht folgen. Oft können Gesetze aber mit der Technologie nicht mithalten. Weiters soll KI ethischen Grundsätzen folgen; was Gesetze wiederum einschränken. Und drittens soll KI robust sein.

Ethik und Recht integrieren

Die Europäische Kommission hat vier Kriterien für KI festgelegt: Sie muss die menschliche Autonomie respektieren. Dabei geht es um die Frage, ob der Passagier in unsicheren Situationen nur gewarnt werden, selbst eingreifen oder gar nicht mehr behelligt werden soll. KI soll Schaden vermeiden und den Menschen schützen, aber keinen Missbrauch ermöglichen wie z.B. Hacking. KI muss fair sein und darf niemanden diskriminieren. Und schlussendlich muss sie transparent sein. Laut Bruckmüller wirkt auch das Strafrecht vertrauensbildend, denn es verbietet, wovor KI-Nutzer Angst haben. Ethik und Recht müssten daher schon bei der Planung und Konzeption von KI-basierten Systemen integriert werden.

Komplexe Gesetze

Andreas Lauringer von der Kontrol GmbH machte dem Publikum bewusst, wie selbstverständlich wir Verkehrsregeln befolgen und wie komplex die Straßenverkehrsordnung eigentlich ist. Er entwickelt mit seiner Firma eine Software, die der KI am Steuer ermöglichen soll, sich straßenverkehrsordnungskonform zu verhalten. Auf Autobahnen sind nur 95 Prozent des Regulariums maschinenlesbar. Für den Rest ist menschliche Kompetenz gefragt.

Keine Akzeptanz von Maschinenfehlern

Lauringer bemühte auch die Luftfahrt. Flugzeuge sind hauptsächlich mit Autopilot unterwegs. Der menschliche Pilot greift immer nur dann ein, wenn es brenzlig wird. Denn dann braucht es die Fähigkeit des Menschen, zu interpretieren. „Wir Menschen akzeptieren Fehler von Menschen, aber nicht von Maschinen. Fehler und Unfälle wird es immer geben, wir werden nie 100 % Sicherheit garantieren können. Aber können wir das akzeptieren?“ fragte Lauringer. Er konzentriert sich mit seinem Unternehmen darauf, was technisch wirklich möglich und vor allem nachvollziehbar ist. Denn Transparenz sei für Autobauer ein wichtiges Thema.

Komplexität des Rechtsfahrens

Kontrol agiert nach dem Grundsatz, dass sich die Maschine zu 100 Prozent an die Regularien halten muss. Die Zulassung sei aber trotzdem schwierig, denn wenn ein Anwalt nur einen Fehler in einer Zeile finde, sei die Zulassung in Gefahr. Die Schwierigkeit, menschliche Fähigkeiten auf KI zu übertragen, erläuterte Lauringer am Beispiel des Rechtsfahrgebots: „Der Mensch versteht: Fahr so weit rechts wie möglich. Für den Rechner sieht das anders aus. Er muss den Abstand zur rechten Fahrbahnseite so wählen, um einen Fußgänger zu erkennen. Gleichzeitig muss er die nasse Fahrbahn erkennen und entscheiden, ob er bremsen soll. Er muss entscheiden, wo er sich in der Spur positioniert, um eine Kollision zu verhindern.“ Daraus ergeben sich weitere Fragen: Wie müsste die Sensorik ausschauen, was sind die Parameter? Was ist die Maxime, die sicher ist? Die Versicherungen beispielsweise wollen nicht, dass die Kunden das Gesetz einhalten, sondern dass sie Schaden vermeiden. Heißt: Schwimme mit dem Verkehrsfluss mit. All diese Parameter müssen also in die KI am Steuer einfließen.

Autonomer Güterverkehr

Marc Grosse und Armin Humer von DB Schenker präsentierten das Projekt AWARD, in dem das Transpirt- und Logistikunternehmen gemeinsam mit Rotax und der DigiTrans GmbH daran forscht, den autonomen Gütertransport bei jedem Wetter sicher zu machen. Als Teststrecke fungiert ein 600 Meter langer Transportweg zwischen Schenker und Rotax. „Die öffentliche Straße wird in der Rush Hour stark befahren – die Strecke ist unübersichtlich, es gibt mehrere Kreuzungen, die Geschwindigkeit ist beschränkt – das alles müssen wir bestmöglich lösen, damit sicherer Verkehr möglich ist“, erklärte Humer.

Nicht „Sunny California“

Jetzt fährt der Lkw noch mit Diesel, künftig sollen elektrische betriebene Laster unterwegs sein, um Schadstoffe und Lärm zu reduzieren. Auch für Schenker ist die rechtliche Situation ein wichtiger Aspekt. Und die Verlässlichkeit, denn die Produktion bei Rotax muss bei jedem Wetter versorgt werden. Was Cluster-Manager Florian Danmayr zu seinen Schlussworten inspirierte: „Gunskirchen ist nicht Sunny California.“

>> Das war das OÖ Zukunftsforum 2021