Fraunhofer IESE - Definition Autonome Systeme

Autonom oder vielleicht doch nur hochautomatisiert, was ist eigentlich der Unterschied?

Autonomie, Automatisierung, Autarkie, Vernetzung… viele Begriffe tummeln sich im Kontext der „autonomen Systemen“. So sprechen wir schon von autonomem Fahren, wenn das Fahrzeug bestimmte Fahraufgaben selbstständig und ohne menschlichen Eingriff übernimmt. Dabei handelt es sich streng genommen lediglich um ein automatisiertes und vielleicht im besten Fall hochautomatisiertes Fahren. Und weil es so kompliziert ist, diese Begriffe voneinander abzugrenzen und ich oft nach einer Definition gefragt werde, habe ich mich als Programmmanager für „autonome Systeme“ im folgenden Blogbeitrag damit beschäftigt, Kriterien zur Abgrenzung zusammenzutragen und die Sicht des Fraunhofer IESE auf die Begriffswelt wiederzugeben.

Was ist ein autonomes System?

Wenn man im Internet nach einer Definition „autonomes System“ sucht, dann verweisen die ersten Treffer auf IP-Netze. Wikipedia [1] [2] erklärt zum Beispiel : „Autonome Systeme sind untereinander verbunden und bilden so das Internet.“ Das Fachforum „Autonome Systeme“ [3] unterscheidet  zwischen „digitalen Assistenzsystemen“, „automatisierten Systemen“ und „autonomen Systemen“, wobei „ein System erst dann als autonom bezeichnet wird, wenn es ohne menschliche Steuerung oder detaillierte Programmierung ein vorgegebenes Ziel selbstständig und an die Situation angepasst erreichen kann.“ Passend dazu heißt es in einem Gutachten der Expertenkommission „Forschung und Innovation“: „Autonome Systeme können ohne direkte menschliche Weisung agieren, komplexe Aufgaben lösen, Entscheidungen treffen, eigenständig lernen und auf unvorhergesehene Ereignisse reagieren.“[7]

Unser Programm „autonome Systeme“ widmet sich ebenfalls Systemen, die ohne menschliche Weisung agieren und trotzdem komplexe Aufgaben „autonom“ lösen.  Aber was genau heißt es, eine Aufgabe „autonom“ zu lösen?

Autonom durch Vernetzung

Bedeutet „autonom“, dass das System die Aufgabe alleine ohne Hilfe anderer Systeme bewerkstelligen muss? Ist beispielsweise ein fahrerloses Fahren nur dann ein autonomes Fahren, wenn das Fahrzeug ausschließlich seine eigene Sensorik benutzt und nicht auf andere Informationsquellen wie die Cloud, die Infrastruktur oder andere Fahrzeuge angewiesen ist? Autonom wird auch als eigenständig und autark definiert [12] und somit liegt der Gedanke nahe, „Autarkie bezüglich der Informationsbeschaffung“ zu fordern.

Viele komplexe Aufgaben können allerdings bzgl. Aufwand, Zeit und Qualität nicht zufriedenstellend ohne eine Vernetzung gelöst werden. Eine gute Entscheidungsfindung bedingt normalerweise die zeitnahe und ausreichend detaillierte Wahrnehmung der aktuellen Situation und die Vorhersage und Bewertung möglicher Zukunftsszenarien. Dabei spielt die Vernetzung dann eine entscheidende Rolle: Um die aktuelle Situation wahrzunehmen, ist es sinnvoll, die Sensorik und das „Wissen“ anderer Systeme zu nutzen. Um die Entwicklung einer Situation schon im Vorfeld zu berücksichtigen, müssen oft auch die zukünftigen Aktionen von anderen Systemen einbezogen werden. Diese Antizipation vereinfacht sich dramatisch, wenn sich die Systeme vernetzen und miteinander kommunizieren und sogar kooperieren. Ein Beispiel für eine solche Kooperation ist das Truck-Platooning, welches ohne Vernetzung undenkbar wäre. Denn beim Truck-Platooning fahren die einzelnen Sattelschlepper so dicht hintereinander, dass sie wie mit einer unsichtbaren Deichsel miteinander verbunden sind. Technische Steuerungssysteme sorgen dafür, dass die Verkehrssicherheit nicht beeinträchtig wird.

Deswegen sehen wir Vernetzung als i. A. notwendigen „Enabler“ für Autonomie und reden von einem geschlossenen oder einem offenen autonomen System, um klar zu machen, ob es vernetzt ist oder nicht. Wenn die offenen autonomen Systeme zusammenarbeiten, um ein höheres Ziel zu erreichen, dann reden wir von einem digitalen Ökosystem. Beispielsweise können Robotaxis und öffentliche Verkehrsmittel ein Ökosystem bilden, um übergeordnete Ziele bezüglich Umweltbelastung und Verkehrsfluss miteinzubeziehen. Dabei kann es sein, dass einzelne Robotaxis nicht optimal im Hinblick auf ihr Hauptziel, möglichst schnell von A nach B zu kommen, agieren, weil sie eben auch die Ziele des Ökosystems unterstützen. Nimmt man jetzt noch die Menschen hinzu, die das Ökosystem nutzen, dann reden wir von einem soziotechnischen System.

Autonom und automatisiert beziehen sich auf unser Systemverständnis

Sowohl autonom als auch vollautomatisiert beziehen sich darauf, dass etwas zielgerichtet und ohne menschliche Weisung passiert. Die Begriffe werden neuerdings − insbesondere beim Thema „automatisiertes Fahren“ − häufig synonym verwendet. In diversen Quellen [8] wird sogar die Befürchtung geäußert, dass der Unterschied verschwinden wird: „I do not believe these differences can be preserved linguistically, even within the profession, the broad misuse and confusion will drown small differences of meaning.“ In [4][5][8] und [9] wird auf die Unterschiede zwischen autonom und automatisiert hingewiesen. Wenn alles im Vorfeld genau durchgedacht ist, auch wenn es noch so kompliziert ist, und wir dem System die durchdachten kausalen Zusammenhänge einprogrammieren, dann reden wir von automatisiert. Wenn wir die kausalen Zusammenhänge aber gar nicht richtig erfassen und dem System mit KI-Ansätzen nur indirekt sagen, wie es sich in einer bestimmten Situation verhalten soll, dann reden wir von autonom.  <…>

Unser Programm „autonome Systeme“ macht den Unterschied am Systemverständnis fest. Wenn wir ganz sicher wissen, wie sich ein System in einer bestimmten Situation verhält, sprechen wir von Automatisierung. Wenn wir unsicher sind, wie es sich verhalten wird, dann sprechen wir von Autonomie. Autonomie geht direkt einher mit dem Gefühl, dass das System intelligent ist, weil wir nicht mehr unmittelbar verstehen, wie es funktioniert. Wenn wir diese Autonomie teilweise einschränken, um sicher zu gehen, dass keine inakzeptablen Risiken von dem Systemverhalten ausgehen, dann reden wir trotzdem weiterhin von einem autonomen System.

Diese Sichtweise spiegelt sich in den zu Beginn genannten Definitionen von einem „autonomen System“ wider. Das Fachforum „Autonome Systeme“ [3] schließt eine „detaillierte Programmierung“, die zu einem Systemverständnis beitragen würde, aus. Im EFI-Gutachten [7] wird ein Reagieren auf „unvorhergesehene Ereignisse“ gefordert und die Nutzung von Methoden der Künstlichen Intelligenz impliziert.

Ein mangelndes Systemverständnis heißt, dass wir teilweise die Kontrolle über das System verlieren. Dieser Kontrollverlust passt zur Bedeutung von autonom, denn autonom meint auch unkontrolliert [12].

Autonom bedeutet eigenverantwortlich bzw. verlässlich

Autonom bedeutet aber auch eigenverantwortlich [12]. Es geht also nicht nur darum, dass das System etwas ohne direkte oder indirekte Weisung des Menschen macht, sondern auch darum, dass der Mensch nicht die Verantwortung für das Systemverhalten tragen kann und es somit nicht überwachen muss.

Dies spiegelt sich auch in den Automatisierungsstufen für das automatisierte Fahren [15] wider. Je höher der Automatisierungsgrad, desto weniger muss der Mensch als sichere Rückfallebene agieren. In der Klassifikation von Sheridan und Verplank [14] wird dem Menschen schrittweise in 10 Stufen die Entscheidungsfindung und damit auch die Verantwortung abgenommen.

Den Übergang von Automatisierung zu Autonomie kann man also auch unter dem Aspekt des Übergangs der Verantwortung vom Menschen zum System betrachten. Allerdings kann man ein technisches System nicht moralisch verantwortlich machen. Es muss also so gebaut sein, dass es jederzeit zumindest hinreichend verlässlich funktioniert. Bei einem automatisierten System beruht die Begründung der Verlässlichkeit im Wesentlichen auf dem detailliert nachvollziehbaren Systemverhalten inklusive seiner Fehler. Bei einem autonomen System ist das Systemverständnis per Definition eingeschränkt und Fehler können nicht mehr als Abweichung einer klar vorgegebenen (programmierten) Verhaltensweise angesehen werden, sondern basieren auf Entscheidungen des Systems, die sich als unerwünscht oder fehlerhaft herausstellen.

Und hier kommen wir als Fraunhofer IESE ins Spiel: Das Engineering verlässlicher autonomer Systeme ist eine enorme technische Herausforderung, bei der die Informationstechnik erstmals ernsthaft mit nicht detailliert programmierbaren Systemen konfrontiert wird. Beurteilung eines Systemverhaltens bezüglich falsch, richtig und akzeptabel gehen Hand in Hand mit ethischen und rechtlichen Fragestellungen.

Nach heutigem Stand ist der einzige Weg, um autonome Systeme nachweislich verlässlich zu machen, die „Unerklärbarkeit“ bzw. unser mangelndes Systemverständnis auf den Teil zu beschränken, den wir nicht für die Verlässlichkeit brauchen. Wir machen das, indem wir Überwachungen einbauen, die das unvorhersehbare, KI-basierte Verhalten überprüfen und in einem sicheren Bereich halten. Die Überwachungen funktionieren vollautomatisiert, jedoch nicht autonom, dadurch verstehen wir sie und können ihre Verlässlichkeit erklären.

Ich hoffe, Ihnen die Unterschiede bei den Begrifflichkeiten deutlich gemacht zu haben und Ihnen hier eine verständliche Definition für autonome Systeme an die Hand zu geben. Wenn Sie in Ihrem Unternehmen vor weiteren Fragen zu autonemen Systemen stehen, zögern Sie nicht mich zu kontaktieren.

 

 

Referenzen und Sammlung zur Definition Autonome Systeme

Kommentar schreiben

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.