Diskussion um autonome Systeme: Wenn die Technik den Alltag übernimmt

Diskussion um autonome Systeme : Wenn die Technik den Alltag übernimmt

Fluch oder Segen? Auf einer großen Konferenz an der Hochschule Bonn-Rhein-Sieg haben Experten das Thema „Technisch autonome Systeme“ diskutiert. Eines scheint gewiss: Der Mensch muss den digitalen Wandel in seinem Sinne gestalten.

Wenn schon ein Universalgelehrter wie Hartmut Ihne, Präsident der Hochschule Bonn-Rhein-Sieg, von einem „unendlich komplizierten Thema“ redet, muss da etwas dran sein: Technische Autonomie – das klingt eigentlich viel zu langweilig, bedenkt man die unglaubliche Wirkkraft, die dahinter steckt. Gemeint ist ganz grob die Digitalisierung und Vernetzung der Welt durch selbstdenkende, autonome Systeme.

Damit einher gehen viele Hoffnungen (etwa Sicherheit im Straßenverkehr, bessere Versorgung von Pflegebedürftigen oder wissenschaftliche Erkenntnisse) sowie Befürchtungen: Cyber-Kriminalität, Wegfall von Millionen Arbeitsplätzen oder gar die Bedrohung der Demokratie durch gezielte Manipulationen der öffentlichen Meinung.

Ihne spricht zur Einführung in eine Forschungskonferenz, die das TREE-Institut seiner Hochschule organisierte, von einem „völlig neuen Wesen, von dem wir noch nicht wissen, was es ausmachen wird“. Deswegen seien Diskurse enorm wichtig, um Chance und Risiken zu erkennen. „Wir sind Zeitzeugen der Geburt einer neuen Welt“, sagt Ihne. Das digitale Wesen entscheide künftig auch ohne den Menschen.

Das klassische Beispiel für eine solche Situation bringt Moderator Ranga Yogeshwar eingangs einer Podiumsdiskussion im Audimax der Hochschule. Angenommen, ein selbstfahrendes Auto muss ausweichen. Wählt es die Kollision mit dem Lkw und nimmt den Tod des Fahrers hin? Oder wählt es die andere Seite, tötet das Kind, das am Straßenrand steht und rettet so das Leben des Fahrers?

600.000 Verkehrstote weniger?

„1,2 Millionen Menschen sterben jedes Jahr weltweit durch Verkehrsunfälle. 90 Prozent davon durch menschliches Versagen“, sagt Yogeshwar. Experten schätzten, die Hälfte der Verkehrstoten könnten durch autonome Fahrzeuge verhindert werden. Bleiben immer noch 600.000 Menschen. „Da haben wir das ethische Problem: Wen rettet das autonome Fahrzeug?“

Professor Dirk Helbing von der Eidgenössischen Technischen Hochschule Zürich sagt: „Wir delegieren immer mehr Entscheidungen an Systeme. Aber wer ist schuld, wenn etwas schiefgeht? Es braucht ein Verantwortungsprinzip, sonst könnte man mit Maschinen gezielt Menschen umbringen und die Verantwortung abgeben.“

Auch für die Elektrotechnikerin Professorin Kira Kastell von der Frankfurt University of Applied Sciences steht fest: „Es braucht nicht nur einen Diskurs über das technisch Mögliche, sondern auch über die Ethik. Wir müssen über die Zuschreibung von Verantwortung neu verhandeln, weil es noch keine Erfahrungen mit solchen Systemen gibt.“ Es komme jedoch immer auf den Grad der Autonomie etwa eines Fahrzeugs an. Dabei gehe es auch darum, was der Nutzer noch verstehen und bedienen könne. „Wenn es erst einen digitalen Führerschein braucht, würde das den Umstieg erschweren.“

Professorin Iris Groß von der gastgebenden H-BRS hat Sorge, dass es zum Wettlauf der Algorithmen kommt, bei dem jener Hersteller gewinnt, der dem potenziellen Käufer den größten Schutz des eigenen Lebens verspricht. „Das ist eine Frage des Gesetzes, das darf man nicht dem freien Markt überlassen.“

Städte könnten von autonom gesteuertem Verkehr profitieren

Professor Wolfgang Wägele, Direktor des Museums Koenig in Bonn, sieht hingegen große Vorteile im autonomen Verkehr, gerade in Städten: „Staus sind vermeidbar, die Sicherheit wird größer, ebenso die Energie-Effizienz. Und es spart Lebenszeit, weil die Menschen weniger Zeit im Auto verbringen, wenn das alles gesteuert wird.“ Er hofft, dass Städte sich verändern und mehr Raum für Natur entsteht.

Doch technische Autonomie betrifft natürlich nicht nur den Verkehr. Groß spricht etwa Roboter an, die bald völlig selbstständig die Pflege älterer Menschen übernehmen könnten und zugleich auch eine Art erweitertes Tamagotchi wären. „Bisher trösten wir uns mit einem Hund, bald vielleicht mit einem Roboter – das ist eine absurde Entwicklung.“

Helbing geht weiter und verweist auf Gefahren: „Wir reden uns ein, menschliche Fehler überwinden zu können. Dabei sind lernende Systeme auch manipulierbar. Ich bezweifle, dass die komplexe Welt durch Technologie begreifbar wird, weil die Datenmenge, die entsteht, schneller wächst als die Prozessorleistung. Die Daten können also gar nicht verarbeitet werden. Daraus entsteht das Paradox, dass die Kontrollierbarkeit der Welt verloren geht.“ Helbing beschreibt bereits für die Gegenwart eine Entwicklung, in der ein digitales Double von jedem erzeugt wird, der beispielsweise ein Smartphone nutzt und so Daten von sich preisgibt, die gesammelt werden.

Es kommt auf die Glaubwürdigkeit der Daten an

„So kann man anhand des digitalen Doppelgängers lernen, wie der reale Mensch manipuliert werden kann, damit er beispielsweise ein Produkt kauft. Die Roboter werden menschlicher, die Menschen robotischer.“ Kira Kastell schränkt jedoch ein: „Der Glaubwürdigkeit der gesammelten Daten kommt eine große Bedeutung zu. Sonst sind auch lernende Algorithmen manipulierbar, wenn man sie mit falschen Daten versorgt.“

Gerade bei der Kausalität gebe es im Bereich der Datenauswertung durch technische Systeme noch große Schwächen, sagt Helbing. „Es kann ein Zusammenhang hergestellt werden zwischen Eis essenden Kindern und Waldbränden: Es ist die Hitze. Das bedeutet aber nicht, dass die Brände aufhören, wenn ich alle Kinder einsperre.“ Schlechte und gute Korrelationen zu unterscheiden, sei bei „Big Data“ noch sehr schwer.

Positives Potenzial sieht hingegen Wägele: „Mit Daten können komplexe Systeme der Natur modelliert und untersucht werden, etwa das Algenaufkommen in der Ostsee. Wichtig ist, die Plausibilität der Ergebnisse zu bewerten, denn das sind keine Wahrheiten.“ Die Welt sei chaotisch, da gäbe es zahlreiche Faktoren, die der Mensch nicht im Blick habe. „In vielen Fällen müssen wir akzeptieren, dass es klare Ergebnisse nicht gibt.“

Die Gefahr wächst mit der Anzahl der Geräte

Sorgen bereitet das Thema Sicherheit. Auch kritische öffentliche Infrastruktur wie Elektrizitäts- oder Wasserversorgung würde bald autonom gesteuert werden. Helbing sagt: „Wir sehen jetzt schon eine Zunahme von Angriffen – die Gefahr wächst mit der Anzahl der Geräte.“ Das fange beim vernetzten Eigenheim an und gehe bis zu der genannten Infrastruktur, die tagelang lahmgelegt werden könne. „Auch Informationen können manipuliert werden und die öffentliche Meinung beeinflussen. So könnten wir in ein gesellschaftliches Chaos stürzen, ohne dass jemand mit Panzern und Raketen einmarschieren müsste.“

Wo soll das alles hinführen? Hartmut Ihne sagt: „Die Ethik-Frage ist nicht zu lösen, weil Ethik in technischen Systemen gar nicht abbildbar ist.“ Er kommt zurück zum Beispiel des Autounfalls: „Der Mensch handelt in solchen Situationen immer im Affekt und kommt deswegen vielleicht straffrei davon. Das System muss auf solche Situationen aber im Voraus programmiert werden. Das ist eine völlig neue juristische Fragestellung.“

Helbing sieht im Status quo Chancen: „Wir müssen jetzt den Wandel gestalten, um die Datendiktatur zu verhindern und für Systeme eintreten, die die Menschen kreativ und innovativ machen, nicht abhängig.“ Groß sagt: „Wir dürfen nicht den Darwinismus in die Systeme einziehen lassen.“ Dazu müssen Technologie, Gesellschaft, Gesetze, Ethik und vieles mehr zusammengebracht werden. Wir stehen erst am Anfang.