Mit dem Wissenschaftsjournalisten Ranga Yogeshwar und dem Hochschulpräsidenten Hartmut Ihne sprach Moritz Rosenkranz im Vorfeld über das Thema.
Interview mit Hartmut Ihne und Ranga Yogeshwar „Welches Leben ist mehr wert?“
Bonn · Gut oder böse? Technische Autonomie im Diskurs“ heißt eine Forschungskonferenz, die am 9. Juni an der Hochschule Bonn-Rhein-Sieg stattfindet.
23.05.2017
, 12:00 Uhr
Meine Herren, was ist technische Autonomie?
Ranga Yogeshwar: Das ist unklar. Derzeit reden wir über autonome Fahrzeuge oder Waffen, aber irgendwann wird es autonome Entscheidungsalgorithmen geben, die sagen, dass ein Patient einen Tumor hat. Es geht dabei also um mehr als den Kaffeeautomaten, der mitteilt: Der Trester ist voll.
Hartmut Ihne: Die Frage bei der technischen Autonomie ist, ob es sich um Prozesse handelt, beispielsweise algorithmisierte Finanzmärkte, die selbstständig werden, oder um Dinge wie etwa Roboter, die in einem gewissen Sinne eigenständig sind. Die nächsten Jahre erst werden zeigen, was die Dimensionen technischer Autonomie sind. Wir stehen am Anfang einer Umwälzung.
Das Thema ist also komplex. Was kommt da auf uns zu?
Ihne: Ich behaupte, es ist etwas, das die Kraft hat, unser zivilisatorisches Selbstverständnis zu zerbrechen. Deswegen spreche ich von einem Zivilisationsbruch, der entsteht, weil wir mit einer neuen Art von künstlichen, intelligenten „Wesen“ konfrontiert werden – der Welt der miteinander interagierenden Algorithmen, die es in unserer Geschichte bisher nicht gab. Unsere Zivilisation baut auf der Idee des autonomen Subjekts auf, sprich dem freien Menschen, der zurechnungsfähig ist. Nun kommt etwas Neues hinzu, was uns viele Aufgaben abnehmen wird, etwa auch im juristischen Bereich. Wir werden Expertensysteme haben, die den klassischen Anwalt ersetzen.
Yogeshwar: Wir könnten sie haben. Die Frage ist, ob wir das wollen. Nehmen wir das Auto. Dort sind in letzter Zeit technische Assistenzsysteme hinzugekommen, etwa ein Spurhalteassistent, bei denen aber immer noch klar war – auch juristisch – dass der Führer des Fahrzeugs es auch kontrolliert. Wenn wir nun in eine neue Qualität gelangen, in der das Auto selbstständig fährt, bekommen wir plötzlich ein Problem: Wenn dieses Auto in eine Situation kommt, in der es ausweichen muss und vor der Wahl steht, das Kind am Straßenrand zu töten oder den Insassen selbst, ist das kein technisches, sondern ein Entscheidungsproblem, das wir einprogrammieren müssen. Das heißt, aus der Technik heraus werden wir plötzlich mit ethischen, moralischen, juristischen Fragestellungen konfrontiert, die bis dato die reine Domäne des Menschen waren: Welches Leben ist mehr wert? Dabei haben wir die Antwort schon sehr tief erörtert, sie steht sogar im Grundgesetz. Das Individuum ist nicht verhandelbar.
Ihne: Ja, vor solche moralischen Dilemmata stellen uns diese Systeme. Sie brauchen eine einprogrammierte Ethik. Es bietet sich aber keine gute an, weil Algorithmen nur utilitaristisch den Nutzen von Handlungsoptionen berechnen können. Ein Individuum ist aber nicht gegen ein oder mehrere andere aufrechenbar. Die vielen Ethik-Modelle, die wir haben, etwa die berühmte Ethik Kants, lassen sich in einer Maschine gar nicht abbilden, denn die Voraussetzung wäre ein freies Entscheidungsbewusstsein.
Können Maschinen oder Algorithmen überhaupt moralisch sein?
Ihne: Nein, sie sind überhaupt kein Subjekt von Moral. Man kann sie in gewisser Weise moralisch „füttern“. Und es wird entscheidend sein, welche Art von Ethik diese Algorithmen – und damit auch unsere Welt, in der sie wirken – beherrschen wird. Da besteht eine große Diskursnotwendigkeit. Die Frage ist, ob wir mit dem klassischen utilitaristischen Modell, bei dem die Summe des Wohlergehens aller Betroffenen maximiert wird, und den damit einhergehenden moralischen Dilemmata, solche autonomen Systeme ethisch verantwortungsvoll verwenden dürfen. Ob im militärischen Bereich, bei der globalen Finanzindustrie oder im Verkehr – überall gibt es bereits mehr oder weniger autonome Systeme. Der Philosoph Hans Jonas hat einmal gesagt: Setze nie Prozesse in Gang, von denen du nicht weißt, wie du sie beenden kannst.
Yogeshwar: Wir umgeben uns ja heute schon mit komplexen Systemen, die in sich unklar und nicht restlos kontrollierbar sind, nehmen Sie die Finanzkrise. Die Moral kommt dabei immer erst ins Spiel, wenn es eine unmittelbare Konfrontation mit dem Menschen gibt.
Dennoch rollt diese Technik auf die Menschheit zu. Warum?
Yogeshwar: Wir sprechen jetzt nicht über dieses Thema, weil es so interessant ist, sondern weil ökonomische Interessen, also Geschäftsmodelle etwa aus dem Finanzsektor oder der Autoindus-trie, einen großen Druck ausüben.
Ihne: Na ja. Warum ist das Auto oder das Smartphone so weit verbreitet? Weil wir uns frei bewegen und kommunizieren wollen. Das wurde nicht einfach nur durch ein Geschäftsmodell ausgelöst. Möglicherweise treiben auch grundlegende anthropologische Konstanten wie etwa die evolutionäre Notwendigkeit zu kommunizieren.
Yogeshwar: Ich halte dagegen. Die deutsche Automobilindustrie gibt 2,2 Milliarden Euro pro Jahr für Werbung aus. Wir sind in eine Phase gekommen, in der das tiefe Bedürfnis nach Bewegung ersetzt worden ist durch das künstlich erzeugte Mantra: Kauf ein Auto!
Ist die große Gefahr, dass finanzielle Interessen und technischer Fortschritt dem gesellschaftlichen Diskurs enteilen?
Ihne: Ja, das können wir jetzt schon erkennen. Die Geschwindigkeit des technischen und gesellschaftlichen Wandels ist hoch.
Yogeshwar: Bisher wurde alles, was technisch machbar war, auch umgesetzt. Vielleicht sind wir jetzt an dem Punkt angelangt, an dem wir fragen, ob das weiter so sein muss.
Vielen Menschen macht diese Entwicklung Angst. Gibt es eine Chance, sich der Vernetzung zu entziehen?
Ihne: Nein. Die Systeme des Handels, der Behörden, der Kommunikation, der Medien – alles ist bereits oder wird noch auf technische Autonomie umgestellt. Es gibt kein Offline mehr. Der digitale Eremit hat im Jahr 2030 keine Chance mehr, ein völlig nicht-digitales Leben zu führen. Oder er nimmt nicht mehr wirklich an gesellschaftlicher Kommunikation teil.
Welche Chancen bietet technische Autonomie?
Ihne: Zahlreiche, weil wir sie in vielen Bereichen sinnvoll einsetzen können. Es gibt etwa Pflegesysteme für zu Hause, die verlässlich und preisgünstig sein werden. Oder im Bergbau, wenn Tunnel gebohrt werden müssen. Im Forschungsbereich gibt es selbstauswertende Systeme. Technische Autonomie birgt die fantastische Chance, uns von umständlicher Arbeit zu befreien. Allerdings stehen wir vor der Frage, wie die vielen entfallenden Arbeitsplätze ersetzt werden. Die Diskussionen sind ja bereits da, etwa über ein bedingungsloses Grundeinkommen.
Yogeshwar: Die Auswirkungen dieser Technologien sind einfach so groß, dass man zwangsläufig zu moralischen Fragen kommt. Aber natürlich gibt es viele andere Stellen, wo sie Großartiges leisten können. Was wir uns immer wieder fragen müssen: Verändert sich dadurch unsere Haltung? Das Smartphone ist super. Aber muss eine Mutter nervös werden, wenn sie ihre Tochter eine halbe Stunde nicht erreicht? Es ist essenziell, wie wir damit umgehen.
Digitalisierung ist also dann gut, wenn sie gut verwendet wird?
Ihne: Genau. Sie darf uns oder anderen nicht schaden. Die Frage von Gut oder Böse stellt sich nicht im Hinblick auf die Technologie selbst, sondern auf die Art und Weise, wie wir sie nutzen. Wenn sich Systeme autonomisieren und wir uns nicht mehr trauen oder nicht die Möglichkeit haben, sie abzuschalten, dann bekommen wir ein Problem. Da müssen wir zum Selbstschutz politische Bremsen installieren.
Yogeshwar: Ich habe allerdings die Sorge, dass da ein Übernahme-Prozess läuft, der Schritt für Schritt fortschreitet, weil wir diversen Maschinen aus verschiedenen Bereichen hier ein Stück und dort noch ein Stück Autonomie mehr geben. Die Frage ist: Ab welchem Punkt besteht Konsens, dass es nicht mehr weitergehen darf?
