Die Ethik autonomer Maschinen

Gestern war ich auf der Jahrestagung des Deutschen Ethikrats, einer von der Bundesregierung eingesetzten Expertenkommission, die Politiker in Bezug auf die ethischen und moralischen Folgen der technischen Entwicklung berät. Da ich diese (potenziellen) Folgen in meinen Romanen verarbeite, wollte ich wissen, wie der aktuelle Stand der Diskussion unter den renommiertesten Experten Deutschlands ist, und erhoffte mir auch ein paar neue Ideen und Anregungen. Viel Neues lernte ich nicht, trotzdem war es interessant, worüber geredet wurde – und worüber nicht.

 

Der Titel der Konferenz lautete: "Autonome Systeme - Wie intelligente Maschinen uns verändern". Doch genau über diesen Aspekt, den Einfluss intelligenter Maschinen auf den Menschen, wurde gestern so gut wie gar nicht gesprochen. Stattdessen kreiste die Diskussion darum, was Maschinen können oder nicht können, was sie dürfen oder nicht dürfen und ob sie überhaupt etwas dürfen können.

 

Den Anfang machte der ehemalige SAP-Vorstand und Vorsitzende der Deutschen Akademie der Technikwissenschaften, Henning Kagermann, mit einem überfrachteten Fachvortrag über den Stand der Technik, der mit unerklärten Fachbegriffen gespickt war und dem selbst Zuhörer, die sich einigermaßen im Thema auskennen, nicht leicht folgen konnten. Auf der letzten Folie erwähnte er mögliche Probleme wie „Kontrollverlust“, „gesellschaftliche Spaltung“ und „Jobverluste“, wischte diese jedoch mit einem lapidaren „das glaube ich nicht“ ohne jegliche inhaltliche Begründung beiseite. Kein guter Einstieg für eine Konferenz, die sich mit ethischen Konsequenzen der Technik beschäftigt. Viel besser war in meinen Augen der Vortrag der Informatikprofessorin Katharina Zweig von der TU Kaiserslautern, die sehr anschaulich erklärte, wie „intelligente“ Algorithmen funktionieren und wo ihre Tücken liegen. Sie ist Mitgründerin der Initiative Algorithmwatch, die ich sehr lobenswert finde.

 

Als nächster hielt der Philosoph Julian Nida-Rümelin einen Vortrag zu der Frage, wer für autonome Systeme die Verantwortung trägt. Sein Beitrag war symptomatisch für die weitere Diskussion: Statt über klare Regeln und politische Maßnahmen wurde viel über abstrakte Begriffe debattiert. Was heißt eigentlich Verantwortung? Was ist Frieden? Kann eine Maschine überhaupt „autonom“ genannt werden? So sinnvoll und notwendig solche Begriffsklärungen im wissenschaftlichen Diskurs sein mögen, so theoretisch und unproduktiv kamen sie mir in diesem Rahmen vor.

 

Besonders deutlich wurde das in dem Fachforum zum Thema „Autonome Waffensysteme“, von dem ich mir als Thrillerautor am meisten versprochen hatte. Während der Inspekteur der Luftwaffe, Generalleutnant Karl Müllner, meines Erachtens zurecht darauf verwies, dass „autonome“ Drohnen nicht wirklich autonom seien, da ihr Einsatzbefehl und -ziel immer von einem Menschen vorgegeben würden und sie sich insoweit nicht von anderen Waffen wie etwa Mittelstreckenraketen unterschieden, verfing sich sein Gegenpart Bernhard Koch vom Institut für Theologie und Frieden in recht bizarr anmutenden Grundsatzdiskussionen. Er sprach von „positivem“ und „negativem“ Frieden, was mich irgendwie an die „alternativen Fakten“ aus dem Weißen Haus erinnerte, und verstieg sich zu den Behauptungen, die Würde des Menschen sei stärker herabgesetzt, wenn er von einem Roboter erschossen würde als von einem Menschen, und Hass sei auch eine Form von Würdigung und insoweit moralisch besser als die kalte, unemotionale Tötung durch eine Maschine.  

 

Die meiner Ansicht nach drängendsten Fragen wurden dagegen nicht behandelt: Inwieweit können sich autonome Waffensysteme verselbstständigen und gegen den Willen ihrer Kommandanten handeln? Was passiert, wenn auch Einsatzbefehl und -ziel immer mehr von automatischen Systemen beeinflusst werden? Wie sichert man autonome Waffen gegen Hacker? Was, wenn Zivilisten aufgrund eines „Bugs“ sterben? Und was, wenn nach einem Angriff nicht mehr nachvollzogen werden kann, wer solche selbstständig agierenden Waffensysteme in Marsch gesetzt hat? Werden dann „versteckte“ Angriffe möglich, bei denen der Aggressor sich hinterher für unschuldig erklären kann und insofern keine Gegenmaßnahmen befürchten muss, ähnlich wie bei den Hackerangriffen auf die US-Wahlen, die man der russischen Regierung auch nur schwer nachweisen kann?

 

Erst meine Schriftstellerkollegin Thea Dorn war es, die in ihrem Abschlussvortrag das offizielle Thema der Veranstaltung aufgriff und die Frage stellte: „Was macht das mit uns?“ Sie kam zu dem Schluss, dass vollautomatische Entscheidungssysteme zu einer Schwächung der eigenen Urteilskraft, einer Art freiwilliger Entmündigung, führen können, so wie die Nutzung von Navigationssystemen dazu führt, dass man die Fähigkeit verliert, ohne sie durch eine unbekannte Stadt zu navigieren. Sie forderte Maßnahmen zur Stärkung der menschlichen Urteilskraft in Anlehnung an den gestern häufig zitierten Philosophen Kant: „Habe den Mut und nutze deinen Verstand, um dem vollautomatischen System zu widersprechen.“ So, wie wir ins Fitnessstudio gehen, um der Bequemlichkeit der modernen Welt entgegenzuwirken und die Bewegungsfähigkeit unserer Körper zu erhalten, bräuchten wir ihrer Ansicht nach „geistige Laufbänder“, die unsere Fähigkeit, uns eigene Urteile zu bilden und kompetente Entscheidungen zu treffen, trainieren. Schon immer habe die Menschheit Technik genutzt, um ihre eigene Autonomie zu steigern, doch seien wir nun womöglich an einem gefährlichen Umkehrpunkt, von dem an wir unsere Unabhängigkeit und Entscheidungsfreiheit schrittweise verlieren könnten. Ich kann ihr da nur aus vollem Herzen zustimmen.

 

Wie oft bei Konferenzen waren die Gespräche in den Pausen mindestens so interessant und anregend wie die Vorträge. Ich war positiv überrascht über die Menge und Vielfalt der Teilnehmer. Ich sprach mit einem Experten eines Unternehmens, das Ministerien bei der Vergabe von Fördermitteln berät, einer Journalistin, einem Regierungsdirektor aus dem Bundesarbeitsministerium, einer Vertreterin eines Verbandes von Pflegekräften und einer pensionierten Ärztin, die sich auch im Ruhestand noch dafür interessierte, wie Maschinen ihr Fachgebiet verändern. Es waren Schüler, Abgeordnete, Lobbyisten, Unternehmensvertreter und engagierte Privatpersonen dort. Auch die Fragen, die nach den Vorträgen aus dem Publikum gestellt wurden, waren oft tiefgründig und interessant. Das war vielleicht der positivste Aspekt dieser Veranstaltung: Dass eine lebendige Diskussion über die Technikfolgen stattfindet, auch wenn sie mehr Fragen aufwirft, als sie beantwortet. Vielleicht waren das schon die ersten Schritte auf dem "geistigen Laufband" im Sinne von Thea Dorn.