Führende Wissenschaftler warnen vor autonomen Kampfmaschinen

Wie ein urtümliches Raubtier kroch der AT-1 auf seinen sechs Rädern über das wellige, mit dünnem Gras und dornigen Büschen bedeckte Präriegelände.  Seine Beute, ein alter M1 Panzer, fuhr zielstrebig geradeaus, eine riesige Staubfahne hinter sich herziehend.

Obwohl der AT-1 viel kleiner war – nur etwa drei Meter lang und einen Meter hoch – hatte der M1 keine Chance. Dr. Sybil Shepard empfand fast so etwas wie Bedauern für den alten Panzer, der in zwei Wüstenkriegen gute Dienste geleistet hatte und schließlich ausgemustert worden war, um hier auf dem Übungsgelände von Three Oaks als Kanonenfutter zu dienen. Er gehörte einer aussterbenden Art an: bemannten Kampffahrzeugen.

Der AT-1 verharrte kurz, denn drehte er sich so, dass seine Sensoren auf den M1 gerichtet waren. Ein hörbares Luftholen zeigte Shepard, dass die Militärs, die mit ihr durch die dreißig Zentimeter dicke Panzerglasscheibe des Bunkers starrten, ebenso gespannt waren wie sie. Zwar kannte sie das Verhalten des AT-1 besser als jeder hier, denn schließlich hatte sie seine Künstliche Intelligenz am Clarke Institute for Advanced Technologies entworfen. Aber dennoch konnte man nie exakt voraussagen, wie sich die Maschine verhalten würde. Schließlich musste sie ihre Aufgabe unabhängig von jeder menschlichen Hilfe lösen können, musste allein auf der Basis ihrer eigenen Einschätzung der Situation Entscheidungen treffen.

Diese Zeilen stammen aus meinem 2005 geschriebenen und 2007 veröffentlichten Roman "Das System". Wer das Buch kennt, weiß, dass sich der "AT-1" nicht ganz nach Plan verhält.

Wenn irgendein spinnerter Thrillerautor sich so etwas ausdenkt, kann man beim Lesen vielleicht eine leichte Gänsehaut bekommen und das Ganze nach dem Zuklappen des Buchs getrost wieder vergessen. Wenn Genies wie Stephen Hawking und Visionäre wie Paypal- und Tesla-Gründer Elon Musk oder Apple-Gründer Steve Wozniak in einem offenen Brief vor einer derartigen Gefahr warnen, dann muss man das wohl etwas ernster nehmen. 2005 waren autonom gesteuerte Kampffahrzeuge noch Science Fiction. Heute sind sie sehr real, und in Form von Drohnen noch viel gefährlicher, als ich es mir damals ausgemalt hatte.

Wer will, kann wie ich die Petition gegen ein internationales Wettrüsten auf dem Gebiet autonomer Killermaschinen unterschreiben. Nützen wird es wahrscheinlich wenig, aber einen Versuch ist es wert.

Nachtrag: Über Twitter hat sich auch Notch an der Diskussion beteiligt. Auf den Hinweis von Oculus Rift-Entwickler John Carmack, er wünsche sich die Gelassenheit, Dinge hinzunehmen, die er nicht ändern kann, den Mut, Dinge zu ändern, die er ändern kann, und die Weisheit, das eine vom anderen zu unterscheiden, meinte er: "Wow. Fatalism isn't healthy." (Fatalismus ist ungesund.) Da kann ich ihm nur zustimmen. Auch wenn die Petition kaum einen Militärbefehlshaber und erst recht keine Diktatoren und Terroristenführer beeindrucken wird, muss man alles versuchen, die Gefahr zu benennen. Immerhin haben wir es ja auch geschafft, Biowaffen zumindest offiziell zu ächten.