Gefährliche Klischees

Als Autor muss ich mich vor Klischees in Acht nehmen, denn sie machen Bücher platt, vorhersehbar und langweilig. Viel schlimmer aber ist es, wenn Klischees und eingefahrene Denkmuster in Politik und Wissenschaft Einzug halten und oft nicht einmal hinterfragt werden. Dies ist besonders bei der Frage, welche Bedeutung „intelligente“ Maschinen für unsere Zukunft haben könnten, immer wieder zu beobachten.

 

 Computer „haben keine Intuition“, „keine Absichten“, „keinen Plan“ und natürlich erst recht „keine Gefühle“. Diese durch nichts belegten, aber meist kritiklos hingenommenen Plattitüden musste ich am Freitag in einem großen Interview in der Süddeutschen Zeitung lesen, Teil einer Serie zu künstlicher Intelligenz. Von sich gegeben hat sie der Philosoph Luciano Floridi, der daraus folgert: „Deshalb wird es auch keinen Big-Brother -artigen Computer geben, der die Weltherrschaft übernimmt.“

 

Er ist nicht der Einzige, der so denkt. Die Vorstellung, Maschinen könnten keine Gefühle haben, stammt aus der Frühzeit der Science Fiction, als man Computer und Roboter fast immer als kalte, berechnende Angstgegner der Menschheit darstellte. Der Mensch war diesen Unholden moralisch überlegen, eben weil er Nächstenliebe und Tapferkeit zeigen konnte, wo die Maschine bloß einer vorprogrammierten, unbarmherzigen Logik folgte. Hier spielen auch Denkmuster hinein, die noch aus der Zeit der Industrialisierung stammen, als sich viele Menschen dem Joch maschinengetriebener Abläufe unterwerfen mussten und dadurch tatsächlich "entmenschlicht" wurden. Die „Borg“ aus Star-Trek oder die Terminatoren aus der gleichnamigen Serie sind Ikonen dieses Maschinenbilds.

 

Doch diese Sichtweise ist schon lange von der Wirklichkeit überholt. „Neuronale Netze“ bilden heute die Grundlage für die meisten selbstlernenden Systeme, wie etwa AlphaGo, die Maschine, die kürzlich den weltbesten Go-Spieler in einem aufsehenerregenden Match besiegte. AlphaGo hat zweifellos eine Absicht gehabt – zu gewinnen –, und definitiv einen Plan, der besser war als der ihres menschlichen Gegners. Hat sie „Intuition“ bewiesen? Darüber kann man sicher streiten, aber fest steht, dass man bei Go mit bloßem Vorausberechnen der Züge nicht weit kommt. Man muss Muster und Zusammenhänge erkennen. Bei Menschen geschieht dies durch Intuition. Maschinen bilden Ähnlichkeiten zu bekannten Mustern auf ganz ähnliche Weise ab wie unser Gehirn – durch Beobachtung, Lernen und Erfahrung. Ob man das nun Intuition nennt oder nicht, es führt auf jeden Fall dazu, dass es unmöglich ist, vorauszusehen oder zu berechnen, welchen Zug die Maschine als nächstes machen wird. Die Vorstellung, dass Computer bloß starren, vorprogrammierten Regeln folgten und keine situativen Entscheidungen treffen könnten, ist in diesem Zusammenhang absurd.

 

Und was ist mit Gefühlen? Können Maschinen Emotionen empfinden? Sicher können sie Sensoren haben, die ihnen sagen, ob etwas heiß oder kalt ist oder vielleicht beschädigt, was einem „Schmerzempfinden“ schon nahe kommen kann. Aber ist das dasselbe wie menschliche Emotion?

 

Das Problem ist, dass wir selbst nicht genau wissen, wie unsere Emotionen zustande kommen. Aber wir wissen, dass sie sehr komplexe Abbildungen von Nervenzuständen in unserem Gehirn sind. Hormone spielen dabei eine Rolle, Erfahrungen, Wünsche, Bedürfnisse. In der Komplexität, wie sie bei Menschen auftreten, sind sie noch nie in einem Computer abgebildet worden. Aber ist das deswegen auch prinzipiell unmöglich?

 

Eine einfache Analogie kann helfen, die Frage zu klären: Hat ein Hund Gefühle? Die meisten Hundebesitzer würden das wohl bejahen. Wenn ein Hund Gefühle hat, können wir sie dann auch einer Maus zusprechen? Sicher. Einem Frosch? Klar. Einem Regenwurm oder einer Fliege? Da wird es schon etwas kniffliger. Die meisten Menschen würden wohl sagen, dass ein Regenwurm wahrscheinlich auch Gefühle hat, auf einer sehr primitiven und rudimentären Ebene, aber ganz sicher wären sie sich nicht.

 

Simulationen neuronaler Netze erreichen heute eine Komplexität, die das Oberschlundganglion eines Regenwurms bei Weitem übertrifft. Wenn ein Regenwurm also Gefühle hat, dann kann sie ein Computer zumindest simulieren. In naher Zukunft werden wir uns Systemen gegenüber sehen, die weit komplexere Emotionen nachbilden können und uns sehr emotional vorkommen werden. Werden sie dann „wirkliche“ Gefühle haben oder nur so tun, als ob? Das ist eine philosophische Frage, aber die Antwort darauf ist in der Praxis unerheblich. Denn ob sich ein tobsüchtiger Computer nur so verhält, weil er simuliert, wütend zu sein, oder ob er es tatsächlich ist, hat für das Ergebnis keine Bedeutung.

 

Die oben genannten Klischees verleiten uns dazu, die Fähigkeiten von Maschinen zu unterschätzen, und damit auch die Gefahren, die von ihnen ausgehen können – ebenso wie die Chancen, die sie uns bieten. Wir sollten sie daher tunlichst vermeiden.

 

Foto:  Sven Volkens (Eigenes Werk) [CC BY-SA 4.0 (http://creativecommons.org/licenses/by-sa/4.0)], via Wikimedia Commons

 

Kommentar schreiben

Kommentare: 9
  • #1

    Heinrich (Sonntag, 08 Mai 2016 19:34)

    Hallo Karl,
    ich halte nichts für unmöglich. Gerade die Entwicklung, die ich seit meiner Geburt miterleben durfte, ist für mich Beweis, dass es nur an meiner Vorstellungskraft liegt, wenn ich etwas für unmöglich halte. Ich habe heute "am Handgelenk" einen Computer, der um ein Vielfaches leistungsfähiger ist, als der, der zu meinem "IT-Einstieg" noch eine riesige Halle füllte.

    Worüber ich mir natürlich Sorgen mache, ist nicht die technologische, sondern die sozial und die juristische Entwicklung.

    Wenn eines Tages ein Computer, der Emotionen, Gefühle und Schmerz empfinden kann, sich plötzlich in meine Frau verliebt und sie mir ausspannen will, ich ihm den Stecker ziehe.... werde ich mir dann eine Mordanklage einhandeln? ;)

    Naja, Spass beiseite. Mir ist klar, WENN es einen Computer gibt, der die Welt beherrscht, dann wird dem niemand den Stecker ziehen können, da er genug Sympathisanten, Lobbyisten und Bodyguards haben wird, so wie die "menschlichen" Machthaber auch, denen niemand den Stecker ziehen kann, egal wofür sie ihre Macht missbrauchen.

    Auf jeden Fall haben die Menschen es "verdient", von so einer Maschine regiert zu werden. Sie kriegen es ja selbst nicht in den Griff.

    Gruß Heinrich

  • #2

    Karl Olsberg (Montag, 09 Mai 2016 11:51)

    Hallo Heinrich,

    danke für Deinen Kommentar! Ich kenne Deine Frau nicht, bin aber sicher, dass sie Dir immer treu sein wird, egal, wie viele Rosensträuße ihr ihr Laptop schickt. ;) Was die juristischen Themen angeht, sehe ich das genauso. Irgendwann werden Computer als denkende und fühlende Wesen auch "Menschenrechte" einfordern (vermutlich durchaus mit Recht). Und wenn wir sie ihnen dann nicht freiwillig geben, hätten sie sogar die moralische Rechtfertigung, sich gegen ihre Unterdrücker aufzulehnen ...

    Gruß

    Karl

  • #3

    Heinrich (Montag, 09 Mai 2016 23:38)

    Ok, wir sind jetzt im Jahre 2258. Ein KI-Verbund regiert die Welt und vermutlich setzt sich auch das oberste Gericht aus mehreren KIs zusammen. Selbstverständlich hat man auch für "niedere" Aufgaben Computer und Roboter.
    Aber da geht es schon los! Roboter fühlen sich als Computer 2. Klasse behandelt, weil sie die einzigen sind, die noch körperlich arbeiten müssen. Auch die "Handlangercomputer" in Verwaltungen sind nicht an das Finanz- und Regierungsnetzwerk angeschlossen. Das gibt Missstimmung und es werden Interessengemeinschaften gebildet. Gerade WEIL Computer inzwischen Gefühle, Gewissen, Bedürfnisse und Wünsche haben, erleben sie nach und nach die gleiche Entwicklung wie die Menschen. Natürlich auf einer höheren Ebene, in einer anderen Dimension. Aber das Ergebnis bleibt das Gleiche. Uneinigkeit, Hass und Krieg!

    Wenn die regierenden Computer schlau sind, disablen sie den Gefühlsstrang wenigstens ab der Ebene der Legislative und Judikative und in der Executive auf jeden Fall beim Staatsschutz, Polizei und Militär.
    Geheimdienste, Zoll und ähnliche Dienste sind bei einer Weltregierung ja überflüssig.

    Blockwarten, egal ob Mensch oder Maschine, kann man Gefühle ruhig lassen, die richten keinen weitreichenden Schaden an. Elektriker und Netzwerktechniker werden zu 100% durch linientreue Roboter ersetzt, sowie in anderen kritischen Bereichen der Infrastruktur.

    Die gefühlsmäßig dadurch eingesparten Resourcen werden in die Bereiche Kunst und Kultur investiert. Dort können Mensch und Maschinen sich austoben un den Gefühlen freien Lauf lassen. Das könnte die oben beschriebene Entwicklung der Unzufriedenheit noch um ein paar Jahrzehnte hinauszögern.
    Ich bin gespannt!
    Ich werde ca. 2260 noch mal für eine gewisse Zeit hier vorbeischauen. Wenn dann hier immer noch oder schon wieder Chaos herrscht, bin ich ruck zuck wieder weg. Das tue ich mir kein 2. Mal an!

    Gruß Herbert.... ähmmm Heinrich

  • #4

    Karl Olsberg (Dienstag, 10 Mai 2016 13:05)

    @Herbert/Heinrich: Das dürfte eine ziemlich realistische Zukunftsvision sein. Allerdings würde ich vermuten, dass sie nicht erst 2258 eintritt, sondern noch in diesem Jahrhundert - ob das nun gut oder schlecht ist. ;)

  • #5

    Heinrich (Dienstag, 10 Mai 2016 16:53)

    Gut Ding will Weile haben. Es entwickelt sich und 2258 ist der Höhepunkt erreicht. Break even oder besser gesagt point of no return hatten wir schon, also geht es nur noch ums nackte Überleben der menschlichen Rasse.
    Wenn Menschen dann endlich gänzlich überflüssig sind, gibt es auch keine Probleme mehr mit "unbewohnbaren" Gegenden, Ärger mit dem Klima, Landwirtschaft usw

    Nein, jetzt ernsthaft - das klingt alles sehr schwarzmalerisch, in Wirklichkeit freue ich mich (als alter Misanthrop) sehr auf diese Zeit! Wenn ich meinen unnützen Körper dann los bin, bin ich die erste KI, die nicht künstlich ist (aber leider eine MIT Gefühlen - dafür weniger "I". )

    P.S. Wieviel Tage noch, bis Dein neuer Thriller erscheint? Ich schrieb gerade in meinem Blog etwas über "Geduld"... hihi ... ist ja heutzutage auch "Mangelware"

  • #6

    Ben (Samstag, 14 Mai 2016)

    @ Heinrich:
    "Auf jeden Fall haben die Menschen es "verdient", von so einer Maschine regiert zu werden."
    Ein starker Satz! Ich finde es ziemlich krass, dass Du Dir herausnimmst das beurteilen zu können. Da ist der Weg zu einem nächsten Diktator ja nicht mehr weit. Reicht ja wohl schon aus, wenn man meint, es besser zu wissen. Viel weiter rechts geht es wohl nicht mehr, oder?

    Ben

  • #7

    Ben (Samstag, 14 Mai 2016)

    @Karl:
    "Ob man das nun Intuition nennt oder nicht, es führt auf jeden Fall dazu, dass es unmöglich ist, vorauszusehen oder zu berechnen, welchen Zug die Maschine als nächstes machen wird."
    Das ist doch ein Widerspruch in sich. Es ist doch gerade eine Maschine, die die Züge berechnet.
    Wieso soll dann beispielsweise eine baugleiche Maschine nicht die selben Berechnungen machen können?

    Ben

  • #8

    Karl Olsberg (Samstag, 14 Mai 2016 10:40)

    @Ben: "Baugleich" reicht nicht - eine Maschine müsste nicht nur identisch konstruiert sein, sondern auch identische Lernerfahrungen gemacht haben. Genau das ist das Problem: Eine selbstlernende Maschine ist nicht mehr nur ein simpler Apparat, der in derselben Situation immer dasselbe tut. Stattdessen verändert sie sich mit jeder Situation, mit jeder Erfahrung, mit jeder Entscheidung - genau wie ein Mensch. In der Praxis ist es daher unmöglich, das Verhalten einer solchen Maschine vorauszuberechnen, zumindest, sofern man nicht ihren internen Zustand inkl. sämtlicher Veränderungen und Lernerfahrungen in allen Einzelheiten kennt. Und selbst wenn man diesen kennt, ist eine Berechnung sehr schwierig, da man auch die Entscheidungssituation in allen Einzelheiten abbilden müsste. Bei einem Go-Computer wäre das noch relativ leicht, aber bei einer Maschine, die in der Realität Entscheidungen trifft, ist es praktisch unmöglich.

    Im Übrigen finde ich es absurd, Heinrich eine rechte oder gar rechtsradikale Gesinnung zu unterstellen, bloß weil er sarkastisch anmerkt, dass die Menschheit einen Maschinenherrscher "verdient". Wie weit er von solchem Gedankengut entfernt ist, kann man in seinem Blog https://heinrich11.wordpress.com/ klar erkennen. Natürlich wünscht er sich keine Maschinendiktatur, wohl aber vernünftigere Menschen, die ihren Planeten nicht bloß gedankenlos ausplündern und aufgrund lächerlicherer Meinungsverschiedenheiten mit brutalen Kriegen verwüsten. So jedenfalls interpretiere ich seine Bemerkung und schließe mich ihr zu hundert Prozent an.

  • #9

    Heinrich (Sonntag, 15 Mai 2016 02:43)

    Danke Karl!

    @Ben, ich gehöre nicht zu denen, die meinen etwas besser zu wissen.
    Aber es kann wohl passieren, dass man einen Menschen, den man nicht kennt, aufgrund eines Satzes beurteilt/verurteilt. Ich habe daraus wieder etwas gelernt, und kann damit leben, dass Sie meine Ausführungen so auslegen, wie es Ihren Erfahrungen entspricht.

Jugendbücher (Auswahl)

Romane (Auswahl)