In meinem Roman "Mirror" beschreibe ich, wie Menschen von ihren intelligenten, vernetzten Smartphone-ähnlichen Geräten manipuliert werden. Das ist nicht viel mehr als eine Projektion der Entwicklung, die 2015 - zum Zeitpunkt, als ich das Buch schrieb - bereits deutlich erkennbar war. Allerdings ahnte ich damals nicht, wie nah wir dem im Buch beschriebenen Szenario bereits sind.
Dass Firmen wie Facebook, Google und Amazon unsere Daten aus rein kommerziellen Motiven sammeln und sie an Leute weiterverkaufen, die sie nutzen, um uns zu manipulieren, ist seit Langem klar. Wie Jon Callas in einem Zeit-Artikel bereits 2011 treffend schrieb, sind wir Nutzer aus Sicht von Facebook & Co das, was für den Bauern Salatköpfe sind, "und bei der Ernte versteht der Bauer keinen Spaß."
Für einen Thrillerautor wie mich ist es nur allzu leicht vorstellbar, dass diese Entwicklung mit fortschreitender künstlicher Intelligenz außer Kontrolle geraten und üble Folgen haben könnte. Manchmal wird man dann aber doch von der Realität überholt und muss feststellen, dass die eigene Fantasie nicht ausreichte, um sich vorzustellen, was tatsächlich passiert. Dass ein offensichtlich für das Amt völlig ungeeigneter, narzisstischer Lügner wie Donald Trump mit Hilfe solcher mehr oder weniger subtiler Manipulationen auf Basis unserer Nutzerdaten US-Präsident wird, hätte ich jedenfalls nicht für möglich gehalten. Hätte ich so etwas in einem Roman geschrieben, hätten mir meine Leser eine scheinbar so weit hergeholte Geschichte wohl niemals geglaubt.
Auch wenn unklar bleibt, wie groß der Einfluss von Cambridge Analytica und russischen Trollen auf die US-Wahl tatsächlich war, lässt sich deutlich erkennen, dass soziale Medien und das Internet zu einer Radikalisierung und Spaltung der Gesellschaft führen. Schuld daran ist primär die "Filterblase", die dazu führt, dass wir immer mehr in unseren eigenen vorgefassten Meinungen bestärkt werden und immer weniger verstehen, warum andere Menschen anderer Ansicht sind. Statt den Meinungspluralismus zu fördern, bewirken die Algorithmen von Facebook, Google und Amazon genau das Gegenteil: Sie verstärken Intoleranz, Misstrauen, totalitäre Sichtweisen und Hass. Genau diese Gefühle verstehen Demagogen wie Trump, Erdogan und Putin zu schüren und für sich zu nutzen.
Ein interessantes Beispiel dafür liefert ein Bericht der New York Times über die immer radikaleren Videos, die der Vorschlagsalgorithmus von Youtube liefert: Ganz egal, welcher Meinung man ist, wenn man lange genug auf Youtube bleibt und sich die automatisch vorgeschlagenen Videos anschaut, sieht man immer radikalere Versionen dieser Meinung, bis hin zu absurden Verschwörungstheorien.
Was können, was müssen wir dagegen tun, wenn uns die Zukunft der freiheitlichen, pluralistischen Demokratie nicht egal ist? Unseren Facebook-Account kündigen? Facebook unter staatliche Aufsicht stellen, wie es Jon Callas fordert?
Ich persönlich bezweifle, dass das viel nützen würde. Die Technologie entwickelt sich viel zu schnell, um durch staatliche Aufsicht kontrolliert werden zu können. Und auch Technik-Abstinenz erscheint mir nicht die Lösung, denn einerseits kann Technik - auch Facebook - sehr nützlich sein, und andererseits können wir es uns schlicht nicht leisten, die Digitalisierung einfach zu ignorieren.
Natürlich liegt die Verantwortung für Datenmissbrauch vor allem bei den beteiligten Technologiefirmen, die endlich sorgsamer mit unseren Daten umgehen müssen. Mark Zuckerbergs lauwarme und reichlich späte Erklärung, dass jetzt alles besser wird und man im übrigen schon vor Jahren alle nötigen Maßnahmen ergriffen habe, überzeugt mich allerdings nicht. Und von börsennotierten Unternehmen, die ihr Geld mit unseren Daten verdienen, Zurückhaltung und Anstand zu erwarten, ist wohl naiv.
Die Einzigen, die effektiv etwas tun können, sind wir Nutzer selbst. Wir müssen lernen, vorsichtiger mit unseren Daten umzugehen, und genauer überlegen, was wir mit wem online teilen. Viel wichtiger aber: Wir müssen eine gesunde Skepsis gegenüber dem entwickeln, was uns das Internet als "Realität" vorgaukelt. Wir brauchen eine Art geistiges Immunsystem gegen Manipulation, Lügen und trickreiche Argumentation. So, wie wir gelernt haben, dass eine E-Mail-"Gewinnbenachrichtigung" höchstwahrscheinlich Spam oder Phishing ist und sich unsere Freude darüber in Grenzen hält, so müssen wir besonders misstrauisch gegenüber jeder Nachricht werden, die nur allzu gut in unser eigenes Weltbild passt und alles zu bestätigen scheint, was wir schon immer über "die anderen" dachten. Statt uns durch Algorithmen noch weiter zu radikalisieren, müssen wir lernen, wieder auf Andersdenkende zuzugehen - sogar auf die Leute, die Trump gewählt haben oder Putin oder Erdogan toll finden. Das geht am besten, indem man mit anderen Menschen spricht - offline, bei einem guten Bier.
Vielleicht stellen sich am Ende Trumps Wahl und der Cambridge Analytica-Skandal als Segen für die Demokratie heraus - weil sie uns deutlich machen, wie massiv wir manipuliert wurden und werden. Vielleicht helfen sie uns dabei, zu verstehen, wie fragil Demokratien sind, und wecken (endlich) unsere Abwehrkräfte gegen Engstirnigkeit, Intoleranz und Demagogie. Das ist jedenfalls meine Hoffnung und auch einer der Gründe, warum ich Bücher wie "Mirror" und "Boy in a White Room" schreibe.
Nachtrag 25.3.18: Ein sehr witziges kurzes Onlinespiel zum Thema Desinformation gibt es hier: https://www.getbadnews.com/#intro. Leider nur auf Englisch.
Kommentar schreiben
Volker (Donnerstag, 22 März 2018 16:35)
Ich stimme Ihnen in vielerlei Hinsicht zu, nicht jedoch, wenn Sie die „Filterblasen“ nur auf einer Seite des politischen Spektrums verorten. Ich behaupte sogar, dass bei den „Klügeren“ beider Lager die konservative Seite eher die vielfältigeren Wahrnehmungen hat, weil sie trotz der manchmal zweifelhaften, manchmal aber auch zutreffenden Information und Meinungen aus dem alternativen Spektrum auch immer noch Fernsehen schauen und Zeitungen und Zeitschriften nicht nur des konservativen Lagers lesen, während der „Linke“ das andere Meinungsspekteum oft erst gar nicht an sich heranlässt, es sogar bewusst ignoriert, und der „Wedernoch“ sich gar nicht erst die Mühe macht, darüber nachzudenken, ob es überhaupt auch andere Sichtweisen jenseits von Tagesschau und heute show geben könnte.
Karl Olsberg (Donnerstag, 22 März 2018 16:51)
@Volker: Ich habe in keiner Weise andeuten wollen, dass Filterblasen nur in einem bestimmten politischen Spektrum vorkommen. Im Gegenteil ist es ja gerade das Wesen der Filterblase, dass sie die jeweilige Meinung verstärkt, ganz egal, ob ich links oder rechts bin, atheistisch oder fundamentalistisch, oder ob ich an die Scheibenwelt-Theorie glaube. Ich denke nicht, dass "Linke" oder "Konservative" pauschal stärker von Filterblaseneffekten betroffen sind - das ist eher eine Frage der individuellen Weltoffenheit und Bereitschaft, über den Tellerrand hinaus zu sehen. Die Vermutung, dass "die konservative Seite eher die vielfältigeren Wahrnehmungen hat" könnte allerdings auch schon ein Filterblasen-Effekt sein.
Felix (Donnerstag, 22 März 2018 19:40)
Ich finde es ja geradezu erschreckend, wie gänzlich egal all das den meisten Menschen zu sein scheint. Man regt sich 2 - 3 Tage darüber auf (nicht zuletzt weil die Medien in dieser Zeit davon berichten) und dannach ist es auch wieder vollkommen vergessen. Auch setzt man sich nicht näher mit Dingen auseinander. Sicher kann man sucht nicht zu jeder aktuellen Thematik belesen, das ist schon allein aus zeitlichen Gründen nicht möglich, aber eine gesunde Skepsis und "Fachwissen" zu bestimmten Themen würden Populismus und Beeinflussung durch Zeitungen wie die "BILD" sicher in die Schranken weisen.
Auf jeden Fall ein sehr interessanter Artikel, welcher zum Nachdenken anregt.
Heinrich (Donnerstag, 22 März 2018 21:10)
Lieber Karl,
Du kennst mich gut genug, zu wissen, dass ich gerne pessimistisch bin und sogar misanthropische Anwandlungen habe.
Wenn ich den Absatz zitieren darf:
[zitat]Die Einzigen, die effektiv etwas tun können, sind wir Nutzer selbst. Wir müssen lernen, vorsichtiger mit unseren Daten umzugehen, und genauer überlegen, was wir mit wem online teilen. Viel wichtiger aber: Wir müssen eine gesunde Skepsis gegenüber dem entwickeln, was uns das Internet als "Realität" vorgaukelt. Wir brauchen eine Art geistiges Immunsystem gegen Manipulation, Lügen und trickreiche Argumentation. [/zitat]
Das hört sich prima an, und könnte bei Menschen wie Dir auch funktionieren. Du bist intelligent und hast genug Bildung und Wissen, um Dich weitgehend über Deine Instinkte und Bedürfnisse hinwegzusetzen.
Die Mehrheit der Menschen denkt aber nur egoistisch, an die eigenen Bedürfnisse, die Bequemlichkeit, den eigenen Vorteil jederzeit zu nutzen und bei Ängsten zu hoffen, dass IRGENDJEMAND das schon in Ordnung bringen wird.
Die Manipulation, die nun mit Hilfe des Internets passiert, gab es auch schon als noch kein Internet in Sicht war. Ob ein König, ein Diktator oder eine KI den Menschen verspricht, dass ihre Wünsche und Sehnsüchte erfültt werden, von wem sie belogen werden, ist den meisten Menschen egal - alles nur Kohlköpfe, denen es piepegal ist, wer mit der Gießkanne kommt.
Darum ist es nur eine Frage der Zeitl, WANN die Menschen auf diesem Planeten endlich durch Superintelligenzen ersetzt werden. Die haben dann wenigstens die Chance, über das Sonnensystem hinaus das Universum zu besiedeln. (Der Mensch würde nur besudeln - das ist eben so in seiner Natur).
Gruß Heinrich
Karl Olsberg (Freitag, 23 März 2018 08:11)
@Felix: Das stimmt, gerade deshalb halte ich es für gut, wenn solche Skandale ans Licht kommen - auch wenn das nur die Spitze des Eisbergs ist.
@Heinrich: Ich sehe nicht ganz so schwarz. Es stimmt, dass die Menschheit als Ganzes bisher keine so tolle Bilanz hat, aber es gibt doch immerhin eine Menge Lichtblicke. In den USA zum Beispiel ist die Anzahl der Menschen, die Trump durchschauen und ihn am liebsten wieder loswerden möchten, deutlich größer als die Zahl seiner Anhänger. Im Übrigen halte ich es für gefährlich (und vielleicht auch durch die Filterblase beeinflusst), zu glauben, dass die Mehrheit der Bevölkerung einfach zu dumm ist, um vernünftige Entscheidungen zu treffen - das ist genau die Argumentation von Despoten.
Die meisten Menschen treffen meines Erachtens "egoistische", aus ihrer Sicht aber durchaus auch "vernünftige" Entscheidungen. Trump-Wähler erhoffen sich von Trump die Lösung ihrer spezifischen Probleme, und auch, wenn er dazu offensichtlich nicht in der Lage ist, erscheinen andere Politiker diesen Menschen noch weniger geeignet - vielleicht, weil sie die Ängste und Sorgen nicht ernst genug nehmen, oder weil sie diese Wähler einfach als "zu dumm" ansehen. Die größte Gefahr liegt meines Erachtens darin, sich selbst für intelligenter als den überwiegenden Rest der Menschheit zu halten - so wie zum Beispiel Donald Trump es tut.
Heinrich (Freitag, 23 März 2018 17:57)
Hallo Karl,
ich freue mich immer, mit Dir über solche Dinge reden zu können. Das erweitert meinen Horizont mächtig! Ich lese gerade Hologrammatica von Tom Hillenbrand. Vermutlich sollte ich meinen nächsten Upload mal von Dir überarbeiten lassen. ;)
Gruß Heinrich
Karl Olsberg (Freitag, 23 März 2018 18:09)
@Heinrich: Das Buch habe ich auch schon auf meiner "Muss ich mal reinlesen"-Liste.