Jill Lepores Buch „Die Regierung der Maschinen“: Kritik der Automatisierung

Wie schlimm wird es? Jill Lepore ist in Sorge. Nicht über ein einzelnes politisches Vorhaben, einen bestimmten Paragraphen, eine Weltgeschehenswendung, eine Person, ein Verbot, ein Produkt, eine Veröffentlichung, eine Verirrung – sie sieht die liberale Demokratie an sich in ihren Grundfesten erschüttert. Weil sich Technik und Technologie ihrer Ansicht nach zu schnell weiterentwickeln, weil dies wenigen zu viel Einfluss sichere, weil Entscheidungen zunehmend bezugslos würden. Weil all das die Mitglieder einer Gemeinschaft auf bloß messbares Zahlenwerk reduziere und damit in einem gewissen Sinne persönlich entkerne.

Die bekannte Harvard-Historikerin legt mit ihrem Buch „Die Regierung der Maschinen. Aufstieg und Fall des künstlichen Staates“ eine konstruktive Digitalisierungskritik vor. Sie schreibt über die Anfänge der politischen Statistik, wieso erst Wissen Staaten erzeugt, darüber, wie Computer und Internet entstanden, über die großen Technikdebatten der Nachkriegszeit, über das, was sich wirklich zutrug, und das, was führende Köpfe in verschiedenen literarischen Formen spekulierten.

Eine „Elektronische Demokratie“?

Elon Musk und sein Großvater, Jeff Bezos und Mark Zuckerberg kommen vor, John Stuart Mill, Karl Marx, Ayn Rand, Mary Shelley, Hannah Arendt, Joseph Weizenbaum, Isaac Asimov, Douglas Adams, Yoneji Masuda, Alan Turing, Joseph Licklider, John McCarthy, Norbert Wiener, Newt Gingrich, Stewart Brand, Bill Clinton, Donald Trump und viele andere. Lepore beschreibt dicht, manchmal zu dicht, wie unsere technologische Umgebung erdacht und erschaffen wurde – und welche aus ihrer Sicht hochgefährlichen Folgen dies hat und haben wird. Ihr Band ist so etwas wie die Dialektik der Automatisierung. Er kommt gerade recht, wie die täglichen Diskussionen um die Gefahren Künstlicher Intelligenz zeigen, in denen inzwischen auch die Chefs der wichtigsten KI-Unternehmen als Warner auftreten.

Wovor sich Lepore letztlich fürchtet, erdichtete Isaac Asimov zugespitzt im Jahr 1955. Der Science-Fiction-Autor, vor allem für seinen Foundation-Zyklus und seine Robotergeschichten bekannt ist, veröffentlichte in jenem Jahr die Kurzgeschichte „Franchise“. Sie spielt deutlich später, im Jahr 2008, in dem die amerikanischen Wahlen ganz anders ablaufen. Nicht mehr viele Millionen Menschen stimmen ab über ihre Anführer, sondern nur noch einer. Aber nicht irgendjemand. Eine Person, die statistisch besonders repräsentativ ist – in der Geschichte heißt sie Norman Muller, ein unauffälliger Bürger aus Bloomington im amerikanischen Bundesstaat Indiana. Ein Hochleistungsrechner namens Multivac errechnet auf Basis dessen, wie Muller politisch denkt und die wirtschaftliche und gesellschaftliche Lage einschätzt, wie die gesamte Bevölkerung vermutlich abstimmen würde. Das reicht. Das ersetzt die Wahl. Das „erspart“ Mullers Mitbürgerinnen und Mitbürgern, selbst ins Wahllokal zu gehen und die Stimme abzugeben.

In der Asimov-Geschichte sind die Vereinigten Staaten eine „Elektronische Demokratie“. Lepore zitiert einen darin vorkommenden alten Mann namens Matthew, der sich noch erinnern kann, wie das damals war, als er selbst wählte. „Geradewegs ging ich in die Wahlzelle, betätigte die Hebel und gab meine Stimme ab“, erzählt er seiner zehn Jahre jungen Enkelin Linda, und weiter: „Es war gar nichts dabei. Ich drückte damit nur aus: Dieser Bursche ist mein Mann, und ich wähle ihn. So sollte es sein!“ Seine Enkelin, ein Kind der „Elektronischen Demokratie“, fragt ihn: „Woher wussten die Leute, wen sie wählen sollten? Hat Multivac es ihnen gesagt?“ Ihr Großvater daraufhin: „Sie benutzten nur ihr eigenes Urteilsvermögen, Mädchen!“

Algorithmen ersetzen die öffentliche Diskussion

Und dann, und das ist eine Stärke dieser Science-Fiction, erläutert Matthew, wie das eigentlich kam, warum plötzlich der Vorhersagegroßrechner an die Stelle der Massenwahl getreten war. Nicht aus böser Absicht. Aus einer Effizienzidee heraus, auch aus reiner Bequemlichkeit. „Weißt du, Linda, manchmal mussten sie die ganze Nacht hindurch die einzelnen Stimmen zählen, und die Leute wurden ungeduldig. Daher erfand man Spezialmaschinen, die imstande waren, nur einige wenige der neuen Stimmen mit den Stimmen desselben Wahlbezirkes aus den vergangenen Jahren zu vergleichen. Auf diese Weise konnte die Maschine errechnen, wie das Gesamtergebnis aussehen und wer gewählt sein würde. Verstehst du?“ Sie versteht. Und hört ihm weiter zu. „Die ersten Computer waren wesentlich kleiner als Multivac. Aber die Maschinen wurden ständig größer und konnten schon nach immer weniger Stimmen das Wahlergebnis vorausberechnen. Dann schließlich bauten sie Multivac, der nur noch einen Wähler benötigt.“

Enkelin Linda, nun in ihrer eigenen Erfahrungswelt angekommen, sagt: „Das ist schön.“ Großvater Matthew entgegnet: „Nein, das ist nicht schön. Ich möchte nicht, dass mir eine Maschine vorschreibt, wie ich gewählt haben würde, nur weil irgendein Witzbold in Milwaukee sagt, er sei gegen eine Tariferhöhung. Vielleicht möchte ich ja aus Spaß mal ganz verrückt wählen. Oder vielleicht gar nicht. Vielleicht …“

Was Roboter wollen

Wie in einem Brennglas wird in dieser Asimov-Erzählung deutlich, was Lepore meint, wenn sie von einem „Künstlichen Staat“ schreibt. An die Stelle menschlicher Urteile, zwischenmenschlicher Gespräche, öffentlicher Debatten, parlamentarischer Abstimmungen und juristischer Auseinandersetzungen treten digitale Infrastrukturen, Algorithmen und Automatisierung, werten Rechner permanent schier unendlich viele Datenpunkte aus, ermitteln Muster und sagen voraus, wer was sehen, hören, fühlen möchte. Statistische Vorhersage verdrängt politische Mehrheitsentscheidung, Politik insgesamt wird zum mechanisch-messbaren Optimierungsproblem. Nicht einem großen Masterplan folgend, sondern aufgrund einzelner Entwicklungen, die irgendwann ineinandergreifen, aber oft erst in der Rückschau nicht zufällig zeitgleich wirken.

Lepore zeichnet im ersten Teil des Bandes die historischen Ursprünge all dessen nach. Sie beginnt damit, dass jede Form von Staatlichkeit das verfügbare Wissen über ihre Mitglieder spiegelt. Menschen zu zählen, zu klassifizieren, zu identifizieren, ermöglicht überhaupt erst politisches Handeln in großen Gruppen. Umso detaillierter die Datenprofile sind, umso besser lässt sich Einfluss nehmen – im Guten wie im Schlechten. Sodann stellt sie ausführlich die schon vor dem Zweiten Weltkrieg zunehmend verbreitete Idee vor, wichtige politische Ämter wesentlich mit Ingenieuren und Naturwissenschaftlern zu besetzen, weil die Frage nach der besten politischen Lösung eben im Kern eine technische Antwort habe. Die Technokratiebewegung der Dreißigerjahre in Nordamerika mündete bekanntlich sogar in entsprechende Parteigründungen und -programme. Ein namhafter Vertreter hieß Joshua Haldeman, ein Chiropraktiker, Pilot und Abenteurer, der einst von Kanada nach Südafrika auswanderte – und später Großvater von Elon Musk wurde.

Wenn Lepore über die führenden Figuren des Silicon Valley heute schreibt, zieht sie Parallelen zu dieser Bewegung, findet vergleichbare, mitunter identische Motive. Eines davon ist, die als zu ineffizient, langsam oder ergebnisschwach empfundene traditionelle demokratische Entscheidungsfindung und öffentliche Verwaltung durch etwas Besseres zu überwinden. Referenz ist das Ergebnis, und nicht der Weg dorthin. Wichtiges Instrument ist die zunehmende unternehmerische Organisation politischer Institutionen – große privatwirtschaftliche Internetplattformen stellen Öffentlichkeit her, belohnen aber häufig weniger den sachlichen Austausch und Tatsachen als die manipulative Zuspitzung, Empörung oder Fiktionales.

Der Aufstieg des Künstlichen Staates

Sie problematisiert, wie viel auch politische Macht infolgedessen in den Händen einiger weniger Unternehmer liege. Und kontrastiert dies damit, wie beispielsweise das Internet einst erdacht wurde. Wie nicht nur der einflussreiche kalifornische Aktivist Stewart Brand sich einen dezentralen, kleinteiligen digitalen Raum vorstellte, weit weg von Washington, in dem alle Menschen so gleich wären, wie sie das tatsächlich nie wurden. Und wie die USA später, unter dem Präsidenten Bill Clinton und dem führenden Kongress-Abgeordneten Newt Gingrich, jene Internet-Gesetzgebung auf den Weg brachten, die zum Mitmach-Web mit seinen großen Plattformen führte, das heute alles mit allem verbindet.

Der zweite Abschnitt ihres Buches, der den Titel „Was Roboter wollen“ trägt, nimmt ausführlich Bezug auf die Science-Fiction und Philosophie, die sich mit der künstlichen Nachbildung des Menschen und dem Zusammenleben von menschenintelligenten Maschinen mit Menschen befassen. Lepore nutzt dies einerseits, um darzulegen, was der ideengeschichtliche Überbau der Tüftler und Techniker war und ist. Was inspirierte, was abschreckte, welche Perspektive wissenschaftlich weiterwirkte (etwa Descartes’ Sicht auf Tiere, Leben und Denken). Und wie Technik, Macht, Kontrolle und Kontrollverlust zusammengedacht wurden bis hin zur Spekulation darüber, ob eine Auslöschungsgefahr besteht, denn solche Warnungen gibt es nicht erst seitdem große KI-Modelle kompetent mit Sprache umgehen können.

Lepores Rückgriff aufs Literarische liegt auch darin begründet, dass trotz allen Fortschritts bislang keine humanoiden Roboter existieren wie C3PO oder Commander Data, keine KI, die sich selbst erhalten und autonom in der realen Welt agieren könnte. Lepore braucht die Spekulation, das Fiktive, um manche Warnung zu untermauern, weil das Empirische dafür fehlt.

Ihr beschreibendes Fazit ist dementsprechend niederschmetternd: „Der Künstliche Staat, in dem sehr viele Menschen nun begonnen haben zu leben, hat ihre Sicherheit und Zufriedenheit nicht gefördert; er ist ein Gefängnis, dessen Wände aus Spiegeln bestehen: leuchtende Bildschirme. In seinen Zellen gibt es keine Fenster, die sich zur Welt draußen öffnen, zum Meer und zum Himmel, zu Wäldern, Tälern, Inseln und Klippen. Von innen kann man keinen Ton hören, nicht das Rascheln der Tiere, nicht das Knacken von Ästen, nicht das Tosen der Wellen. Keine Weinrebe rankt sich unter der Tür hindurch. Kein Spinnennetz spannt sich in den Ecken.“ Ihr prognostizierendes Fazit ist dennoch zuversichtlich. Bestand haben werde dieser Künstliche Staat nicht. Eine „Elektronische Demokratie“, wie Asimov sie in seiner Kurzgeschichte erdenkt, sei nicht das Ende unserer Erzählung, da sei sie sicher. Das Scheitern sei im Grunde schon im Aufstieg des Künstlichen Staates angelegt.

Genau so ist dieses Buch zu verstehen: Lepore hat eine informative Warnung zur richtigen Zeit geschrieben. Eine, die glücklicherweise nicht stehen bleibt bei dieser oder jener neuen KI-Funktionalität, Schnittstelle, Rechenzentrumsinnovation oder Trump-Tirade. Dass sie das gedankliche Gegenstück zu ihrem Künstlichen Staat, die liberale Demokratie, dabei idealisiert, dass sie die segensreichen Folgen des technischen Fortschritts wesentlich ausblendet, stimmt zwar, kommt für diesen Zweck aber nicht in Betracht. Ihr Gefühl, dass etwas schiefläuft, dass die Menschheit technologisch an einem Kipppunkt angelangt ist, teilen immer mehr Beobachter und Bürger. In gewisser Hinsicht gleicht Lepore womöglich dem Romanhelden Hari Seldon aus der Asimov’schen Foundation-Reihe – sie kann eine kommende Katastrophe nicht abwenden, zeigt aber einen Weg, sie schneller zu überwinden.