Seit seinem Welterfolg “Sapiens” (2013) ist jede Buchveröffentlichung des israelischen Historikers HARARI ein weltweit beachtetes Ereignis: intellektuell, literarisch, medial, politisch. Der Autor ist so etwas wie ein Global-Intellektueller geworden, der nicht nur auf YouTube mit Hunderten Interviews und Vorträgen präsent ist, sondern dem auch die mächtigsten Entscheider in Wirtschaft und Politik ihre kostbare Aufmerksamkeit schenken.
Schon in seinem Buch “Homo Deus” (2016) hat sich HARARI mit der technologischen Zukunft und ihren möglichen Auswirkungen befasst. Seine Prognosen über die Weiterentwicklung des Menschen durch biotechnische und digitale Hilfsmittel und Eingriffe hat viele Menschen so aufgeschreckt, dass sie den Überbringer der Botschaft mit den Inhalten verwechselt haben: Bestimmte Kreise unterstellten dem Autor, er sei ein unkritischer oder gar enthusiastischer Befürworter all dieser Zukunftsszenarien.
Wenn auch diese Interpretation schon damals abwegig war (was man dem Text unschwer entnehmen konnte), so ist dieses Missverständnis im “Nexus” ausgeschlossen: Dieses Buch ist eine einzige Warnung.
Man ahnte es natürlich schon: Wenn sich jemand wie HARARI mit einem neuen Buch in den aktuellen Diskurs einschaltet, kann es nur um ein, um DAS Thema der Stunde gehen: die Künstliche Intelligenz (KI). Der Autor tut es auf seine Weise, er tut es als Historiker. Bei ihm geht es nicht um die technischen Aspekte der KI-Revolution; er setzt diese Zeitenwende in den vergleichenden Kontext früherer Informationsnetzwerke: der mündlichen Überlieferung, der Schrift, des Buchdrucks, der Massenmedien (Radio und TV) und des Internets. Es geht ihm um das Verständnis der Gegenwart mithilfe der Analyse der Vergangenheit, es geht – wiederum – um die ganz weite Perspektive, um den großen Wurf.
Dabei nimmt HARARI die Rolle ein, die ihm so gut steht: die des Welterklärers.
Am Anfang und im Zentrum seines Geschichtsbildes steht der Mensch als soziales Wesen, der aufgrund seiner besonderen Fähigkeiten zur Kooperation in großen Gruppen die Macht über unseren Planeten übernommen hat. Er arbeitet heraus, dass die entscheidende Variable dabei schon immer aus “Information” bestand; sie war und ist die Grundsubstanz in Mythen, Religionen, Wissenschaft, Wirtschaft und Machtsystemen.
Dabei begrenzen Struktur und Leistungsfähigkeit der Wege (Netzwerke), durch die Information verbreitet wurde und wird, deren Möglichkeiten: So setzt die Verwaltung eines mittelalterlichen Imperiums oder die moderne Totalüberwachung einer Bevölkerung jeweils bestimmte (technische) Hilfsmittel voraus, also eine gewisse Qualität des eingesetzten Informationsnetzwerkes.
Nach der historischen Analyse des ersten Buchteiles, konzentriert sich HARARI im zweiten Teil darauf die Besonderheiten der digitalen, auf Computer basierten Informationsnetzwerke. Dabei sieht er nochmals einen qualitativen Sprung zwischen zwischen den – schon extrem folgenreichen und gefährlichen – Algorithmen der Social-Media-Welt und den letztlich unbegrenzten Kapazitäten der KI, die dem Menschen auch noch die Schöpfung neuer Ideen und das autonome Entscheiden abzunehmen droht.
In aller Ausführlichkeit stellt HARARI die Risiken einer unkontrollierten und unregulierten Übertragung von Kontrolle und Macht an KI-basierte Informationsnetzwerke dar. Dabei geht es ihm nicht um spektakuläre Science-Fiction-Szenarien mit waffenstarrenden Kampfrobotern, sondern um den schrittweisen Rückzug des Menschen aus der Verantwortung für weitreichende soziale, ökonomische und militärische Entscheidungen.
HARARI hat eine eindringliche Sprache und eine wirksame Didaktik, deren Wirkung man sich nur schwer entziehen kann. Seine Thesen formuliert er sehr prägnant und verständlich, lässt ihnen dann ein paar sehr gut nachzuvollziehende Beispiele folgen und wiederholt dann die – jetzt plausibel untermauerte – Aussage. Da ist ohne Zweifel fast immer überaus überzeugend.
Da der Autor sich als Historiker in der Grauzone zwischen Fakten und Interpretationen bewegt, wird nicht immer ganz deutlich, ob man sich gerade einer wissenschaftlichen Tatsache oder einer Meinung anschließt. Nur wenn man selbst in einem Punkt eine sehr klare Überzeugung hat, fällt auf, dass man diese spezielle Sache ja tatsächlich auch anders sehen könnte: So könnte man z.B. durchaus der Meinung sein, dass die Bekämpfung des Klimawandels nicht zu den Punkten gehören, die dem demokratischen Spiel der Kräfte überlassen werden sollte/müsste. (Natürlich ist HARARI kein Klimawandel-Leugner; er verteidigt nur sehr vehement die Demokratie).
Der Autor begründet seine doch sehr einseitige Konzentration auf die Risiken der KI-Revolution in der Regel damit, dass die andere Seite (die Vorzüge und Chancen) schon genug Fürsprecher hätten – insbesondere durch die Menschen und Institutionen mit wirtschaftlichen Interessen. Es ist fraglich, ob HARARI damit sich und diesem Buch wirklich einen Gefallen tut.
Einer so grundsätzlichen und gründlichem Analyse, die in der nächsten Zeit den internationalen Diskurs prägen wird, hätte es sicher gutgetan, wenn auch den Potentialen der KI etwas mehr Beachtung geschenkt worden wäre – über ein paar Alibi-Bemerkungen hinaus. HARARI wird ja nicht müde, auf die großen, ungelösten Menschheitsprobleme hinzuweisen. Statt die KI einseitig in die Liste der apokalyptischen Bedrohungen mit aufzunehmen, hätte auch die These Aufmerksamkeit verdient, dass KI den vielleicht einzig realistischen Lösungsansatz für genau diese Herausforderungen zu bieten haben könnte. Auch dafür haben schlaue Leute schon gute Argumente geliefert. Gut: HARARI erwähnt das, beschäftigt sich aber damit nicht wirklich. Schade!
Ein wenig problematisch erscheint auch, dass der Autor bei der Diskussion einzelner KI-Risiken die Ebenen nicht immer ganz sauber auseinander hält. So schreibt er es immer wieder mal der KI auf die Fehlerliste, wenn sie aufgrund mangelhafter Ausgangsdaten oder einer unüberlegter Zieldefinition problematische Ergebnisse produziert. In gewisser Weise wird in solchen Beispielen der KI vorgeworfen, dass sie tut, was sie tun soll. Wenn z.B. die KI aus den Personal-Daten bisher erfolgreicher Bewerber herausliest, dass das männliche Geschlecht offenbar ein bedeutsamer Faktor darstellt, kann man das nicht ernsthaft der KI vorwerfen. Soll sie Muster übersehen, die sie in den Daten findet? Wenn sie das soll, dann muss man ihr das eben mit auf den Weg geben – statt über ihre Voreingenommenheit zu klagen.
Natürlich hat HARARI Recht, wenn er auf das Prinzip der menschlichen Kontrolle und Verantwortung hinweist; wenn er die Probleme beschreibt, die sich daraus ergeben, dass die Entscheidungsalgorithmen sich einer menschlichen Nachvollziehbarkeit immer mehr entziehen. Doch zum Gesamtbild gehört ja auch, dass es ja gerade die Stärke der KI ausmacht, dass sie Muster erkennt und berücksichtigt, die für menschlichen Logiken nicht erreichbar sind.
“Nexus” wird mit Sicherheit ein weltweiter Mega-Bestseller – in großem Umfang sicher auch zu recht. Vermutlich wird er aber weniger unwidersprochen bleiben, als HARARIs frühere Bücher. KI ist das Thema der Stunde, der nächsten Jahre und Jahrzehnte. Die Stimme des bekannten und geschätzten Autors wird gehört werden, aber sicher weniger exklusiv.
Er hat eine Facette kompetent und erhellend beleuchtet: die historische Einbettung. Für die Fragen von Chancen und Risiken der KI wird er eine Stimme von vielen bleiben.
Du möchtest das Buch kaufen?
Mach Amazon nicht noch reicher und probiere mal den “Sozialen Buchhandel”, der aus jeder Bestellung eine kleine gemeinnützige Spende macht. Der Preis für dich ändert sich dadurch nicht; die Lieferung erfolgt prompt. Klicke einfach auf das Logo.
Oder unterstütze einen kleinen Buchladen vor Ort.
