Gigerenzer, Gerd (2021) Klick. Wie wir in einer digitalen Welt die Kontrolle behalten und die richtigen Entscheidungen treffen München: C. Bertelsmann.

Von Josef G. Böck für The Human Side of Business GmbH

Meine Erwartungshaltung an das neue Buch von Gerd Gigerenzer, das im englischen Original erst 2022 unter dem Titel How to Remain Smart in a Smart World bei Penguin in London erscheinen wird, war durch die mir bisher bekannte Arbeit des Psychologen und langjährigen akademischen Lehrers und Forschers geprägt. Vor allem seine Arbeiten zu Heuristiken und Risiko habe ich mit viel Gewinn gelesen. Erst jetzt ist mir bei der Durchsicht der Fußnoten und Bibliographie von Klick aufgefallen, wie lange er sich schon mit der Digitalisierung beschäftigt.

Meine Erwartungen wurden im Hinblick auf die psychologischen Mechanismen hinter digitaler Technik, vor allem von künstlicher Intelligenz, und ihrer Wirkung auf uns Menschen bestätigt. Im Hinblick auf die Erklärung der dahinterliegenden Technik wurden sie übertroffen. Das für ein breites Publikum geschriebene Buch vereint die Vermittlung von psychologischem Wissen, die von Gigerenzer aus anderen Publikationen bekannten Heuristiken, gesunden Menschenverstand und eine Vielzahl von kurzweilig präsentierten Statistiken und Forschungsergebnissen zu einem Buch, das auch Digitalisierungsexperten und mit der Materie grundsätzlich vertraute Manager und Unternehmer mit Genuss und Gewinn lesen können.

Das Buch ist in zwei großen Teilen organisiert. Der erste Teil ist überschrieben mit „Der Mensch und die KI“, in dem es um die Anwendungen geht, in denen wir KI begegnen. Im zweiten Teil „Es steht viel auf dem Spiel“ geht es darum, wie wir Menschen damit umgehen können.

Anhand von Partnerbörsen, Glücksspiel, selbstfahrenden Autos, Sozialkreditsystemen, Medizintechnik, Übersetzungssoftware, Rechtsprechung, Privatsphäre und Fake News erläutert er kompetent und verständlich die Technik hinter den unterschiedlichen Erscheinungsformen Künstlicher Intelligenz. Maschinelles Lernen, Umgang mit Sprache und Bildern, Bots, Big Data und vielen Algorithmen zur Muster- und Korrelationserkennung, denen wir inzwischen im Alltag begegnen, werden oft bis in ihre historischen Vorläufer hinein verfolgt und mit vielen anschaulichen Beispielen unterlegt.

Gigerenzer geht von einem sehr weiten Verständnis von KI aus, das „jeden Algorithmus einschließt, der leisten soll, was die menschliche Intelligenz leistet“ (S. 26). Indem er der menschlichen Intelligenz die Aufgabe zuschreibt, „die Welt zu repräsentieren, kausale Modelle zu konstruieren und anderen Lebewesen Absichten zuzuschreiben“ (S. 154), kann er sie gut von künstlicher Intelligenz abgrenzen, die all dies noch nicht kann. Ich hätte mir an manchen Stellen eine noch etwas ausführlichere Diskussion menschlicher Intelligenz gewünscht, weil viele öffentlich wahrgenommene Autoren zum Thema KI wie Tegmark oder Bostrom den Intelligenzbegriff so zuschneiden, dass die Messlatte für intelligente Maschinen nicht so hoch liegt wie bei Gigerenzer und demgemäß Computer schnell intelligent sind. Das gleiche gilt für den Begriff „Verstehen“, das Gigerenzer und viele anderen den Algorithmen absprechen und Branchengurus wie Ray Kurzweil aus ihrer Brille völlig anders sehen.

Gigerenzer belegt mit seiner Auswahl an Beispielen und deren Analyse, wie viele Technologen ihre Algorithmen als Zaubermaschinen präsentieren, die nur Computergenies verstehen können (S 106, S. 193). Dem stellt er Untersuchungen entgegen, die uns Leser auf dem Boden der aktuellen Tatsachen halten. Durch reine Statistik leitet Gigerenzer her, dass die Marketingaussagen von Partnerplattformen bei genauem Hinsehen hinter der Wahrscheinlichkeit liegen, im analogen Leben einen Partner oder eine Partnerin zu finden. Die Analyse von Übersetzungssoftware zeigt, dass der Umgang mit Geschlechtern immer noch ein ernstes Problem für all die Anbieter ist, die alle Sprachen zuerst von der Ursprungssprache ins Englische übersetzen bevor sie sie in der Zielsprache anbieten. Auf diesem Weg gehen wichtige Informationen verloren. Wenn Algorithmen große Menschenmengen auf gesuchte Straftäter hin durchsuchen, ist die Zahl der falsch positiven Meldungen so groß, dass viel zu viele Unverdächtige identifiziert und unangenehmen Überprüfungen unterzogen werden. Polizeiorganisationen verabschieden sich reihenweise von Software, die Orte von Verbrechen voraussagt, weil sie statistisch nicht besser ist als der gesunde Menschenverstand erfahrener Polizisten. Das sind nur ein paar Beispiele von unzähligen Ernüchterungen, die Gigerenzer in wissenschaftlichen Untersuchungen gefunden hat. Seit KI in den Händen von Unternehmen ist, die Geld damit verdienen wollen, beherrscht deren Marketing die Wahrnehmung von KI im Markt.

Diesen nüchternen Befund ergänzt er durch die gleichzeitig stattfindende Manipulation der Nutzer durch raffinierte Mechanismen, mit denen sie ihre persönlichen Daten preisgeben, möglichst lange auf den jeweiligen Plattformen gehalten werden und durch individualisierte Inhalte zu willfährigen Kunden werden. Gegen die von den KI Herstellern propagierte These, dass hinter ihren Produkten komplexe Algorithmen mit tausenden Regeln und unendlichen Datenmengen stecken müssen, weil nur so gute Ergebnisse erreicht werden können, stellt er die Forderung, dass öffentlich eingesetzte Algorithmen ihrem Wesen nach für Nutzer transparent sein müssen (S. 193). Darüber hinaus zeigt er an Beispielen, dass KI Unternehmen einen Nebel an Komplexität erzeugen, der durch Heuristiken zur Problemlösung, die aus wenigen Code-Zeilen bestehen können, oft besser gelöst werden könnten. Die zentrale Botschaft des Buches lautet, dass die Technik große Chancen bietet. Wir müssen dafür alle mit gesundem Menschenverstand auf KI schauen, um uns zum einen klar zu machen, dass wir mit unserem Nutzenverhalten den Überwachungskapitalismus befördern und auf der anderen Seite dürfen wir nicht aufgeben, Algorithmen verstehen zu wollen, mit denen wir konfrontiert sind.

Gigerenzers Grundthese lautet: Je besser definiert und je stabiler eine Situation ist, desto größer die Wahrscheinlichkeit, dass maschinelles Lernen … den Menschen übertreffen wird (S. 62). Gerd Gigerenzer liefert auf 350 Seiten einen tolle Diskussionsbeitrag, mit welchen Prämissen wir uns diesem Leistungsversprechen der KI-Entwickler nähern können. Eine davon ist, dass erfahrene und aufmerksame menschliche Kontrolleure umso entschiedener Systeme überwachen müssen, je automatisierter und autonomer sie arbeiten (S. 307). Unternehmer und Manager sollten da für ihre Verantwortungsgebiete ganz vorne dabei sein.

Die PDF-Version der Rezension Gigerenzer 2021 Klick können Sie über diesen Link herunterladen.