Schlagwort: Künstliche Intelligenz

„Ein Sachbuch, so anregend, dass man dazu tanzen möchte!“ Das schrieb der Rezensent Denis Scheck über den 2017 erschienenen Bestseller „Homo Deus“ des israelischen Historikers Yuval Noah Harari, in dem dieser „Eine Geschichte von Morgen“ skizziert.  Damit hat Schreck gewiss recht, doch vergaß er zu erwähnen, auf welche Musik da getanzt wird. Ist es ein beschwingter Swing in die Zukunft, ein Trauermarsch ins Nichts oder doch eher ein betäubender Drum-and-base-Sound ins Koma?

Nun gilt für Prognosen bekanntlich das Bonmot von Karl Valentin, dass sie schwierig sind, besonders wenn sie sich auf die Zukunft beziehen. Unbestritten dürfte indes sein, dass die technische Revolution an der Schwelle des dritten Jahrtausends gerade erst begonnen hat. Lesen Sie in diesem Beitrag, welches Szenarium Harari für die Zukunft entwickelt, wie sich darin unser Menschenbild verändern könnte und warum das Körper-Geist-Problem dabei eine zentrale Rolle spielt. (Alle Zitate in diesem Text stammen, soweit nicht anders gekennzeichnet, aus Hararis Buch Homo Deus. Bei längeren Zitaten ist die Seitenzahl angegeben.)

Der wichtigste Begriff der Welt

Habe Sie schonmal darüber nachgedacht, was für ein Algorithmus Sie sind?  Wenn nicht, sollten Sie das schleunigst nachholen, denn „‚Algorithmus‘ ist vermutlich der wichtigste Begriff in unserer Welt“ und Sie sind einer – so wie alle anderen Organismen übrigens auch. So fasst Harari sehr prägnant aber durchaus treffend das aktuell gültige Bild zusammen, das die Wissenschaft vom Menschen und „den anderen Tieren“ zeichnet. Was genau meint er damit?

Algorithmen sind zunächst bekannt aus der Informatik, wo sie Rechenoperationen steuern. Allgemeiner betrachtet ist ein Algorithmus aber einfach eine „methodische Abfolge von Schritten, mit deren Hilfe […] Probleme gelöst und Entscheidungen getroffen werden können“. Sie erledigen also genau jene Aufgaben, mit denen Organismen ständig konfrontiert sind. Allerdings gilt das nicht nur für Organismen. Auch Getränkeautomaten funktionieren auf der Basis von Algorithmen, wenn sie uns zum Beispiel eine Tasse Tee zubereiten. Algorithmen steuern also Prozesse über die Subjekte (Teeautomaten, Organismen) mit ihrer Umwelt interagieren. Insofern gilt:

„Menschen sind Algorithmen, die nicht Tee oder Kaffee produzieren, sondern Kopien ihrer selbst (also eine Art Getränkeautomat, der, wenn man die richtigen Tasten drückt, einen weiteren Getränkeautomaten produziert).“ (S. 135)

Daran wird auch klar, dass es Algorithmen sind, die einen Organismus zu einem solchen machen, und nicht etwa die Substanzen, aus denen dieser zusammengesetzt ist. Ein Mensch besteht aus rund 42 kg Sauerstoff, 21 kg Kohlenstoff, 7 kg Wasserstoff, 1,5 kg Stickstoff, 1 kg Calcium und noch ein paar anderen Elementen. Aber wenn wir all diese Stoffe im Labor in einem großen Gefäß vermischen, bekommen wir keinen Menschen. „Menschsein“ steckt in der Struktur, die diese Atome miteinander bilden, in der Art und Weise, wie sie untereinander und mit der Umwelt interagieren und den Prozessen, die dabei ablaufen. All das wird von Algorithmen gesteuert.

Das gilt übrigens auch – Romantiker müssen jetzt tapfer sein – für Gefühle. Sie sind „biochemische Algorithmen“ die sich im Laufe der Evolution entwickelt und optimiert haben und unser Verhalten steuern. Ein Pavian, der eine Banane in der Nähe eines Löwen erspäht, ist zwischen den Gefühlen „Hunger“ und „Angst“ hin- und hergerissen. Ein komplexer Algorithmus führt eine Abwägung zwischen den Gefahren „verhungern“ und „gefressen werden“ durch, wobei er die Umstände der konkreten Situation (Daten!) berücksichtigt, d. h. verarbeitet. Schließlich kommt es zu einer Entscheidung, indem eines der Gefühle die Oberhand behält.

Die Umbrüche des Anthropozän

So weit das Menschenbild der Naturwissenschaft wie Harari es in seinem Buch referiert. Wir kommen später darauf zurück, doch zunächst zu den historischen Entwicklungen, die er nachzeichnet und schließlich extrapoliert.

Harari sieht im Anthropozän, dem Zeitalter des Menschen, das vor rund 70 000 Jahren begann, bisher zwei große Umbrüche. Der erste bestand im Sesshaft werden, im Übergang vom Jäger und Sammler zum Bauer. Damit verließ der Mensch nämlich das „Parlament der Lebewesen“ und stellte sich über seine Mitgeschöpfe, indem er zum Beispiel Tiere domestizierte. Daher ist es kein Zufall, dass zu selben Zeit auch die großen Religionen entstanden. Sie rechtfertigten die Sonderstellung des Menschen, erlaubten ihm die Nutzung (und Ausbeutung) der „anderen Tiere“ und gaben seinem Dasein einen höheren Sinn. Das Universum war nun kein Organismus mehr, sondern eine große Bühne für die beiden Hauptdarsteller: Mensch und Gott. Der Mensch hatte damit seine Mitwelt in gewissem Sinne „zum Schweigen gebracht“ und verhandelte nun nur noch mit den Göttern.

Beim zweiten großen Umbruch – der wissenschaftlichen Revolution – wurde es dann noch einsamer um den Menschen. Mit der Vorstellung, dass das Universum in einem, zwar bestimmten Gesetzen folgenden, aber dennoch sinn- und ziellosen Prozess entstanden ist, entledigte er sich auch der Götter.

„Die Welt war nunmehr eine One-Man-Show. Die Menschheit stand ganz allein auf einer leeren Bühne, sprach mit sich selbst, verhandelte mit niemandem und erwarb enorme Macht ohne irgendwelche Verpflichtungen.“ (S. 155)

Doch das Erlangen von Macht hatte einen Preis: Den Verlust von Sinn. Der Hoffnung auf ein Jenseits und die tröstliche Vorstellung, dass Katastrophen und Schicksalsschläge letztlich einer höheren Einsicht folgen, gingen verloren.

„Die moderne Kultur lehnt diesen Glauben an einen großen kosmischen Plan ab. Wir sind keine Darsteller in irgendeinem Drama, das größer ist als das Leben […] Die moderne Welt glaubt nicht an einen Zweck, sondern nur an eine Ursache.“ (S. 313)

„Der moderne Pakt“ lässt sich daher nach Harari in einem sehr einfachen Satz zusammenfassen:

„Die Menschen stimmen zu, auf Sinn zu verzichten, und erhalten im Gegenzug Macht.“ (S. 311)

Sehnsucht nach Sinn – der Humanismus

Ein verlockendes Angebot, doch der Preis erwies sich als zu hoch. Es mag einzelne Geister geben, die in der Lage sind, Sinnlosigkeit zu ihrer Sache zu machen und im Nihilismus aufzugehen, um schließlich in geistiger Umnachtung zu sterben. Das Gros der Menschen ist mit Sinnlosigkeit schlicht überfordert und Gesellschaften lassen sich damit schon gar nicht organisieren geschweige denn zufriedenstellen. Der Mensch wählte daher den einzig möglichen Ausweg: Wenn dem Universum kein Sinn mehr zu entnehmen war, so musste er aus dem Menschen selbst kommen. Das bedeutet aber nichts anderes, als dass der Mensch die Stellung einnahm, die vorher Gott innehatte, es war die Vergottung des Menschen. Der Humanismus war geboren.

Wie Harari bemerkt, erfährt die Sinngebung damit eine „Rollenverteilung“ (man könnte auch von einer Richtungsumkehr sprechen). Traditionell erzeugte der kosmische Plan im Menschen eine Sinnerfahrung. Nun muss die innere Erfahrung des Menschen dem Kosmos – oder wenigstens der näheren Umgebung – einen Sinn verleihen.

„Das ist das Hauptgebot, das uns der Humanismus mit auf den Weg gegeben hat: Gib einer sinnlosen Welt einen Sinn.“ (S. 345)

Wie aber erzeugt der Mensch Sinn? Die Antwort lautet: Indem er neben der objektiven und der subjektiven Realität „eine dritte Ebene der Wirklichkeit“ kreiert: die intersubjektive. Die objektive Realität umfasst Dinge, die unabhängig von uns existieren (Berge, das Wetter, die Schwerkraft, die DNA), während die subjektive Realität von unserem persönlichen Erleben abhängt (Träume, Schmerz oder – noch typischer – Phantomschmerz). Die meisten Dinge, mit denen wir uns im Alltag beschäftigen, gehören jedoch keiner dieser beiden Kategorien an. Religionen, Währungen, Nationen, Ideologien, Architektur, Musikstile, Kunst, Bräuche, etc. existieren weder unabhängig von uns noch nur in uns. Es sind Fiktionen, intersubjektive Entitäten und sie sind es, die unsere Welt vorantreiben und ihr Sinn verleihen.

Gold, bedrucktes Papier oder die Schallwellen, die eine Gitarre aussendet, existieren objektiv, doch sie sind sinnlos, solange wir uns nicht darauf einigen, dass Gold schön, ein Geldschein wertvoll und Gitarrenklänge Musik sind. Erst durch solche Zuschreibungen erhalten die Dinge eine Bedeutung. Daher sind Schönheit, Wert und Musik intersubjektive Entitäten. Mit solchen Zuschreibungen weben Menschen am „Geflecht des Sinns“ und Geschichte entsteht. Sie können unser Leben stärker beeinflussen als objektive Dinge – ein Krieg kann verheerender sein als eine Naturkatastrophe, ein Musikstück kann uns eine stärkere Gänsehaut verursachen als ein kühler Wind. Harari glaubt, dass die intersubjektive Realität die Objektivität im 21. Jahrhundert vollends verschlingen könnten.

Die Vergottung des Menschen und die Betonung subjektiver Zuschreibungen führt nun dazu, dass im Humanismus „die menschliche Erfahrung die oberste Quelle von Autorität und Sinn ist“. Das wird insbesondere (aber nicht nur) im Liberalismus, einer politischen Spielart des Humanismus deutlich. Die oberste Autorität ist nicht mehr der von Gott eingesetzte König, sondern der Wähler, der aus seiner Erfahrung heraus frei (!) entscheidet, wem er seine Stimme gibt. In ästhetischen Fragen gilt nicht mehr, dass Kunst der Verherrlichung Gottes zu dienen hat, sondern dass Schönheit im Auge des Betrachters liegt. Anything goes – solange es sich gut anfühlt, darf alles zu Kunst erklärt werden. In moralischen Angelegenheiten gilt der Maßstab „Wenn es sich gut anfühlt, tu es“ oder – etwas reflektierter – „Tu das, wobei sich möglichst viele gut und möglichst wenige schlecht fühlen“. Das Primat des Fühlens zieht sich durch alle Bereiche, bis hin in die Ökonomie, wo die freie Wahl des Verbrauchers die oberste Autorität ist.

Der Widerspruch

Das führt uns zum zentralen Widerspruch, den Harari in seinem Buch aufdeckt. Die wissenschaftliche Revolution hat einerseits zum Humanismus geführt, in dem das Empfinden und die freie, bewusste Entscheidung des Einzelnen die oberste Autorität darstellt. Andererseits hat ebendiese wissenschaftliche Revolution ein Menschenbild hervorgebracht, das genau diese zentralen menschlichen Eigenschaften nicht erklären kann, ja deren Existenz sogar in Zweifel zieht. Wir erinnern uns: Menschen sind Algorithmen. Die alarmierende Frage, die gestellt werden muss, lautet daher: Was wird aus dem Humanismus, wenn sich diese Zweifel bewahrheiten sollten? Oder, um es mit Hararis Worten zu sagen:

„Was also wird passieren, sobald wir merken, dass Konsument und Wähler niemals freie Entscheidungen treffen, und sobald wir über die Technologie verfügen, um ihre Gefühle zu berechnen, zu beeinflussen oder zu überlisten?“ (S. 427)

Das Körper-Geist-Problem

Ist es Ironie des Schicksals, dass die modernsten Entwicklungen eines der ältesten Probleme aus der Mottenkiste holen? Oder war es vielleicht gar nie in jener Kiste und man hatte es nur verdrängt? Das Körper-Geist-Problem hat verschiedene Namen über die nicht nur auf diesem Blog schon viel geschrieben wurde: Leib-Seele-Problem, Geist-Gehirn-Problem, Qualiaproblem, schwieriges Problem oder Hard Problem of Conciousness. Natürlich widmet ihm auch Harari ein Kapitel. Es geht um die Tatsache, dass einerseits unser Bewusstseinsstrom …

„… die konkrete Wirklichkeit [ist], die wir in jedem Augenblick unmittelbar erleben. Er ist so ziemlich das Sicherste der Welt. Seine Existenz lässt sich schlicht nicht bezweifeln.“ (S. 170)

Andererseits ist es aber so, dass …

„… die Wissenschaft erstaunlich wenig über Geist und Bewusstsein [weiß]. Die gängige Lehrmeinung behauptet gegenwärtig, Bewusstsein entstehe durch elektrochemische Reaktionen im Gehirn […] Niemand weiß jedoch so recht zu sagen, wie eine Ansammlung biochemischer Rektionen und elektrischer Ströme im Gehirn die subjektive Erfahrung von Schmerz, Wut oder Liebe erzeugt.“ (S. 172)

Harari skizziert in seinem Buch als Beispiel die neuronalen Vorgänge, die dazu führen, dass ein Mensch vor einem Löwen flieht und illustriert daran, dass dieser Ansatz, sofern er der Erklärung des Bewusstseins (im Sinne von Qualia) dienen soll, eine geradezu tragikomische Ironie birgt, denn:

„Je genauer wir diesen Prozess nachzeichnen können, desto schwerer wird es, bewusste Gefühle zu erklären. Je besser wir das Gehirn verstehen, desto überflüssiger wirkt der Geist. Wenn das gesamte System mittels elektrischer Impulse funktioniert, die von hier nach dort fließen, warum müssen wir dann auch noch Angst empfinden?“ (S. 177)

Eine Aufklärung des Algorithmus liefert eben keine Erklärung für das Bewusstsein und schon gar nicht des freien Willens. Der naturalistische Erklärungsansatz befindet sich offenbar in einer Sackgasse. Nicht besser sieht es mit – in der Wissenschaft ohnehin verpönten – dualistischen Erklärungsansätzen aus, die das Problem der Interaktion von zwei Entitäten haben (siehe auch Bieri-Trilemma). Und leider vermögen auch die neueren Ansätze der Strukturrealisten, die das Bewusstsein nicht im Gehirn, sondern in den Interaktionsprozessen zwischen Individuum und Umwelt verorten, den gordischen Knoten nicht zu durchtrennen, denn was sind diese Interaktionsprozesse anderes als die erwähnten Algorithmen? Dazu kommt, dass keine der drei angesprochenen Gruppen bisher in der Lage ist, überzeugende empirische Nachweise für den jeweiligen Standpunkt zu erbringen. So haben die Naturalisten das Körper-Geist-Problem ignoriert, die Dualisten haben es mystifiziert und die Strukturrealisten trivialisiert. Doch keiner hat es bisher gelöst.

„Die große Entkopplung“

Wir wissen also nicht, wie Bewusstsein entsteht. Genau genommen wissen wir nicht einmal, was Bewusstsein eigentlich ist. Man könnte dies als abgehobene philosophische Frage abtun, wäre da nicht ein Problem, das sehr real ist, weil wir es inzwischen beobachten können: Intelligenz scheint sich von Bewusstsein (was immer das nun genau sei) abzukoppeln.

Über Jahrtausende schien es eine ausgemachte Sache: Intelligenz ist umso größer, je bewusster ihr Träger ist. Ein Neugeborenes ist zunächst einer Hauskatze intellektuell unterlegen, doch schon nach Monaten überholt es den vierbeinigen Hausgenossen. Spätestens wenn es sich im Spiegel erkennt (Bewusstwerdung) ist es ihm in allen kognitiven Fähigkeiten überlegen. Doch genau dieser Zusammenhang scheint bei künstlicher Intelligenz (KI) nicht mehr zu gelten.

„In den letzten Jahrzehnten gab es in Sachen Computerintelligenz ungeheure Fortschritte, doch was das Bewusstsein von Computern angeht, tat sich im Grunde nichts.“ (S. 476)

Als der IBM-Computer Deep Blue 1997 erstmals einen amtierenden Schachweltmeister, damals Garri Kasparov, schlug, konnte man das noch mit dem Hinweis abtun, dass Schach von seiner Machart her ein ideales Spiel für KI war. Als dann Watson (ebenfalls IBM) 2011 die Quizshow Jeopardy! gewann, war das nicht mehr so einfach, denn für diese Show musste man beispielsweise mit Wortspielen umgehen – eine sehr menschliche Fähigkeit, sollte man meinen. Dennoch glaubt niemand ernsthaft, dass Watson verstanden hat, was er da erzählte, denn er suchte einfach in riesigen Datenbanken nach Texten mit der entsprechenden Formulierung und wählte dann in deren Umfeld die wahrscheinlichste Antwort aus (Stichwort „big data“). Inzwischen hilft Watson mit ähnlichen Methoden bei der Diagnose von Krankheiten und stellt dabei viele seiner menschlichen Kollegen in den Schatten. Ebenfalls 2011 eröffnete in San Francisco übrigens eine Apotheke, die von einem einzigen Roboter betrieben wird.

Das sind nur einige Beispiel, die zeigen, wohin die Reise geht. Angesichts dieser neuen „Formen nicht-bewusster Intelligenz“ scheint die Frage berechtigt, ob zur „Superintelligenz womöglich verschiedene Wege [führen], von denen nur einige durch die Straße des Bewusstseins müssen.“

Das Ende von „Wie war ich?“

Es geht um mehr als verletzten Stolz. Wir haben uns inzwischen daran gewöhnt, dass die KI uns in immer mehr Bereichen den Rang abläuft und nutzen die uns daraus erwachsenden Vorteile. Das ist auch in Ordnung. Doch die Frage, die auch Harari am Ende seines Buches als eine der „drei Schlüsselfragen“ seinem Leser mitgibt, bleibt bestehen:

„Sind Organismen wirklich nur Algorithmen, und ist Leben wirklich nur Datenverarbeitung?“ (S. 608)

Oder was, wenn wir durch KI erst zu Algorithmen gemacht werden? Dazu noch ein – vielleicht – kurioses Beispiel aus Hararis Buch. Die Firma Bedpost verkauft

„biometrische Armbänder, die man während des Geschlechtsverkehrs tragen kann. Dieses Armband sammelt Daten wie etwa Puls, Schweißproduktion, Dauer des Geschlechtsverkehrs, Dauer des Orgasmus und Zahl der dabei verbrauchten Kalorien. Diese Daten werden in einen Computer eingespeist, der die Informationen analysiert und Ihre Leistung anhand präziser Zahlen eingestuft.“ (S. 509)

Also nichts mehr von wegen „Wie war es für dich?“ oder „War ich gut?“. Man mag darüber lachen und vielleicht auch dieser speziellen Frage keine Träne nachweinen, doch das Entscheidende ist etwas anderes.

„Menschen, die sich unablässig über solche Apparate vermittelt erleben, betrachten sich vermutlich schon bald selbst als eine Ansammlung biochemischer Systeme und weniger als Individuen […]“ (S. 509)

Könnte das wissenschaftlich-physikalistische Weltbild, das uns erklärt, wir wären nichts anderes als Algorithmen so zu einer selbsterfüllenden Prophezeiung werden?

Man spricht manchmal vom Gutenberg-Gap. Damit ist das Zeitalter des Lesens gemeint, die fünfhundert Jahre zwischen den beiden Erfindungen Buchpresse und Smartphone. In dieser Zeit musste man lesen, um an der Gesellschaft teilzunehmen. Vor der Buchpresse ging das noch nicht, weil es schlicht zu wenig zu lesen gab. Seit dem Smartphone braucht man es nicht mehr, da man sich alle Informationen auch vorlesen lassen oder auf Videos anschauen kann.

Gibt es vielleicht auch ein Descartes-Gap, ein Zeitalter des Bewusstseins? René Descartes hat mit seinem berühmten Satz „Ich denke, also bin ich!“ das Bewusstsein quasi zum Macher des menschlichen Individuums befördert, das dann schließlich den Humanismus hervorbrachte. Was aber, wenn wir immer mehr Hirnarbeit der KI überlassen, weil die das besser, schneller oder einfach für uns bequemer erledigt? Heißt es dann „Ich lasse denken, also bin ich nicht mehr?“

Das sollten wir uns überlegen, solange wir es noch können.