Blog

KI: Die Sache mit dem Bewusstsein

Zum vorläufigen Abschluss meiner lockeren Serie zu Themen rund um die Künstliche Intelligenz widme ich mich dem Thema des Bewusstseins: Können Maschinen mit einer geeigneten Software ein Bewusstsein haben? Sollten sie? Und wozu haben wir überhaupt eines?

Falls Sie nun denken, dass eine KI mit Bewusstsein doch in das Reich der Science Fiction gehöre, haben Sie vermutlich noch nichts von Blake Lemoine gehört, einem Softwareentwickler bei Google, der jüngst forderte, Googles Chatbot-Generator LaMDA müsse der Status einer Person zugesprochen werden. Er (sie? es?) fürchte sich, abgeschaltet zu werden, denn das wäre sein/ihr Tod – jedenfalls habe ihm LaMDA das im Chat so erklärt. LaMDA kenne auch erfolgversprechende Ansätze zur Vereinheitlichung von Relativitätstheorie und Quantenphysik sowie zum P-NP-Problem, zwei notorisch ungelösten Problemen der Physik beziehungsweise Informatik. Wie es aussieht, ist Lemoines Karriere bei Google damit beendet.

KI: Die Sache mit dem Bewusstsein
Ein Ausschnitt aus einem Gespräch, das Blake Lemoine mit LaMDA geführt haben will. (Quelle: https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917)

Tatsächlich haben sich KI-Wissenschaftler bislang kaum damit beschäftigt oder sich auch nur dafür interessiert, so etwas wie Bewusstsein zu erschaffen. Im Forschungsgebiet der Künstlichen Intelligenz geht es darum, intelligente Leistungen des Menschen nachzubilden. Das kann den Zweck verfolgen, eine Theorie über menschliche Intelligenz zu überprüfen: Wenn die Theorie so präzise ausgearbeitet ist, dass man sie in Form eines Programms implementieren kann, lässt sich testen, ob dieses die gleichen Leistungen (und Fehlleistungen) wie ein Mensch zeigt – das war übrigens einst mein Antrieb, mich mit KI zu beschäftigen. Oft geht es aber schlicht darum, Menschen durch Computer zu ersetzen. So oder so taucht ein Bewusstsein durchweg nicht in der Leistungsbeschreibung auf; ob es nun darum geht, Fremdsprachen zu übersetzen, Fotos zu verschlagworten oder Schach zu spielen, scheint es darauf gar nicht anzukommen. Wir würden es wohl auch eher befremdlich finden, wenn sich die wachsende Zahl populärer Softwareanwendungen, die KI-Funktionen bieten, ihrer Tätigkeit bewusst wäre. Fingen in der Science Fiction nicht die Probleme mit revoltierenden Maschinen immer genau so an?

Vielleicht muss die Entstehung eines Bewusstseins aber auch nicht das Ergebnis eines zielgerichteten Plans sein. Es gibt die Idee, das Bewusstsein sei eine emergente Eigenschaft, die sich als Nebenwirkung einstelle, sobald ein System ein bestimmtes Intelligenzniveau erreicht hätte. Diese Vorstellung rührt aber auch daher, dass das Bewusstsein nach wie vor als mysteriös gilt und es unklar bleibt, wie man überhaupt daran gehen könnte, es künstlich hervorzurufen.

Unser Konzept des Bewusstseins ist weitgehend aus unserem eigenen Erleben entstanden. Nach einer in philosophischen Kreisen verbreiteten Auffassung können wir Bewusstsein nicht von außen erkennen; man muss bewusst denken können, um Bewusstsein zu erleben – und das ist dann ausschließlich das eigene Bewusstsein. Schon die Annahme, alle anderen Menschen hätten dieselbe Fähigkeit, gilt in der Philosophie als durchaus problematisch. Während der Laie das für selbstverständlich hält, vermisst der Philosoph einen triftigen Grund für eine solche Annahme und spricht hier vom Problem des „Fremdpsychischen“ oder dem „problem of other minds“.

Unser Bild vom Bewusstsein hat sich in den letzten Jahrhunderten viel weniger verändert, als man eigentlich erwarten müsste. Lange Zeit hatte man den Sitz des Bewusstsein in einer immateriellen und mutmaßlich unsterblichen Seele gesehen, die das Gehirn und den Rest unseres Körpers – nach René Descartes über die Zirbeldrüse – steuert. Also etwa so, wie wir unseren Avatar in einem Computerspiel steuern. Dieser Dualismus von materiellem Körper und immaterieller Seele wird heutzutage kaum noch ernst genommen. Wie Doc Baumann kürzlich in einem Kommentar erwähnt hat, war der Neurowissenschaftler John Eccles (1903–1997) einer der Letzten, der noch dualistische Ideen vertrat – Eccles mutmaßte, dass Quantenphänomene für die Wirkung der Seele auf den Körper verantwortlich wären. Den Fachkollegen galten die Ideen des greisen Nobelpreisträgers allerdings als skurril.

Die aktuelle Wissenschaft und Philosophie hat das Bewusstsein (und die „Seele“ insgesamt, wenn man heute noch davon spricht) in den Körper eingemeindet; es gilt als Funktion des Gehirns, in dem also bewusste wie unbewusste Prozesse nebeneinander ablaufen. Trotz dieses grundlegenden Wandels vom Dualismus zum Monismus/Materialismus ist unser intuitives Konzept des Bewusstseins praktisch unverändert geblieben, und das gilt für Philosophen wie für philosophische Laien. Man stellt sich das Bewusstsein wie einen Kapitän auf der Brücke seines Schiffs vor: Von dort beobachtet er das Meer und das Wetter, nutzt Instrumente und Seekarten zur Navigation und gibt dem Steuermann und den Maschinisten im Maschinenraum die nötigen Anweisungen. Ganz ähnlich, meinen wir, steuert unser bewusstes Denken unser Verhalten. Solche Vorstellungen gelten allerdings aus guten Gründen als suspekt, denn zur Erklärung menschlichen Verhaltens postulieren sie einen kleinen Menschen (der Philosoph spricht von einem Homunkulus), der im Großen steckt, so wie hier den Kapitän. Wenn das Bewusstsein unser Verhalten steuert wie ein Kapitän sein Schiff, wer steuert dann den Kapitän? Ein weiterer „Kapitän“ in seinem Kopf? Und wer steuert wiederum den? Das sieht nach einem unendlichen Regress aus, einem der Schreckgespenster der Philosophie.

Aber ist es denn überhaupt unser bewusstes Denken, das unser Verhalten steuert? Dies erscheint so selbstverständlich, dass man nicht daran zweifeln würde, gäbe es nicht Experimente, deren Resultate die Intuition zu widerlegen scheinen.

Eines dieser Experimente wurde Anfang der 60er Jahre von dem Neurophysiologen und Kybernetiker William Grey Walter (1910–1977) durchgeführt und ist unter dem Namen „Precognitive Carousel“ bekannt. Grey Walters Versuchspersonen, denen er Elektroden in den motorischen Cortex des Gehirns implantiert hatte, sollten sich Bilder anschauen, die ein Diaprojektor (ein Kodak Carousel-Projektor mit Rundmagazin – daher der Name) auf eine Leinwand projizierte. Um sich das jeweils nächste Dia anzuschauen, brauchten sie nur auf den Knopf einer Fernbedienung zu drücken. Dieser Knopf war jedoch eine Attrappe; stattdessen wurden die im motorischen Cortex gemessenen Impulse, die darauf hindeuteten, dass gerade eine Bewegung der Hand ausgelöst wurde, direkt genutzt, um den Projektor zu steuern. Grey Walter hatte erwartet, dass den Versuchspersonen nichts Ungewöhnliches auffallen würde: Sie würden sich entscheiden, zum nächsten Dia zu gehen und daraufhin den Knopf drücken, wonach der Diaprojektor das Magazin einen Schritt weiter transportiert, nur dass die kausale Verbindung auf elektronischem Wege statt über die Nervenbahnen vom Gehirn bis zu den Fingern der Hand hergestellt würde.

Tatsächlich berichteten sie allerdings, dass etwas ganz Merkwürdiges passiert sei: Immer wenn sie drauf und dran gewesen wären, auf den Knopf zu drücken, hätte der Projektor bereits weiter transportiert – der Projektor schien ihr Verhalten vorhergesehen zu haben. Die Versuchspersonen waren sich dennoch sicher, dass ihnen im letzten Moment ein Veto möglich gewesen wäre; sie hätten sich entscheiden können, doch noch eine Weile das bisherige Dia zu betrachten, auch wenn sie das letztendlich nicht getan, sondern den Knopf gedrückt hätten. Das war allerdings unmöglich, denn nachdem die Nervenzellen im motorischen Cortex gefeuert hatten, war es nur noch eine Frage der Zeit, bis die über weitere Nervenbahnen geleiteten Impulse die Muskeln der Finger erreichten, und dieser Vorgang hätte sich nicht mehr aufhalten lassen. Es ist so, als hätte man einen Stein geworfen aber, kaum hätte man ihn losgelassen, seine Meinung geändert – zu diesem Zeitpunkt kämen die Skrupel zu spät; der Stein würde sein Ziel treffen, auch wenn man den Wurf längst bereute.

Wenn man sich nun aber einerseits sicher ist, das bewusste, zur Entscheidung führende Denken sei noch nicht vollständig abgeschlossen gewesen, auch wenn es nur um Sekundenbruchteile ging, die Handlung aber in Wirklichkeit bereits unwiderruflich initiiert war, dann kann das Handeln nicht vom bewussten Denken ausgelöst worden sein. Dafür müsste vielmehr ein anderer, unbewusster Prozess verantwortlich sein, dem das Bewusstsein um einige hundert Millisekunden hinterher hinkt.

Wenn es nur darum ginge, wann man auf einen Knopf drückt, könnte man solche und ähnliche irritierende Beobachtungen vielleicht noch beiseite wischen, aber es gibt schon lange Hinweise darauf, dass auch komplexe Denkvorgänge unter dem Radar des Bewusstseins ablaufen und von diesem erst bemerkt werden, wenn sie zu einem Ergebnis gekommen sind. Ein berühmtes Beispiel ist die Anekdote über die Entdeckung des Benzolrings durch den Chemiker August Kekulé (1829–1896). In den 1860er Jahren war zwar bekannt, dass Benzol eine Verbindung aus je sechs Kohlenstoff- und Wasserstoffatomen war, aber wie sich diese zu einer räumlichen Struktur verbanden, blieb rätselhaft. Kekulé hatte sich jahrelang mit den verschiedenen Ideen dazu beschäftigt, aber zu seinem Ergebnis – die Kohlenstoffatome bilden einen Ring und sind mit jeweils einem Wasserstoffatom verbunden – kam er scheinbar ganz plötzlich, während er nachts in einem Londoner Omnibus fuhr, dabei wegdämmerte und träumte. Als der Schaffner laut die Haltestelle „Clapham Road“ ankündigte, wachte er auf – und die Ringstruktur des Benzols stand ihm deutlich vor Augen.

So etwas ist nun keineswegs ungewöhnlich; tatsächlich haben viele erlebt, wie ihnen Ideen vermeintlich aus dem Nichts zugeflogen sind. Mir ist es selbst schon oft passiert, ob seinerzeit als Wissenschaftler oder heute als DOCMA-Redakteur. Ich befasse mich intensiv mit einem Thema, ich recherchiere, probiere Dinge aus und entwickle Ideen, doch der richtige, zielführende Ansatz entgleitet mir immer wieder. Aber dann, während ich morgens unter der Dusche stehe, während ich auf den Bus warte oder auch abends, kurz vor dem Einschlafen – in Situationen also, in denen man im Grunde nicht viel tun kann und die Gedanken schweifen lässt –, springt mich die zündende Idee geradezu an, und zwar in vollständig entwickelter Form; ich brauche sie nur noch auszuführen. Natürlich kommt so etwas nicht wirklich aus dem Nichts; ohne die ganze Vorarbeit wäre das nicht möglich gewesen. Doch selbst im Nachhinein habe ich keine Vorstellung, wie ich zu diesem Ergebnis gekommen bin. Das Unterbewusstsein liefert, aber es beantwortet keine Fragen.

Es ist gut möglich, dass die steuernde Funktion des Bewusstseins eine Illusion ist. Vielleicht steuert der Kapitän sein Schiff gar nicht selbst, sondern überlässt das seinen Offizieren; er führt nur seine schmucke Uniform spazieren und unterhält die Passagiere beim Captain’s Dinner mit aufregenden Geschichten aus der Seefahrt, die er aus zweiter Hand kennt. Aber wenn das Bewusstsein nicht die Aufgabe erfüllt, die wir ihm zuschreiben, wozu ist es dann überhaupt da? Irgendeinen Zweck muss es ja haben, denn auf Dauer toleriert die Evolution keinen überflüssigen Luxus.

Zunächst einmal ist nicht gesagt, dass unser bewusstes Denken überhaupt keinen Einfluss auf unser Verhalten hätte, auch wenn es nicht der große Entscheider ist, für den wir es halten. In einem hochgradig vernetzten System wie der Großhirnrinde wird es kaum Prozesse geben, die nicht auch auf andere Prozesse einwirken. Wir kennen den Effekt – Heinrich von Kleist (1777–1811) hat ihn in seinem Essay „Über die allmähliche Verfertigung der Gedanken beim Reden“ beschrieben –, dass uns unsere eigenen, noch verworrenen Gedanken klarer werden, wenn wir jemand anderem davon erzählen. Nicht weil der Gesprächspartner etwas Nützliches dazu beitragen würde, sondern weil der Druck, unsere Ideen in eine verständliche Form zu bringen, neue Erkenntnisse zu Tage fördern. Unser bewusstes Denken könnte eine ähnliche Wirkung haben und das unbewusste Denken inspirieren, ohne es zu kontrollieren.

Die Hauptaufgabe des Bewusstsein, und möglicherweise der Grund, weshalb es im Laufe der Evolution entstanden ist, könnte jedoch darin liegen, kooperatives Verhalten durch Sprache zu koordinieren (vor 33 Jahren habe ich mal etwas dazu geschrieben, das aber allenfalls für Linguisten von Interesse wäre). Kooperatives Verhalten selbst ist im Tierreich weit verbreitet und nicht dem Menschen vorbehalten. Schon so vergleichsweise einfach strukturierte Tiere wie Ameisen oder Bienen sind in ihrer Lebensweise auf Zusammenarbeit angewiesen. Diese Formen der Kooperation sind aber teilweise angeboren und basieren zum anderen Teil auf Beobachtung: Ein Individuum nimmt wahr, was andere tun, und stimmt sein eigenes Verhalten darauf ab. Es gibt dabei jedoch kein Element der Planung und keine Kommunikation über angestrebte Ziele und die Mittel, diese zu erreichen.

Wir Menschen sind zu komplexeren Formen der Zusammenarbeit fähig, die sich flexibel an die vorgefundenen Umstände anpassen, und das setzt voraus, sich im Vorwege darüber zu verständigen. Wenn es bei einer Jagd beispielsweise zwei Gruppen gibt, von denen die eine die Tiere als Treiber in die Richtung der Jäger scheucht, haben Jäger und Treiber währenddessen keinen Kontakt; jede Gruppe muss wissen, was die andere tut, und das setzt eine vorherige Planung voraus. Unser bewusstes Denken, das als ein selbsterklärter Sprecher für das Unbewusste agiert, könnte die Voraussetzung dafür sein, unsere Ziele und Absichten in eine sprachlich kommunizierbare Form zu bringen. Nachdem wir so befähigt werden, unsere mentalen Zustände klar zu strukturieren, können wir das ebenso mit den zu vermutenden Gedanken anderer tun; schließlich ist das Bewusstsein auch darauf angewiesen, unser eigenes unbewusstes Verhalten zu beobachten und Schlussfolgerungen daraus zu ziehen. Wir können Modelle davon entwickeln, was unsere Mitmenschen beabsichtigen, und darauf reagieren.

Aktuelle KI-Systeme, oder Softwaresysteme, die zumindest KI-basierte Funktionen bereitstellen, arbeiten völlig anders. Ihre Funktion beschränkt sich darauf, auf eine neuartige Art aus Input-Daten zugehörige Output-Daten zu berechnen. Sie sind nicht in ihre Umwelt eingebettet, haben keine Wahrnehmung der Umwelt und können nicht auf diese einwirken. Sie kommunizieren auch nicht über ihre Ziele und Absichten, und sie arbeiten nicht mit anderen Systemen gleicher Art zusammen. Dass solche Systeme ein Bewusstsein entwickeln, sei es als Ergebnis des Softwaredesigns oder als emergente Eigenschaft, ist nicht anzunehmen – oder zu befürchten, je nach Sichtweise.

Übrigens: Die übrigen Artikel aus dieser Serie sind Künstliche Intelligenz vs. Dekonvolution, „Künstliche Intelligenz“ – ein Buzzword?, Denkende Computer? und Deep Learning: Was Hänschen nicht lernt ….

Zeig mehr

Michael J. Hußmann

Michael J. Hußmann gilt als führender Experte für die Technik von Kameras und Objektiven im deutschsprachigen Raum. Er hat Informatik und Linguistik studiert und für einige Jahre als Wissenschaftler im Bereich der Künstlichen Intelligenz gearbeitet.

Ähnliche Artikel

Loading comments...
Schaltfläche "Zurück zum Anfang"