Was ist menschliches Bewusstsein? Hat eine Maschine ein Bewusstsein? Das neue Forschungsgebiet Maschinenbewusstsein, versucht dieses Rätsel zu entmystifizieren, zusammen mit all jenen ethischen und sozialen Implikationen, die damit einhergehen. Dabei mischen die unterschiedlichsten Disziplinen von der Philosophie zur Neurowissenschaft und Physik mit und liefern wertvolle Beiträge auf die kopfzerbrechende, heikle Frage, welchen gesellschaftlichen Status Maschinen mit intelligenten Systemen in unserer Zeit und künftigen Generationen einnehmen werden.

Der Mythos Bewusstsein – ein unlösbares Problem?

Die neurowissenschaftliche Perspektive war im Fokus des vorhergehenden Reviews des Mensch-Maschine Vergleichs, wobei es um die Architektur menschlicher mentaler Prozesse ging, welche Parallelen zu künstlich geschaffenen, kognitiven Fähigkeiten bestehen und wer von wem profitiert. Das Plädoyer ist deutlich: Der Zugang muss zwingend wissenschaftlich sein, um klare, professionelle als auch realistische Aussagen zu treffen. Jede Form von Polemik, Idealismus also auch Opportunismus, sind für eine neutrale Auseinandersetzung mit dem Mega-Thema kontraproduktiv.

Beim Thema Kognition ist der wissenschaftliche Ton verhältnismässig leicht anzuschlagen, da die Akzeptanz der Methodik und Diagnostik hier am grössten ist, da empirisch (daten- und evidenzbasiert, quantitativ) vorgegangen wird. Die Forschung und Entwicklung in der synthetischen Rekonstruktion menschlicher neuronaler Strukturen hat erstaunliche Fortschritte gemacht. Doch am Ende des Reviews lautete die Frage, was verleiht dieser Physiologie “Leben”? Wie schafft es das Gehirn, über diese Funktionalität Bewusstsein zu schaffen? Ein uraltes, traditionsreiches Rätsel der Menschheit, über Beschaffenheit von Geist und Körper. Die Debatte um Körper und Geist erfährt neue Aufmerksamkeit, wenn es um die Frage geht, ob KI-basierte Systeme Bewusstsein zugeschrieben werden kann, je mehr sie sich den menschlichen Architekturen annähern.

Wissenschaftler in der empirischen Forschung fürchten das Thema Bewusstsein. Wer sich als “echter” Wissenschaftler in diese Gefilde begibt, muss sich Fragen stellen, die mit quantitativen Methoden derzeit eher nicht zu beantworten sind, denn es muss sich mit “unwissenschaftlichen” Themen, von Freud bis Gott, urteilsfrei auseinandergesetzt werden.

Neuerdings hat das Thema Bewusstsein jedoch wieder Eingang in die akademische Forschung erhalten, nicht zuletzt wegen der Fortschritte in der Neurowissenschaft als auch in der Informatik. Der Zusammenhang liegt also auf der Hand, wobei die Verbreitung und Etablierung einer Forschung zu Machine oder Artificial Consciousness noch in den Kinderschuhen steckt. Doch auch in den Alltagsmedien finden schon hitzige, juristische Debatten statt, inwiefern Maschinen einen Personen- oder Objektstatus haben und welche Rechte damit einhergehen. So zum Beispiel, ob ein Roboter misshandelt werden darf, wie im Video von Boston Dynamics zu sehen ist, welches von dem ein oder anderen Robo-Aktivisten scharf kritisiert worden ist.

Stand der Forschung: Menschliches Bewusstsein

Seriöse Forschung zum Thema Bewusstsein ist eine Gratwanderung zwischen Geisteswissenschaften, Philosophie und Naturwissenschaften und hat sich auch in der Psychologie als empirische Wissenschaft etabliert. Einst waren die Einflüsse kognitiver Prozesse auf das Verhalten noch das grosse Mysterium, was sich drastisch verändert hat. Was das Bewusstsein betrifft, herrscht nach wie vor das Mysterium. Es gibt ganz klar keine akzeptable Theorie, lediglich viele Ideen, wie zum Beispiel die materialistisch geprägte Idee, dass das Gehirn das Bewusstsein als eine Art Illusion kreiert.

Zimbardo & Gerrig definieren Bewusstsein als ein Zustand des Erkennens von inneren Ereignissen und der äusseren Umwelt (2008). Grundlegende Themenbereiche, die im Rahmen der Untersuchung des Bewusstseins in der Psychologie erforscht werden, umfassen:

• Inhalt des Bewusstseins
• Funktionen des Bewusstseins
• Schlaf und Traum
• Veränderte Bewusstseinszustände (Hypnose, Halluzinationen, bewusstseinsverändernde Drogen, usw.)

Im Fokus des vorliegenden Reviews stehen die Inhalte als auch die Funktionen des Bewusstseins, da die letzteren weniger relevant im Mensch-Maschine Kontext erscheinen. Betrachtet man die Inhalte des Bewusstseins, so spielen eine Vielzahl von komplexen Konstrukten eine Rolle, wie Gedanken, Gefühle, oder Wahrnehmung zu einem bestimmten Zeitpunkt.

Dabei werden verschiedene Zugänge unterschieden, nämlich vorbewusste Gedächtnisinhalte, unbeachtete Informationen und unbewusste Vorgänge, die die jeweiligen Bewusstseinsinhalte bestimmen. Auch unbewusste Prozesse ohne bewusste Kontrolle, wie die Regulierung des Nervensystems, sind Teil der Forschung.

Die Funktion des Bewusstseins kann aus evolutionspsychologischer Sicht mit dem Prinzip des “survival of the fittest” beschrieben werden. Die Annahme lautet, dass das Bewusstsein aus der Evolution hervorging, um das Überleben der eigenen Spezies zu sichern. Mit dem Bewusstsein wurde sowohl eine restriktive Aufnahmefunktion geschaffen, als auch lebenswichtige selektive Speicher- und Planungsfunktionen, auch genannt exekutive Kontrollfunktion, mit dem Ziel Handlungen abbrechen zu können, um Alternativen und Konsequenzen abzuwägen (Zimbardo & Gerrig, 2008).

Auf dem Weg nach physischen Erklärungen des Bewusstseins, sieht David Chalmers, Professor an der New York Universität, das Thema als eine Art Anomalie der Wissenschaft: Nichts erleben wir besser als unser eigenes Bewusstsein, doch gibt es keine objektive Erklärung dafür.

In seinem Buch The Conscious Mind: In Search of a Fundamental Theory beschreibt Chalmers nicht nur mögliche Modelle zum menschlichen Bewusstsein, sondern diskutiert auch darüber, ob Maschinen Bewusstsein haben oder erlangen können. Eine nicht unbedingt leicht zu verstehende Lektüre, jedoch versucht er sowohl die philosophischen als auch technischen Ansätze für das vermutlich äusserst heterogene Leserpublikum zu integrieren. Doch das Thema Maschinenbewusstsein, ist auf den ersten Blick, und auch auf den zweiten, ein sehr schwer zu erfassender Bereich.

Des Weiteren beschreibt er am Beispiel der Information Integration Theory of Consciousness (oder Theorie Phi nach Tononi, 2004), dass ein System mit hohem Grad an komplexer Informationsverarbeitung auch entsprechend ein Bewusstsein hat, das betrifft also auch KI. Doch dies wirft weitere Fragen auf: Gibt es ein kollektives Bewusstsein? Hat Kanada ein Bewusstsein? Wie müssten die disruptiven Ideen aussehen? Radikal, fundamental oder universal? Um diese Fragen zu beantworten, müssen zuerst Modelle zum menschlichen Bewusstsein entwickelt werden. Er ist überzeugt, dass die Menschheit an irgendeinem Punkt Bewusstsein verstehen wird, aber dazu braucht es offene Menschen mit radikalen Ideen, Furchtlosigkeit und vielleicht eine Prise Wahnsinn, die bereit sind, sich auf einen konstruktiven Diskurs einzulassen.

Graziano und Webb (2014) schlagen eine mechanistische Theorie des Bewusstseins vor (The Attention Schema Theory), welche auf Studien der kognitiven Psychologie und System-Neurowissenschaften basiert, welche im International Journal of Machine Consciousness publiziert wurde. Hier steht das Verarbeiten von Informationen im Vordergrund und, dass das Bewusstsein lediglich ein vom Gehirn konstruiertes Werkzeug ist, um diese Prozesse erfolgreich durchzuführen (Aufmerksamkeit als Mittel der Datenhandhabung). Die Legitimierung der Kontrollfunktionen der Aufmerksamkeit als zentraler Regulierungsmechanismus beschreiben die Autoren aus evolutionspsychologischer Sicht, analog wie oben bereits erklärt. Am Ende wird, wie bei den meisten Arbeiten zum Thema Bewusstsein, zurecht spekuliert, inwiefern diese Eigenschaften auf Maschinen übertragen werden können.

Stand der Forschung: Machine Consciousness – Maschinenbewusstsein

Die Forschung zum Thema Machine Consiousness (seltener Artificial Consiousness oder Digital Sentience), hat sich mit unterschiedlichen Modellen aus multidisziplinären Perspektiven dem Thema genähert und versucht Fragen zu beantworten, welche das Ziel, Sinn und Zweck eines Maschinenbewusstseins umfassen, sowie Kritik, soziale und ethische Implikationen. Die Forschung zum Thema befindet sich noch im prä-paradigmatischen Stadium und somit einer Phase der Exploration, bei der radikale Ausschlussverfahren kontraproduktiv sind (Gamez, 2008).

Gamez differenziert vier unterschiedliche Bereiche der Maschinenbewusstseinsforschung, welche sich entlang des Mensch-Maschine-Vergleichs Kontinuums bewegen: Von der Reproduktion/Simulation menschlichen Verhaltens und Architektur bis zur Schaffung wahren Bewusstseins aus der Maschine selbst heraus als biologisches Phänomen:

• (MC1) Machines with the external behaviour associated with consciousness.
• (MC2) Machines with the cognitive characteristics associated with consciousness.
• (MC3) Machines with an architecture that is claimed to be a cause or correlate of human consciousness.
• (MC4) Phenomenally conscious machines.

Nehmen wir das Beispiel des bekannten Chinese Room Gedankenexperiments von J.Searle, so betrifft es das Gebiet (MC4) Phenomenally Conscious Machines. Als Gegner von bewussten Maschinen argumentiert Searle mit seinem Gedankenexperiment, dass eine Maschine niemals Bewusstsein oder einen Geist hat, da “Verstehen” nur simuliert wird. Die Computer-Logik ist eine rein formale Struktur (Syntax), die Symbole nach Regeln ordnet und dadurch simuliert zu verstehen. Dazu im Gegensatz steht der Mensch mit Geist und Bewusstsein, der den Wörtern und Sprache tatsächlich Bedeutung und Inhalt zuschreiben kann (Semantik).

Betrachtet man auf der anderen Seite den Turing Test (nach Alan Turing), der ebenfalls messen soll, ob eine Maschine wie ein Mensch denken kann, reicht für Turing eine Simulation völlig aus, wenn sie gut genug ist, das gleiche Ergebnis zu produzieren (zur Erklärung: das heisst, im Turing Test wird gemessen, ob eine Maschine von einem Mensch unterschieden werden kann, dabei spielt die Art und Weise der inneren Prozessen keine Rolle). Hier taucht eine wichtige Überlappung zu anderen Nomenklaturen auf, nämlich die Unterscheidung von schwacher und starker KI. Eine starke KI, oft auch genannt Artificial General Intelligence (oder AGI), ein Begriff geprägt von Goertzel und Pennachin (2007), würde dann in etwa (MC4) entsprechen. Schwache KI hingegen, wollen menschliche Intelligenz lediglich simulieren (MC1-3).

If we don’t understand how human consciousness is produced, then it makes little sense to attempt to make a robot phenomenally conscious. (Gamez. S. 892, 2008)

Prinzipiell wäre es zwar logisch, erst das eine zu verstehen, bis es zum nächst komplexeren geht. Jedoch hat die Vergangenheit gezeigt, dass ein progressives Vorgehen Erfolg bringt und radikale Ideen in den unterschiedlichen Disziplinen zu Insights geführt haben, die dann wieder andere Disziplinen befruchtet haben (wie im letzten Bericht am Human Brain Project aufgezeigt). Gamez hält die Forscher mit seinem grundlegenden Argument bei der Stange, dass es keinen Grund gäbe, warum die physische Anordnung in einem Computer weniger fähig sein soll, ein Bewusstsein zu kreieren, als die physische Anordnung in einem Gehirn; allerdings unter der Prämisse, dass Bewusstsein ein biologisches Phänomen ist und kein Spirituelles oder eine Illusion (2007).

Neuroscientists will never fully understand how the brain works without understanding consciousness, and engineers will never build fully capable computers without designing them into some version of the same tool. (Graziano & Webb, S. 1, 2014)

Diskussion

“So what?”, lautet die Frage, die sich jeder Forscher stellen sollte. Welchen Nutzen hat das Erforschen des Bewusstseins egal, ob menschlich oder maschinell?

Aus mechanistischer Perspektive sind all jene Funktionen, welche dem Bewusstsein zugeschrieben werden, ebenso nützlich für künstliche Intelligenz wie für die menschliche. So kann beispielsweise ein Schema zur Regulierung und Simplifizierung von Informationen (statt akkurate Aggregation) durchaus eingebaut werden für eine effizientere Verarbeitung, Einsparung von Energie.

Eine weitere Funktion, welche bis jetzt nicht genauer erklärt wurde, ist die soziale Kognition. In diesem Kontext bedeutet es, dass wir anderen Menschen Bewusstsein zuordnen, was Menschen als einen “Beweis” verwenden, für die Existenz des eigenen Bewusstsein. Dies könnte auf Maschinen übertragen werden, so dass das Design einer Maschine, die Fähigkeit enthält, das Verhalten anderer vorherzusagen. Dies ist vor allem im sozialen Kontext wichtig, wenn intelligente Maschinen mit anderen Menschen interagieren z.B. als Soldat in einer Einheit oder als Tourguide in einem Museum.

Zusammenfassend kann es sinnvoll sein, Maschinenbewusstsein pro-aktiv im Gestaltungsprozess einzubinden, um von den Funktionen zu profitieren:

The naïve approach of waiting to see if computers become conscious as they become more complicated has not yet yielded a satisfactory result. It may be more effective to design a machine in such a way that it concludes it has consciousness and can report that conclusion. The machine could use that self-model to regulate its own data flow and to understand the behavior of others. (Graziano & Webb, S. 11, 2014)

Oder müssen wir einfach akzeptieren, wie Searle mit einem Hauch Zynismus sagt, dass Maschinen ein Bewusstsein haben so wie wir wissen, aber nicht wirklich beweisen können, dass Menschen ein Bewusstsein haben?

Wenn ja, wie müsste eine Maschine aussehen, die Bewusstsein hat? Aleksander und Dunmall (2003) definieren fünf Voraussetzungen, welche nötig wären für eine Maschine mit Bewusstsein:

• Depiction: die Maschine kann eine interne Abbildung der realen Welt erstellen
• Imagination: die Maschine kann Teile oder Abbilder der Welt mental kreieren
• Attention: die Maschine kann selektieren, was sie kreieren möchte
• Planning: die Maschine kann Aktionen planen
• Emotion: die Maschine hat affektive Zustände, die zur Evaluation dienen

Einige Beispiele, wie Bewusstsein mithilfe von Robotern untersucht werden soll sind: CRONOS, Cicerobot oder Cyberchild, welche unterschiedliche Aspekt aus Umwelt, Physiologie und interne Prozesse integriert, um so Maschinenbewusstsein zu studieren.

Last, but not least: Wer sich mit Maschinenbewusstsein auseinandersetzt, sieht sich früher oder später mit legalen und ethischen Fragstellung konfrontiert. Dies kann auf verschiedenste Weise geschehen, ähnlich wie die Tierschutzbewegung Forschung und Praxis konfrontierte, als Folge der Anerkennung tierischen Bewusstseins. Dabei sind die apokalyptischen Rise-of-the-Robots Fragestellungen genauso relevant wie die Frage nach dem rechtlichen Status einer Maschine als natürliche Person oder Gegenstand. So verhält es sich aktuell bei der Debatte um das Thema Verantwortung bei selbstfahrende Autos.

Während bei klassischen Systemen die Programmierer in die Verantwortung gezogen wurden, schwinden und vernebeln sich die Grenzen bei aus der Umwelt selbst-lernenden Systemen oder wenn Maschinen eine Form von Bewusstsein zugeschrieben würde (Gamez, 2008). Man bedenke, es ist noch nicht so lange her, als im alten Rom Sklaven keinen Personenstatus hatten und vor dem Gesetz als res (Sache) behandelt wurden. Es scheint allerdings unrealistisch, dass sich eine Bewegung wie #robotlivesmatter ernsthaft durchsetzen wird. Jedoch sollte dies in jeder Stakeholderanalyse enthalten sein, auch wenn es vorerst noch extrem abstrus klingt, denn plötzlich kann so eine nicht ernstgenommen Bewegung ernsthafte Konsequenzen für eine Firma oder einen Staat haben. Für eine detaillierte Auseinandersetzung zur Determinierung des legalen Status bewusster Maschine, wird auf Calverley verwiesen (2005).

Fazit und Ausblick

Maschinenbewusstsein ist ein neues, komplexes, interdisziplinäres Forschungsgebiet, das vielen unglaubliches Kopfzerbrechen bereitet. Es ist eng mit KI verwoben, und auch wenn es lieber gemieden werden möchte, ist es unumgänglich für jeden, der sich systemisch, also möglichst umfassend und ernsthaft mit dem Thema KI auseinandersetzen möchte.

Maschinenbewusstsein hat das Interesse von vielen Seiten geweckt, darunter die Philosophie, Psychologie, Neurowissenschaften, Informatik und sogar die Physik. Jede Disziplin trägt mit ihrer völlig unterschiedlichen Herangehensweise dazu bei, das Mysterium um das Thema Bewusstsein zu entschlüsseln und das derzeit Unfassbare zu entmystifizieren.

Ob und inwieweit sich das Gebiet Maschinenbewusstsein etablieren wird, ist nicht vorhersehbar. Jedoch wird es sicher die nächsten 10 bis 20 Jahre weiter erforscht werden, was durchaus ein sinnvolles Vorhaben darstellt. Denn selbst wenn es keine Fortschritte im Bereich Maschinenbewusstsein gibt oder bewiesen wird, dass es keines gibt, wird dennoch in jedem Fall zu erwarten sein, dass das Wissen über das menschliche Bewusstsein erweitert wird, dies in der Hoffnung wertvolle Beiträge z.B. im Bereich Medizin/Gesundheit sowie Politik und Gesetzgebung zu leisten: Mehr wissen über den Nutzen und Vorteile des menschlichen Bewusstseins, soll dazu führen, bessere Maschinen und Systeme zu bauen, welche wiederum dem Wohle der Menschen in unserer Gesellschaft und künftiger Generationen dienen sollen.

Quellenverzeichnis

Aleksander, I., and Dunmall, B. (2003). Axioms and tests for the presence of minimal consciousness in agents. In O. Holland (Ed.), Machine consciousness. Exeter: Imprint Academic.

Calverley, D. J. (2005). Towards a method for determining the legal status of a conscious machine. In Chrisley, R., Clowes, R., & Torrance, S. (Eds.), Proceedings of the AISB05 symposium on next generation approaches to machine consciousness, Hatfield, UK.

Chalmers, D. J. (1996). The Conscious Mind: In Search of a Fundamental Theory. Oxford University Press.

Gamez, D. (2008). Progress in Machine Consciousness. Consiousness and Cognition, 17, 887-910

Goertzel, B., and Pennachin, C. (Eds.). (2007). Artificial general intelligence. Berlin: Springer

Graziano, M. S. A., and Webb, T. W. (2014). A mechanistic theory of consciousness. Int. J. Mach. Conscious. 06, 163.

Tononi, G. (2004). An Information Integration Theory of Consciousness. BMC Neurosci,5, 42.

Zimbardo, P., Gerrig, R., and Graf, R. (2008). Psychologie. München: Pearson Education.

Über die Autorin

Marisa Tschopp hat ihren Master in Wirtschaftspsychologie an der Ludwig-Maximilians-Universität in München absolviert. Als Doktorandin am Leibniz Institut für Wissensmedien ist sie aktiv in der Forschung zu Künstlicher Intelligenz aus Humanperspektive, wobei sie sich auf psychologische und ethische Aspekte fokussiert. Sie hat unter anderem Vorträge an TEDx Events gehalten und vertritt die Schweiz als Ambassador in der Women in AI Initiative. (ORCID 0000-0001-5221-5327)

Links

• http://eccerobot.org/home/project/description.html
• https://www.humanbrainproject.eu/en/understanding-cognition/