In Michael Endes Roman Die unendliche Geschichte fängt ein sorgengeplagter Junge an, ein Buch zu lesen, das einerseits dunkel und unheimlich, andererseits aufregend ist. Es erzählt von einem wunderschönen Ort, der durch das sogenannte Nichts bedroht wird. Obwohl dieser Junge sich gar nicht einmal sicher ist, ob er das Buch nur liest oder ein echter Teil davon ist, liest er weiter, springt direkt in dieses abenteuerliche Unterfangen hinein und am Ende (Spoiler Alert!) – rettet er die Welt.

Spiegelt das nicht gewissermassen die aktuelle Situation in Bezug auf den Mega-Trend Künstliche Intelligenz (KI) wider? Niemand weiss wirklich, welche Rolle er in dieser Geschichte spielt. Der grosse Unterschied ist, dass wir uns in dieser aktuellen Situation nicht wirklich entscheiden können, ob wir mitspielen oder nicht. Wir können das Buch nicht einfach zuschlagen und weglaufen. Es gibt in diesem “Stück” die unterschiedlichsten Rollen: Die Zyniker, die das alles als absolut überbewerteten Non-sense abtun, die Influencer, die den Weltuntergang durch Roboter vorhersagen oder die ungetrübten Optimisten, die in KI die Lösung aller Probleme sehen. Es ist schwer, sich der seltsamen, unerklärlichen Anziehungskraft, die das Thema KI ausübt, zu entziehen. Wobei diese Rollen natürlich nicht absolut sind.

Die Menschen sind keine hilflosen Opfer der Technologie und müssen sich nicht dem Diktat des Wachstums und Entwicklung willenlos unterwerfen. Auf individueller Ebene ist durchaus noch klarer Handlungsspielraum gegeben. Niemand ist gezwungen KI zu benützen, wenn er nicht will: Man kann durchaus auch ohne ein erfülltes Leben führen, sowie Mütter und Väter selbst entscheiden können, ihre Kinder konsequent ohne Fernsehen oder Handy zu erziehen. Das geht solange sie nicht in einer industrialisierten Gesellschaft leben oder abgelegen von einer technologisch entwickelten Stadt. Dort ist der Impact von Technologie auf Individualebene logischerweise nicht so massiv wie in einer Millionenmetropole. Auf globaler, gesellschaftlicher Ebene, würde ein Leugnen des Einflusses von künstlicher Intelligenz langfristig nicht funktionieren. Denn die technologische Entwicklung ist nicht aufzuhalten, das ist eine Art Naturgesetz.

Technologische Entwicklung aufzuhalten ist keine Option

Rückblickend, vor ungefähr 100 Jahren, gab es wahrscheinliche einen ähnlichen Mega-Hype, und zwar zum Thema menschliche Intelligenz, als Forscher erstmals Methoden erfanden, um menschliche Intelligenz in Form von Zahlen darzustellen und damit kognitive Fähigkeiten messbar und vergleichbar zu machen. Es war auf etwas ähnliche Art und Weise faszinierend als auch beängstigend und sehr fragwürdig, bedenkt man, dass niemand weniger als Adolf Hitler sogenannte Intelligenz Tests verwendet hat, um die Auslöschung bestimmter Menschen oder Rassen zu legitimieren.

Es hat fast 100 Jahre benötigt, bis zumindest einige Forscher sich auf eine Definition menschlicher Intelligenz einigen konnten und man könnte denken, dass das Thema Intelligenz seinen Reiz verloren hat. Doch mit den bemerkenswerten Fortschritten in Big Data, Internet of things, Deep/Machine Learning etc., ist das Feuer rund um die Intelligenz-Debatte – Mensch & Maschine – neu entfacht und die Ausbreitung und Aufmerksamkeit in Forschung und Wirtschaft erreicht einen Höchststand.

Einige KI Fails von vielen

2016 wurde Microsoft’s Chatbot Tay vom Netz genommen, die dieser innert 24 Stunden von Twitter-Usern zu einem beschämenden, beleidigenden Nazi-Lover gemacht wurde.

Und 2017 musste die deutsche Polizei in ein Haus einbrechen, da Amazons Alexa eine Party mit sich allein in tosender Lautstarke gefeiert hat.

Es gibt viele Berichte, in denen KI Systeme rassistische, diskriminierende oder sexistische Verhaltensweisen gezeigt haben: Zum Beispiel hat eine KI, welche künftige Verbrechen voraussagen sollte, hauptsächlich dunkelhäutige Menschen gewählt; ebenso sollte bei einer Schönheitswahl eine objektive KI bewerten und wählte hauptsächlich weisse Frauen als Gewinnerinnen; ein anders Beispiel ist das beliebte Pokémon-Go Spiel, bei dem die Pokémon-Stops vermehrt in hauptsächlich weissen Wohnsiedlungen platziert wurden und somit andere Spieler benachteiligten.

Ob man will oder nicht, KI hat die Tendenz in einfallsreichen, mystischen oder gar spektakulären Geschichten daherzukommen, was die Sache zwar kompliziert, anderseits wird so die öffentliche Diskussion immer wieder aufs Neue zum Leben erweckt.

Popularität von Künstlicher Intelligenz

Das Interesse an künstlicher Intelligenz scheint – trotz einiger Hungerphasen – ungebrochen zu sein. 2016 ist die Anzahl an publizierten Beiträgen allein in der Wissenschaft (disziplin-übergreifend) auf über 15 Tausend angestiegen. Zudem, trägt ein unzählbarer Korpus an Fachartikeln, Blogbeiträgen, YouTube Videos u.v.m. zur fast epidemischen Ausbreitung von Informationen zu künstlicher Intelligenz bei – von solider Forschung zu legendären, apokalyptischen Vorhersagen und Fake News.

KI trifft Menschen dort, wo es weh tut

Was sind die Gründe für das anhaltende, leidenschaftliche Interesse an künstlicher Intelligenz? Betrachtet man die oben beschriebenen Geschichten, welche nur ein kleiner Ausschnitt aus einer grossen Menge darstellt, so kann schnell erkannt werden, dass diese etwas gemeinsam haben: Sie führen uns zur dunklen Seite der Menschheit.

In diesen Geschichten führt uns die KI böswilliges, unmoralisches, zweifelhaftes oder fragwürdiges Verhalten vor; und in gewissem Sinne spüren wir, dass wir Menschen es sind, die die Grundlagen für dieses Verhalten gelegt haben. Es erinnert uns an unsere Schwächen, dunklen Ängste oder falsche Einstellungen, die wir haben, aber weder zugeben wollen noch in der Lage sind damit umzugehen. Die KI spiegelt menschliches Verhalten, sodass es uns gnadenlos die Unzulänglichkeiten der Menschheit vorführt. Ausserdem, trifft KI die Menschheit dort, wo es am meisten weh tut, die Angst verletzlich zu sein, unvollkommen und ersetzbar.

KI: Fluch oder Segen

Die Menschheit strebt stets nach Wachstum und Weiterentwicklung, um sich der aktuellen Umwelt anzupassen und Probleme zu bewältigen. Und wieder ist es aus dem gleichen Grund, wie oben genannt: Die Angst durch eine andere Spezies ersetzt zu werden. Das konstante Streben am oberen Ende der Nahrungskette zu bleiben, ist hier deutlich zu erkennen. Denn dort oben, können Menschen das fundamentale Grundbedürfnis nach Sicherheit befriedigen und schützen.

Diese evolutionäre Ideologie, nach C. Darwin, frei nach dem Motto nur die Stärksten überleben, kann auf viele Gebiete menschlichen Lebens und Verhaltens übertragen werden, besonders wenn man einen Blick auf die Weltwirtschaft wirft: Es gibt keine Allheilmittel für den Schaden und die Probleme, welche entstanden sind und weiter entstehen werden, in unserer schnell wandelnden Welt, bedingt unter anderem durch den massiven Overload an Informationen, die ein menschliches Gehirn nicht mehr verarbeiten kann.

Um zum Beispiel in der Wirtschaft zu überleben, müssen “gute” Entscheidungen getroffen werden. Diese basieren auf akkuraten Informationen, verlässlichen Fakten, realistischen Grafiken und/oder empirisch geprüften Daten. Nur so können rationale Entscheidungen getroffen werden (der Einfachheit halber, soll der aktuelle Imperativ nach Kreativität und Innovation als Wettbewerbsvorteil hierbei ausser Acht gelassen werden). Längste Zeit wurde den Menschen glaubhaft gemacht, sie wären in der Lage rationale Entscheidungen zu treffen, so ist es keine Überraschung, dass dies quasi unmöglich ist. Denn dieses Menschenbild gehört endlich der Vergangenheit an.

Der Homo Oeconomicus ist tot

Fraglich, ob dieser überhaupt je gelebt hat. Der Mensch muss mit der konstanten Bürde seiner eingeschränkten Rationalität zurechtkommen und akzeptieren, dass er niemals eine absolute, rationale Entscheidung treffen kann. Mehr denn je, müssen wir uns mit unzuverlässigen Informationen und unserer eingeschränkten Kapazität Informationen zu verarbeiten auseinandersetzen. Noch dazu haben wir weniger Zeit und Ressourcen, um Entscheidungen zu treffen. Unter anderem ist das einer der Gründe, warum weiter in Technologie investiert wird: Die Suche nach einem Heilmittel für die schmerzhaft klaffende Wunder der Unvollkommenheit. KI ist die logische Konsequenz aus dem Überfluss an Informationen, um mit komplexen Problemen fertig zu werden.

Sie wird mit der Intention gebaut, eine Art Erweiterung der mentalen Fähigkeit zu sein, wie eine Art Verlängerung unserer mentalen Kapazitäten oder Outsourcing des Gehirns; ein Assistent für unliebsame Arbeiten, zusätzliche Ressourcen anstatt Man-Power, in diesem Fall Machine-Power, um somit parallel mehrere Aufgaben zu lösen und schneller Entscheidungen zu treffen. Es steht ausser Frage, dass KI ein Thema ist, das nicht ausschliesslich Computerspezialisten oder Filmemacher vorbehalten ist.

KI ist ein Produkt für alle geworden

Eine interdisziplinäre, wissenschaftliche als auch praxisnahe Diskussion ist absolut essentiell, um KI nicht nur als Programmiersprache, sondern als Konzept zu betrachten, mit all ihren Feinheiten und dem weitreichenden Einfluss auf die Gesellschaft als Ganzes. Es gibt keine KI ohne Menschlichkeit. Von daher eignet sich die Psychologie als Wissenschaft besonders als Betrachtungswinkel, neben anderen Geisteswissenschaften wie Philosophie, Soziologie, Politikwissenschaften oder auch Medizin und Neurowissenschaften.

Psychologie als adäquater Ausgangspunkt

Psychologie eignet sich besonders gut, um einen interdisziplinären Diskurs anzuregen, da dieser auf menschlicher Ebene agiert (versus die System- oder Strukturebene der Soziologie beispielsweise). Jedoch ist eine klare Abgrenzung hier kaum möglich und nicht sinnvoll, da in der Psychologie ethische oder biologische Aspekte wesentlicher Bestandteil sind. Die Psychologie ist die Wissenschaft, die das Leben und Verhalten der Menschen untersucht. Als akademische Disziplin hat sie eine Vielzahl von Subdisziplinen wie Kognitionspsychologie oder Sozialpsychologie, klinische oder Wirtschaftspsychologie und viele mehr.

Wenn es um KI geht, ist eine Sache klar: Der Mensch kann nicht vom Konstrukt KI separiert werden. Egal, ob es nun die Mensch-Maschine Interaktion ist, Perzeption, Sprache, kognitive Prozesse oder Soft Skills, wie Empathie, Emotionen oder Kommunikationsfähigkeiten betrifft. Vermutlich ist in fast jeder Ebene der Mensch involviert, von der Erstellung des Programms, der Dateneingabe- oder Verarbeitung bis zur Interaktionsebene.

Derzeit gibt es keine wirklich etablierte KI Psychologie oder Künstliche Psychologie (Artificial Psychology, ein Terminus von Dan Curtis, entwickelt 1963), welche impliziert, dass KI einen eigenen Verstand und ein eigenes Bewusstsein hat, um Entscheidungen ohne menschliche Interaktion oder Input zu treffen. Allerdings ist bis dato der Fortschritt in der Imitation menschlichen Verhaltens und anderen mentalen Prozessen recht bemerkenswert und es kann noch einiges erwartet werden, da dieser Weg sicher keine Sackgasse ist und immer mehr Leute auf den Zug aufspringen.

Komplexität ist der Feind

Mehr Leute heisst allerdings auch, mehr Perspektiven, mehr Competition, mehr Komplexität; und Komplexität ist der Feind: Komplexität schafft (erstmal) keine Verbindung, sie trennt und isoliert. Wenn KI eine eigenständige Einheit sein soll, um das Leben zu verbessern, so ist es essentiell Komplexität zu reduzieren. Eine gemeinsame Basis und Sprache muss gefunden werden, damit die Möglichkeit besteht, Stoppschilder und Wegweiser aufzustellen, wenn der Weg zu gefährlich wird oder um sich nicht völlig zu verirren.

Serie: Die Psychologie Künstlicher Intelligenz

Dieser Beitrag ist der Auftakt für unsere Serie und soll aufzeigen, wieso Psychologie und KI quasi untrennbar sind. Im Verlaufe dieses Jahres werden fundamentale Konzepte und Theorien der Psychologie als Wissenschaft im KI Kontext untersucht und integriert. Relevante psychologische Konstrukte werden erklärt und wie diese mit künstlicher Intelligenz in Verbindung gebracht werden können.

Zum Beispiel das Thema Wahrnehmung und Aufmerksamkeit; dazu gehören Realität, Ambiguität oder Täuschungen und wie diese sich in einer KI widerspiegeln. Was sind die Konsequenzen in der Praxis, betrachtet man beispielsweise Personalauswahlverfahren, in denen bereits KI verwendet werden kann: Wie kann abgesichert werden, dass bestimmt Bewerber nicht aufgrund von Rasse oder Geschlecht diskriminiert werden?

Die Themen haben eine grosse Spannbreite und sind daher ausgewählt auf Basis von Relevanz und alltäglichem Nutzen in der Praxis. Ziel ist es, ein allgemeines Verständnis zu generieren und eine gemeinsame Basis zu finden, um damit letztlich Komplexität zu reduzieren. Schlüsselfragen und Antworten in Bezug auf das Verstehen, Messen und Vergleichen von menschlicher und künstlicher Intelligenz stellen den Fokus dieser Serie dar, was sowohl unsichtbare Prozesse (die sogenannte Black Box im Gehirn und Nervensystem) als auch sichtbare Verhaltensweisen integriert. Die folgenden Thematiken werden behandelt (Änderungen vorbehalten):

Die grosse Herausforderung liegt darin, innerhalb dieses Kontexts das adäquate Level an Tiefe und Komplexität zu finden, um tiefere Einsichten zu Erlangen und gleichzeitig die Möglichkeit zu bieten, jeden unabhängig vom Hintergrund aus Forschung und Praxis ins gleiche Boot zu holen. Denn im Endeffekt hat das Thema einen Einfluss auf fast alle von uns. Inklusivität und zielgerichtete Ausführlichkeit sind kritische Erfolgsfaktoren, um Rückschläge oder schlimmere Desaster zu vermeiden.

KI Fails oder doch menschliches Versagen?

Das medienwirksame Versagen von Microsofts Chatbot, wie oben kurz beschrieben, ist wahrlich ein interessanter Fall, da dieser von den unterschiedlichsten Blickwinkeln betrachtet werden kann. Diese Geschichte repräsentiert den perfekten Beweis, dass ein objektiver, interdisziplinärer Zugang zur Entwicklung und Umsetzung einer Künstlichen Intelligenz absolut notwendig ist.

Einerseits ein klarer Fall, andererseits so komplex, dass es schier unmöglich ist, dass dies nur von einer Person gehandhabt werden kann. Der Fall von Tay, ein jugendlicher, femininer Chatbot, der Jugendslang lernen soll, allein erzeugt schon eine unglaubliche grosse und differenzierte Menge an Fragestellungen:

• Warum kreiert Microsoft überhaupt so eine KI?
• Warum muss es ein junges Mädchen sein, während doch die meisten Entwickler männlich sind?
• Was erfreut Menschen daran, den Chatbot anzugreifen?
• Warum investieren Menschen Zeit und Energie, dem Chatbot Hass beizubringen?
• Ist es überhaupt verwerflich, da es im Prinzip die heutige Kultur von Hassreden in sozialen Medien realistisch widerspiegelt?
• Warum soll sich eine KI ethisch korrekt verhalten, während der Rest der Welt sich in Hassreden und anderen Dingen verliert?
• Was sind die Gefahren, Motivation, Spass und Aufregung, wenn Entwickler “Gott” spielen?
• Wieso haben die erfahrenen Entwickler von Microsoft dieses ethische Dilemma nicht vorausgesehen? Oder eine Form der Moderation eingeplant?
• Wie kann man ethische Verhalten technisch implementieren und wer entscheidet darüber, was ethisch korrekt ist und was nicht? Wo sind die Schwellen, die Grenzen, bis jemand (oder etwas) zu Schaden kommt?
• Wäre es nicht sogar besser realistisches statt ethisch korrektes Verhalten zu implementieren? Warum sollten KIs perfekt sein, während es zum Menschsein dazugehört Fehler zu machen?
• Wem nützt die Entwicklung so einer KI und wem schadet sie?
• …

Die Liste an Fragen geht weiter und weiter, wenn man mal anfängt tiefer darüber nachzudenken und das so objektiv wie möglich. So ist es doch meistens der Fall, je mehr Forschung und Fragen man untersucht, kommen nicht nur einige Antworten sondern vor allem wirft es immer mehr Fragen auf. Es wäre leichter, erst gar nicht so tief einzusteigen und den ganz Tay-Case als desaströsen, gehypten Fail zu betrachten und sich am Leid der anderen zu belustigen. Wie so oft ist der leichtere Weg, nicht immer der Beste; definitiv ist es nicht der Weg um Komplexität zu reduzieren.

Fazit

Die Menschen neigen dazu tiefe Auseinandersetzungen zu scheuen, sie wollen keine dummen Fragen stellen, aus Angst ihr Gesicht zu verlieren und fokussieren sich lieber auf das Leid und Leben anderer, als sich ihrer eigenen Verantwortung zu stellen und sich trauen Fehler zu machen. Der einzige Weg Komplexität zu reduzieren ist Licht hinzubringen, wo es dunkel ist und sich Schritt für Schritt einem Thema nähern, indem es erstmal in kleine Teile zersetzt und dann wieder zu einem grossen Ganzen zusammengebaut wird. Eine gemeinsame Annäherung ist notwendig, um das grosse Ganze zu verstehen.

Mehr denn je müssen sich die Menschen aus Forschung und Praxis aus den verschiedenen Disziplinen zusammentun, so gut es nur geht, und einen Dialog starten. Nicht nur das, es muss sogar ein Dialog über den gemeinsamen Dialog per se stattfinden! Wenn so viele Menschen mit heterogenen Erfahrungen und Wissen zusammenkommen, wie würde man das angehen?

Unser Forschungsvorhaben vereinbart technische und nicht-technisches Überlegungen, um unserer Community eine bestmögliche Vorbereitung zu garantieren. Themen, Probleme, Dilemmata, was auch immer noch aufkommt, werden durch eine interdisziplinäre Linse untersucht, um sozialen, psychologischen und ethischen Impact zu analysieren und künftige Entwicklungen zu prognostizieren. Um letztlich dem grossen Ganzen, dem öffentliche Wohl, zu dienen.

Quellenangaben

• Zimbardo, P., Gerrig, R., & Graf, R. (2008). Psychologie. München: Pearson Education.
• Kaufman, J., & Sternberg, R. (2010). The Cambridge handbook of creativity. New York: Cambridge University Press.
• Stone, P. et al. (2016). Artificial Intelligence and Life in 2030. One Hundred Year Study on Artificial Intelligence: Report of the 2015-2016 Study Panel, Stanford University, Stanford, CA
• Landes M., Steiner E. (2013) Psychologie der Wirtschaft. In: Landes M., Steiner E. (eds) Psychologie der Wirtschaft. Psychologie für die berufliche Praxis. Springer VS, Wiesbaden
• Koch M., Werther S. (2013) Kreativität und Innovation in Organisationen – eine systemische Perspektive. In: Landes M., Steiner E. (eds) Psychologie der Wirtschaft. Psychologie für die berufliche Praxis. Springer VS, Wiesbaden
• Crowder, J. A., Carbone, J. N., & Friess, S. A. (2013). The Psychology of Artificial Intelligence. Artificial Cognition Architectures, 17-26. doi:10.1007/978-1-4614-8072-3_3

Über die Autorin

Marisa Tschopp hat ihren Master in Wirtschaftspsychologie an der Ludwig-Maximilians-Universität in München absolviert. Als Doktorandin am Leibniz Institut für Wissensmedien ist sie aktiv in der Forschung zu Künstlicher Intelligenz aus Humanperspektive, wobei sie sich auf psychologische und ethische Aspekte fokussiert. Sie hat unter anderem Vorträge an TEDx Events gehalten und vertritt die Schweiz als Ambassador in der Women in AI Initiative. (ORCID 0000-0001-5221-5327)

Links

• https://datahub.packtpub.com/machine-learning/20-lessons-bias-machine-learning-systems-nips-2017/
• https://twitter.com/mruef/status/952457464632500224
• https://www.scip.ch/publikationen/papers/scip_titanium_research_insight_aiq.pdf
• https://www.techrepublic.com/article/top-10-ai-failures-of-2016/
• https://www.theverge.com/2016/3/24/11297050/tay-microsoft-chatbot-racist