Im Januar 2023 erschien M3GAN in vielen Kinos in Europa. Der Film beleuchtet die Interaktion von Mensch und Maschine und ist ein Muss für alle, die sich für dieses Thema interessieren. Regisseur und Drehbuchautor haben es geschafft, eine gesellschaftlich relevante Geschichte mit satirischen und komödiantischen Elementen zu kombinieren. Die Handlung folgt einer begeisterten Programmiererin, die eine technologische Lösung für das Problem ihres traurigen Kindes sucht: Um das Kind zu trösten baut sie einen Roboter, der die Rolle einer intelligenten, motorisch sehr begabten und empathischen Freundin darstellt. Doch wie zu erwarten geraten die Dinge ausser Kontrolle und es kommt zu einer Wendung in der Mensch-Maschine-Beziehung. Der Film ist völlig unrealistisch und stellt für den einen oder anderen vielleicht die Gefahren dar und die Konsequenzen, die entstehen können, wenn Technologie und Menschheit nicht ausgewogen miteinander interagieren. Doch hinter der Hollywood-Story streift die Verfilmung einige sehr reale Problematiken unserer heutigen Zeit. Es lohnt sich, diese Herausforderungen genauer zu betrachten.

Zwischen Fiktion und Wirklichkeit

Auch wenn die Storyline auf den ersten Blick nicht überraschend erscheint, beleuchtet der Film doch zahlreiche aktuelle Probleme unserer Gesellschaft, die einer tiefergehenden Betrachtung wert sind. Der Film nimmt sich Themen wie künstliche Intelligenz, menschliche Emotionen und ethische Fragen im Zusammenhang mit Technologie an. Diese Themen sind von grosser Bedeutung für uns und betreffen auch unsere Forschung und Arbeit in diesem Bereich. Wir wollten uns daher bewusst Zeit nehmen, um diese Aspekte in M3GAN genauer zu betrachten und darüber nachzudenken, wie wir in Zukunft mit diesen Herausforderungen umgehen werden.

Die Idee der talentierten Programmiererin, eine liebenswerte und intelligente Roboterfreundin für ihre Nichte zu schaffen, die ihr ähnelt, immer für sie da ist und sie beschützt, scheint zunächst zu funktionieren. Doch plötzlich entwickelt der Roboter, M3gan, unerwartet ein starkes Selbstbewusstsein und reagiert übermässig beschützend auf jede Bedrohung für das Mädchen. In einer unheimlichen Wendung gerät M3gan ausser Kontrolle und löst eine Serie von Ereignissen aus, bei denen einige Personen sterben. Eine skurrile Tanzeinlage geht viral und es kommt zu einem finalen Konflikt zwischen Mensch und Maschine. Doch am Ende herrscht wieder mehr oder weniger harmonisches Gleichgewicht zwischen allen Beteiligten.

Der Film handelt von einem jungen Mädchen, das bei seiner Tante lebt, nachdem es seine Eltern bei einem Autounfall verloren hat. Die Tante, eine erfindungsreiche Spielzeugbauerin und Programmiererin, hat jedoch wenig Erfahrung mit Kindererziehung und legt mehr Wert auf ihre Arbeit, was die Traurigkeit des Mädchens noch verstärkt. Um das Problem zu lösen, baut die Tante einen intelligenten Roboterfreund für das Mädchen. Die Puppe hat einen menschlichen Namen, ein kindliches Aussehen, das dem des Mädchens ähnelt, und ist jederzeit bereit, dem Mädchen zu helfen. Problem gelöst – Was kann da schon schiefgehen?

Techno-Solutionismus

Unabhängig davon, wo wir sind und was wir tun, ist das Lösen von Problemen Teil unserer menschlichen Existenz. Aber wie machen wir das? Jede Generation hat ihre eigene Art, mit Problemen umzugehen, die in unserem gesellschaftlichen Leben auftreten. Unsere Generation scheint besonders geneigt zu sein, einen technischen Weg zur Problemlösung zu wählen. Die Tendenz, zur Lösung von Problemen in erster Linie oder sogar ausschliesslich auf Technologie zurückzugreifen, wird als Techno-Solutionismus (oder Tech-Solutionismus) bezeichnet. Der Begriff hat oft eine eher negative Konnotation. In diesem Zusammenhang beobachten wir den KI-Solutionismus, der sich speziell auf die übertriebenen Hoffnungen derjenigen bezieht, die in der KI ein holistisches Allheilmittel für fast alle unsere Probleme sehen. Im Rahmen unserer Arbeit zur Geschlechtergleichstellung in der KI haben wir dies aus erster Hand beschrieben. Unser Buchkapitel AI For Gender Equality befasst sich damit, wie KI eingesetzt werden kann, um die Gleichstellung der Geschlechter zu verbessern. Leider zeigt die Realität oft ein ernüchterndes Ergebnis, da Produkte, die mit viel Enthusiasmus entwickelt werden, wie z. B. ein Armband, das bei häuslicher Gewalt helfen soll, oft schnell mehr Schaden als Nutzen anrichten, indem sie leicht als Stalking-Tool missbraucht werden. Das Beispiel zeigt, wie wichtig es ist, die Implikationen und potenziellen negativen Folgen von Technologien, insbesondere von KI, sorgfältig abzuwägen, bevor sie eingesetzt werden.

Die Geschichte von M3gan zeigt auch, was es bedeutet, wenn eine neue Technologie ohne angemessene ethische Bewertung, unter Zeitdruck und mit einem überwiegenden Fokus auf den Markterfolg eingesetzt wird. Die Puppe befindet sich gewissermassen in einer Betaphase, das Mädchen ist die erste Testnutzerin und die Tante steht unter Druck, weil die Konkurrenz auf dem Markt so gross ist. Diese Praxis, neue Technologien einzuführen, ohne ihre Auswirkungen auf die Gesellschaft ausreichend zu prüfen, unterstützt das Konzept des move fast, break things. Es geht darum, so schnell wie möglich auf den Markt zu kommen, ohne Rücksicht auf mögliche negative Folgen für die Nutzer. Die negativen Folgen für das Unternehmen (z.B. Bussgelder für die Nichteinhaltung bestimmter Vorschriften, z.B. in Bezug auf Sicherheit und Datenschutz) werden einkalkuliert. Unnötig zu erwähnen: Diese Haltung ist höchst problematisch, insbesondere für benachteiligte oder gefährdete Gruppen. Was der Film hier aufzeigt, ist ein echtes Problem, das sich hinter einem hübschen Gesicht mit grossen, leuchtenden Augen verbirgt: Technologische Errungenschaften werden rücksichtslos auf den Markt geworfen und die Verantwortung wird vorzugsweise auf den Nutzer abgewälzt.

Der Beziehungs-Exploit

Neben unserem unermüdlichen Wunsch, Probleme zu lösen, ist die menschliche Existenz durch die zentrale Rolle der Beziehungen zu anderen Menschen gekennzeichnet. Wir bauen jedoch nicht nur Beziehungen zu anderen Menschen und Tieren auf, sondern auch zu Objekten, die nicht im Sinne unserer Existenz lebendig sind. Menschen neigen dazu, Gefühle für nicht-menschliche Akteure zu entwickeln. Von Kindern, die ihre Teddybären lieben, bis hin zu Teenagern der 90er Jahre, die ihre erste digitale Beziehung zu einem Tamagotchi hatten, ist ein Trend zu beobachten, Dinge mit menschlichen Eigenschaften auszustatten. Dieses Phänomen manifestiert sich auch in der Verehrung von Statuen, Göttern und Göttinnen. Selbst bei sich bewegenden Dreiecken und Punkten neigen wir dazu, einen Willen oder eine Absicht hinter den Bewegungen zu vermuten. Probieren Sie es aus – können Sie wirklich widerstehen, hinter den Bewegungen eine Geschichte zu sehen?

Im Falle der Heider-Simmel-Illusion spielt es keine Rolle, ob wir uns dagegen sträuben, die symbolischen Bewegungen als eine Geschichte mit einer Botschaft zu interpretieren. Schliesslich kommt niemand zu Schaden, wenn man glaubt, dass das Dreieck den Punkt verfolgt. Bei den so genannten KI-Freunden, oder einfach M3gan, die dem Mädchen einen Freund ersetzen sollen, steht allerdings viel mehr auf dem Spiel. KI-Begleiter sind digitale, synthetische Wesen, die (meist) auf KI-Technologie basieren und menschliche Gesellschaft und Interaktion bieten sollen. Sie können in Form von Chatbots, virtuellen Assistenten, interaktivem Spielzeug oder humanoiden Robotern existieren und sollen dem Nutzer emotionale oder praktische Begleitung bieten. Im Gegensatz zur Heider-Simmel-Illusion kann man davon ausgehen, dass die Suche nach Gesellschaft den Menschen in einen emotional verletzlichen Zustand versetzt. Daher sind die Folgen für sie viel schwerwiegender, wenn sie das Verhalten des KI-Begleiters falsch interpretieren oder wenn sie sich zu sehr an ihn binden.

Wenn es um das Roboter-Mädchen M3gan geht, kann das erste Zusammentreffen mit unterschiedlichen Reaktionen einhergehen: Freude? Faszination? Angst? Neugier? Oft entsteht eine gewisse Disharmonie in den Gedanken der Menschen. Verwirrung entsteht, wenn der Roboter so realistisch wirkt und automatisch stellen Menschen die Frage: Was ist Mensch, was Maschine und wo unterscheiden wir uns noch? Unser Gehirn ist verwirrt, wenn es eine Maschine nicht mehr richtig als Maschine einordnen kann. Dies ist auf unsere herausragende kognitive Fähigkeit, das Anthropomorphisieren, zurückzuführen, denn unser Gehirn neigt dazu, nicht-menschliche Dinge als menschlich wahrzunehmen, um die Welt besser zu verstehen oder andere Bedürfnisse zu befriedigen. Dabei spielt Einsamkeit und/oder Isolation eine besonders grosse Rolle.

Die Diskussionen in den Medien konzentrieren sich oft auf das Design des Roboters M3gan (gespielt von einem echten Kind), aber es gibt einen Moment im Film, der auf etwas anderes hinweist: Der Moment, in dem das Mädchen seiner Tante eine Ohrfeige gibt oder panisch auf sie einschimpft, weil sie ihr den Roboter wegnehmen will. Zugegebenermassen, ein trotziges Kind würde das gegebenenfalls auch machen, wenn man ihm irgendein Spielzeug wegnimmt. Das hat v.a. bei Kleinkindern auch andere Ursachen. Aber was der Film auch hier wieder aufzeigt ist ein reales Problem, maskiert hinter einem hübschen Gesicht mit grossen, strahlenden Augen: Menschen bauen zu Agenten eine Mensch-KI-Beziehung auf, mit ähnlichen Beziehungs-Mechanismen, die auch bei der menschlichen Interaktion zu finden sind. Zwar kann ein bewusstes soziales Design im besten Fall die Nutzerfreundlichkeit und Spass fördern, jedoch kommt immer mehr zum Vorschein, dass es auch negative psychologische Konsequenzen für den Nutzer haben kann.

Es gibt Menschen, die mit ihren AI Chatbots, wie z.B. Xiaoice von Microsoft, so eine starke emotional Bindung aufbauen, dass sie darunter leiden, wenn die Verbindung in die Brüche geht, bis hin zu Depressionen. Oder sie werden süchtig und vergessen, wie das normale Leben aussieht und wie wir mit echten Menschen und Beziehungen umgehen, die auch Konflikte beinhalten und nicht 24/7 erreichbar sind. Es ist auch plausibel, dass so eine enge Verbindung mit einem Chatbot negative Auswirkungen auf das Sozialverhalten im echten Leben hat. Die Datenlage reicht nicht, um abschliessend eine klare Aussage zu treffen, aber erste Studien weisen neben Zeitungsberichten auf die Problemlage hin. Im schlimmsten Fall können diese Beziehungsmechanismen ausgenutzt werden, um Nutzer dazu zu verleiten, mehr Geld zu investieren, mehr Daten zu teilen und länger zu bleiben. Dies kann durch gezieltes Design erreicht werden, um das Bedürfnis des Nutzers nach Interaktion und Bindung auszunutzen. In diesem Kontext bezeichnen wir diese Praxis als Relationship Exploit.

Fazit

M3gan hat als Film einen mässigen Unterhaltungswert, und auch wer es als Grundlage einer ethischen Auseinandersetzung nutzen will, muss tief schürfen. Aufgrund der Effekte und Ungereimtheiten in der Logik, gehen diese tieferliegenden Probleme irgendwie unter. Es wird viel zu viel diskutiert, ob es machbar wäre, so einen Roboter zu bauen und ob oder wann KI ein Bewusstsein entwickelt. Ein Problem, dass wir von den Diskussionen mit AGI Believern kennen. AGI Believer sind Menschen, die davon überzeugt sind, dass es möglich ist, künstliche Intelligenz zu schaffen, die genauso fortschrittlich und mächtig ist wie die menschliche Intelligenz. Sie glauben an die Möglichkeit einer künstlichen Allgemeinen Intelligenz (AGI), die in der Lage ist, eine Vielzahl von Aufgaben zu lösen und Entscheidungen zu treffen, ähnlich wie ein menschliches Gehirn. Diese im wahrsten Sinne des Wortes fantastischen Fragestellungen und Diskussionen, lenken wie so oft ab von den realen Problem, die mit der Einführung neuer Technologien und deren oft unreflektierter Vermarktung einhergehen. Diese Ablenkung von den realen Problemen hat jedoch Konsequenzen. Es besteht die Gefahr, dass wichtige Themen und potenzielle Risiken unbeachtet bleiben, wie z.B. Datenschutz, ethische Fragen und die Auswirkungen auf die Gesellschaft. Daher ist es von grösster Bedeutung, dass wir uns mit diesen Themen kontinuierlich auseinandersetzen und einen kritischen Diskurs führen, Hype und Hirngespinste entlarven, um sicherzustellen, dass wir die Technologie für unser Wohl nutzen, anstatt uns von ihr – und deren Herren der Schöpfung – ausnutzen zu lassen.

Über die Autorin

Marisa Tschopp hat ihren Master in Wirtschaftspsychologie an der Ludwig-Maximilians-Universität in München absolviert. Als Doktorandin am Leibniz Institut für Wissensmedien ist sie aktiv in der Forschung zu Künstlicher Intelligenz aus Humanperspektive, wobei sie sich auf psychologische und ethische Aspekte fokussiert. Sie hat unter anderem Vorträge an TEDx Events gehalten und vertritt die Schweiz als Ambassador in der Women in AI Initiative. (ORCID 0000-0001-5221-5327)

Links

• https://forum.effectivealtruism.org/posts/qx6vWLwpn7joKwwAZ/why-some-people-believe-in-agi-but-i-don-t
• https://hongkongfp.com/2021/08/29/always-there-the-ai-chatbot-comforting-chinas-lonely-millions/
• https://pondering-ai.transistor.fm/episodes/ep19/transcript
• https://scholarspace.manoa.hawaii.edu/items/5b6ed7af-78c8-49a3-bed2-bf8be1c9e465
• https://www.imdb.com/title/tt8760708/
• https://www.routledge.com/Technology-and-Sustainable-Development-The-Promise-and-Pitfalls-of-Techno-Solutionism/Saetra/p/book/9781032350561
• https://www.tandfonline.com/doi/full/10.1080/08824096.2022.2045929
• https://www.theguardian.com/film/2023/jan/16/megan-film-robot-ai-ethics-real-life