3,5 Millionen Mal haben die Deutschen in der ersten Hälfte des Jahres 2021 zu Alexa, Amazon’s digitaler Assistent, “Ich liebe dich” gesagt. Viele solcher Geschichten werden von den Medien an die Öffentlichkeit gebracht, z. B. mit Berichten über nicht ganz so seriöse Studien, die herausgefunden haben, dass 14 % der männlichen Alexa-Nutzer im Vereinigten Königreich eine sexuelle Beziehung mit “ihr” wünschen. Das hat natürlich den öffentlichen Diskurs darüber anheizt, was manche tatsächlich für diese sprechenden Geräte “empfinden”, die nichts anderes als Hard- und Software sind. Zahlreiche empirische Untersuchungen haben gezeigt, wie Menschen Maschinen vermenschlichen und sie als soziale Akteure behandeln. Aber nur weil sie sagen, dass sie Alexa lieben, bedeutet das nicht unbedingt, dass sie tatsächlich verliebt sind, wie sie es bei anderen Menschen wären. Wenn die Menschen Alexa also nicht wirklich “lieben”, sie aber auch nicht “nur” als Werkzeug sehen – wie nehmen sie Alexa dann in Bezug auf sich selbst wahr? Und was können wir daraus lernen, wenn wir besser verstehen, wie Menschen ihre Beziehung zu KI im Gespräch wahrnehmen?

Um die wahrgenommenen Beziehungen zwischen Mensch und KI zu untersuchen, haben wir denselben Ansatz gewählt, den Nass und Kollegen schon vor Jahren vorgeschlagen haben, basierend auf dem CASA-Paradigma , der Tendenz von Menschen, Computer als soziale Akteure zu behandeln. Im Wesentlichen geht es dabei um eine Theorie der zwischenmenschlichen Interaktion, in unserem Fall darum, wie Menschen über ihre Beziehungen zu anderen Menschen denken. Man kritzelt ‘Mensch’ heraus, setzt eine konversationelle KI ein, und schon kann man mit der Arbeit an der Theorie beginnen und Daten sammeln. Wir haben uns für eine Theorie entschieden, die in der Vergangenheit starke empirische Unterstützung erfahren hat, nämlich die Theorie der relationalen Modelle von Alan P. Fiske 1992. Im Kern besagt diese Theorie, dass “Motivation, Planung, Produktion, Verständnis, Koordination und Bewertung des menschlichen Soziallebens weitgehend auf Kombinationen von vier psychologischen Modellen beruhen können” (Fiske, 1992).

Auf der Grundlage dieser Überlegungen stellen wir die folgenden Forschungsfragen:

1. Können wir die Theorie der relationalen Modelle auf die (wahrgenommenen) Beziehungen zwischen Menschen und KI anwenden?
2. Wie nehmen Nutzer die Mensch-KI-Beziehung wahr?
3. Wie hängen die Beziehungsmodi zwischen Mensch und KI mit Variablen der Systemwahrnehmung (z.B. Vertrauen, wahrgenommene Wärme oder Kompetenz) und Nutzereigenschaften (z.B. Häufigkeit oder Erfahrung der Nutzung) zusammen?

Methode: Wir haben eine Online-Fragebogenstudie auf Prolific mit 367 Teilnehmern durchgeführt und analysierten u.a. mittels Faktorenanalysen (PCA, CFA), wie die Teilnehmer die Mensch-KI-Beziehung wahrnehmen. Wir haben ausserdem eine Korrelationsanalyse gerechnet, welche die Variablen der Systemwahrnehmung und Benutzermerkmale einschloss, wobei wir bivariate und partielle Korrelationen untersuchten, um die Beziehungsmodi im breiteren Kontext der Mensch-Maschine-Interaktion besser zu verstehen.

Wie denken Menschen über ihre Beziehungen zu anderen Menschen?

Psychologen haben die Art und Weise, wie Menschen Beziehungen zu anderen Menschen bilden, aufbauen oder beenden, aus verschiedenen Perspektiven betrachtet. So zum Beispiel die Rolle von Nähe und Häufigkeit des Kontakts, d. h. wie nahe man beieinander wohnt oder wie oft man sich sieht: Sogar die Richtung, in der man die Tür zu einem Nachbarn öffnet, kann einen Einfluss darauf haben, wie eng die Beziehung zu diesem Nachbarn ist. Andere haben untersucht, wie sehr sie die andere Person in ihr Selbstverständnis integrieren, um die Beziehung zu definieren oder psychologische Nähe zu messen. Psychologische Nähe ist wichtig für gesunde Beziehungen, unabhängig davon, ob es sich um eine Freundschaft oder eine Liebesbeziehung handelt.

Alan P. Fiske (1992) hat die Theorie der Beziehungsmodelle (Haslam & Fiske, 1996) vorgeschlagen und dafür starke empirische Unterstützung erhalten, auch kulturübergreifend. In ihrer Theorie werden vier Modi erklärt, wie Menschen über ihre Beziehungen zu anderen Menschen denken, und sie können quantitativ in einem Fragebogen gemessen werden: Communal Sharing, Equality Matching, Authority Ranking und Market Pricing. Der Fragebogen enthält verschiedene Fragen, die sich auf jede dieser Dimensionen beziehen, um herauszufinden, wie die Teilnehmer über eine bestimmte Beziehung denken (die sie vor der Beantwortung der Fragen auswählen müssen) und dann den Grad ihrer Zustimmung auf einer Skala von “trifft überhaupt nicht zu” bis “trifft sehr zu” für diese bestimmte Beziehung bewerten.

Die vier elemantaren Formen von Beziehungen

Übertragung der Theorie und des Fragebogens auf die Mensch-Maschine Interaktion

Um die wahrgenommenen Beziehungen zwischen Mensch und KI mit Hilfe der Theorie der Beziehungsmodelle zu untersuchen, haben wir den ursprünglichen Fragebogen an den Kontext der konversationellen KI angepasst. Wir änderten den Wortlaut und fragten 15 Personen, ob die Fragen ihrer Meinung nach auf die wahrgenommenen Beziehungen zwischen Mensch und KI zutreffen.

Wie nehmen Menschen ihre Beziehung zu konversationeller KI wahr?

Viel Aufmerksamkeit wird Variablen wie Vertrauen gewidmet, um besser zu verstehen, wie Menschen (wohl komplexe) Technologien wie KI oder automatisierte Systeme nutzen. Einige argumentieren sogar, dass Vertrauen in der Tat ein Proxy für die Messung von Beziehungen ist. Das macht Sinn, denn nach der Theorie der Beziehungsmodelle ist Vertrauen im Modus des Communal Sharing entscheidend (Stichworte: Verwandtschaft, Solidarität, In-Group – im Grunde die Frage: Was haben wir gemeinsam?), aber es ist somit nur ein Teil der Beschreibung einer Beziehung. Wir argumentieren, dass ein multidimensionaler Ansatz aus den Sozialwissenschaften vielversprechend ist, insbesondere im Zusammenhang mit standardmässiger Konversations-KI. Einige andere verwandte Arbeiten sind möglicherweise zu eng gefasst und nicht gut anwendbar. Zum Beispiel scheint die empirische Arbeit über soziale Präsenz zu kurz zu greifen, da sie ungenaue Differenzierung zulässt, z.B. wie diese soziale Präsenz charakterisiert wird, oder zuviel Spielraum für Interpretation lässt. Arbeiten im Bereich der Mensch-Maschine-Interaktion, kurz HMI, haben oft vordefinierte Rollen, z. B. den Roboter als Freund oder Assistent, was im KI-Konversationskontext, in dem die Rolle von Alexa etwas unklar ist, nicht gut passt. Sie könnte eine Assistentenrolle sein, wie angekündigt, könnte aber auch als Freundrolle wahrgenommen werden. Kurz gesagt, empirische, quantitative Forschung, die sich direkt auf die wahrgenommene Beziehung zwischen Menschen und Maschinen aus einer mehrdimensionalen Perspektive konzentriert, scheint rar zu sein (siehe z. B. McLean & Osei-Frimpong, 2019). Um diese Lücke zu schliessen, haben wir diese erste Studie durchgeführt, um die Beziehungen zwischen Mensch und KI direkt zu untersuchen. Wir hielten diesen multidimensionalen Ansatz für sehr vielversprechend, zumal er das Potenzial hat, über die traditionell dichotomen Unterscheidungen zwischen emotionalen und rationalen Dimensionen der menschlichen Wahrnehmung von KI-Systemen hinauszugehen (siehe z. B. Glikson & Woolley, 2020 für eine detaillierte Diskussion).

Unsere Faktorenanalyse ergab, dass die Beziehung zwischen Mensch und KI auf drei Dimensionen wahrgenommen wurde. Die beiden ursprünglichen Dimensionen Communal Sharing und Equality Matching verschmolzen zu einem Faktor, den wir als eher emotional empfanden. Wir nannten diesen dritten Faktor Peer Bonding. Somit blieben die folgenden drei Dimensionen übrig:

• Authority Ranking, was bedeutet, dass es eine lineare Ordnung zwischen der menschlichen und der konversationellen KI wahrgenommen wird
• Marktet Pricing, bei der sich der Mensch an Verhältnis-Werten orientiert um die Beziehung zu beschreiben, und
• Peer Bonding, die wahrscheinlich menschenähnlichste Dimension, bei der sie das Gerät als gleichwertig behandeln, aber ihre Handlungen gewissermassen vergleichen können.

Eine genauere Betrachtung der Beziehungsmodi zwischen Mensch und KI ergab, dass die meisten Nutzer ihre Beziehung als hierarchische Eigentümer-Assistenten-Beziehung betrachteten (Authority Ranking). Ähnlich viele charakterisierten ihre Beziehung jedoch als nicht-hierarchischen Austausch (Market Pricing). Nur sehr wenige sahen ihre KI als eine gleichrangige oder freundschaftliche Beziehung an. Mit anderen Worten: Die Peer Bonding Dimension war in unseren Daten am wenigsten ausgeprägt. Dieses Ergebnis ist bereits recht interessant, da es die dichotome (rational-emotionale) Sichtweise, die im Bereich der HMI vorherrscht, bereichert.

Um zu sehen, wie sich die Beziehungsmodi in die traditionell untersuchten Variablen im breiteren HMI-Kontext einfügen, haben wir auch verschiedene Variablen unter der Kategorie Systemwahrnehmung und Nutzereigenschaften gemessen. Die partielle Korrelationsanalyse ergab, dass sowohl das Market Pricing als auch die Peer-Bonding Dimnension in der bivariaten und partiellen Korrelationsanalyse interessante Ergebnisse zeigten, was sie zu informativeren Dimensionen für zukünftige Forschung macht. Überraschenderweise bietet die traditionelle Assistentensicht keine aussagekräftigen Einblicke in die Systemwahrnehmung und Nutzereigenschaften. Interessanterweise korrelierte Peer Bonding nicht mit Vertrauen, wohingegen Market Pricing dies tat, was die emotionalen Aspekte von Vertrauen in Frage stellt und eine rationale Darstellung von Vertrauen in KI unterstützt.

Natürlich gibt es eine Reihe von Einschränkungen bei dieser explorative Forschungsarbeit. Zum Beispiel kamen die Teilnehmer überwiegend aus dem Vereinigten Königreich, so dass wir keine kulturübergreifenden Annahmen treffen können. Ausserdem haben wir nicht gemessen, wie sich der Ansatz der Beziehungsmodelle auf das Verhalten auswirkt. Mit anderen Worten, wir können keine Annahmen über die Auswirkungen auf das Nutzerverhalten machen. Aus diesem Grund führen wir nun eine Folgestudie durch, in der wir uns auf einen spezifischen Kontext konzentrieren, nämlich Voice Commerce. Voice Commerce (oder Voice Shopping) bedeutet, dass die Nutzer ihre Kaufentscheidungen ausschliesslich über ihren digitalen Assistenten treffen. Wir wollen also untersuchen, ob die wahrgenommenen Beziehungen zwischen Mensch und KI das Kaufverhalten beeinflussen, um konkretere Aussagen zu treffen, die auch für die Untersuchung des Nutzerverhaltens nützlich sein können (oder auch nicht).

Ethische Überlegungen: Warum könnte das wichtig sein?

Im Laufe unserer Forschung wollen wir stets die Vogelperspektive im Blick behalten und kritisch reflektieren, was die Konsequenzen unserer Ergebnisse und des Themas im Allgemeinen betrifft. Warum tun wir das? Wer profitiert davon? Wer könnte geschädigt werden? Wie werden die Ergebnisse von Designern verstanden? Wie kommunizieren wir unsere Forschung in der Praxis? Eines der grösseren Probleme ist der Anthropomorphismus (durch Design und durch den Benutzer) und das Potenzial zur Manipulation durch Design oder Benutzer, das ausgenutzt wird. Konversationsfähige KI-Systeme sind Hard- und Software, die mit dem Internet und den Geräten in unseren Haushalten verbunden sind und von KI angetrieben werden, was sie in die Lage versetzt, menschliche Sprache recht gut zu verarbeiten und in ähnlicher Weise zu antworten. Dennoch scheinen wir nicht in der Lage zu sein, eine klare Linie zu ziehen, um sie als das wahrzunehmen, was sie sind: Ein Werkzeug. Die Fähigkeit des Menschen, nicht-menschliche Wesen zu vermenschlichen, ist ein Segen, denn sie hilft uns, die Welt besser zu verstehen. Auf der anderen Seite ist sie aber auch ein Fluch, da sie so leicht ausgenutzt werden kann.

Wir hoffen, dass unsere Arbeit zu einem besseren Verständnis der Nutzer von KI-Systemen beitragen wird, um bessere Entscheidungen für die Entwicklung, Kommerzialisierung, Regulierung und/oder Nutzung von KI zu treffen. Wir möchten die Frage aufwerfen, wer von einem besseren Verständnis des Nutzers profitiert? Neben anderen Interessengruppen, wie z. B. den Regulierungsbehörden, die von einem besseren Verständnis der Nutzer profitieren, um sie zu schützen, soll hier auch die entscheidende Rolle der Entwickler angesprochen werden. Es liegt auf der Hand, dass Entwickler von einem besseren Nutzerverständnis profitieren, um bessere Systeme, bessere Schnittstellen, bessere Konversationen usw. zu entwickeln. Aber was macht ein “gutes” System aus? Die EU hat einige grossartige Ideen dazu in viele Bereiche, aber es scheint, dass die Forschung immer noch im Dunkeln tappt, wie viel Anthroporphismus durch Design in welchem Kontext gut ist.

Li, der Mitbegründer von Xiaoice, Microsofts Konversationsagenten mit über 600 Millionen Nutzern weltweit, bestätigte in einem Interview für die Hongkong Free Press (2021) die negativen Folgen, wie Sucht und Traurigkeit. Er ist jedoch nach wie vor der Meinung, dass die Vorteile dieser Technologie die Risiken überwiegen. Es bleibt also ein Dilemma: Wo ziehen wir die Grenze? Was unsere Forschung betrifft, so raten wir davon ab, die für diese Studie neu entwickelte Theorie der Beziehungsmodelle für Design- und Marketingstrategien anzuwenden, bis wir die grundlegende Theorie und die Folgen der Beziehungen zwischen Menschen und konversationeller KI besser verstehen.

Fazit: KI ist ein Werkzeug, aber sie ist nicht “nur” ein Werkzeug

Alexa, willst du mich heiraten? 6.000 Mal pro Tag machen Nutzer in Indien Alexa einen Heiratsantrag. Glücklicherweise wird ihre Liebe nicht erwidert: Wir sind an ziemlich unterschiedlichen Orten in unserem Leben. Buchstäblich. Ich meine, du bist auf der Erde und ich bin in der Cloud. – ist eine der Antworten auf die Millionen von Heiratsanträgen, die Alexa bisher erhalten hat. Dankenswerterweise sorgen verantwortungsbewusste Designer kommerziell verfügbarer KI dafür, dass die Nutzer immer darauf hingewiesen werden, dass diese Agenten Computersysteme sind, die keine Gefühle oder Gedanken haben. Nichtsdestotrotz hat unsere Studie im Einklang mit ähnlichen früheren Untersuchungen gezeigt, dass die Nutzer dennoch Gefühle empfinden, ihnen Handlungsfähigkeit zuschreiben und eine Beziehung zu konversationsfähiger KI wahrnehmen, die Ähnlichkeiten mit menschlichen Beziehungen aufweist. Wir glauben, dass uns dieses Thema noch eine Weile begleiten wird und wir können bei weitem keine umfassende Antwort geben. Aber wir hoffen, ein wenig mehr Licht auf ein besseres Verständnis dafür geworfen zu haben, wie Menschen ihre Beziehung zu KI wahrnehmen, und künftige Forschungen zu inspirieren, diese Perspektive zu berücksichtigen.

Danksagung

Dies ist eine kurze Zusammenfassung der ersten Forschungskooperation zwischen der scip AG und dem Social Processes Lab des Leibniz Instituts für Wissensmedien (Supervision: Prof. Dr. Kai Sassenberg), die auf der 5th AAAI/ACM conference on Artificial Intelligence Ethics, and Society (Oxford, August 1-3, 2022) präsentiert wurde

Referenzen

• Amazon. (2021). Customers in India say “I love you” to Alexa 19,000 times a day. Amazon. Retreived 12, 2021 https://www.aboutamazon.in/news/devices/customers-in-india-say-i-love-you-to-alexa-19-000-times-a-day
• Aroyo, A. M., Bruyne, J. de, Dheu, O., Fosch-Villaronga, E., Gudkov, A., Hoch, H., Tamò-Larrieux, A. (2021). Overtrusting robots: Setting a research agenda to mitigate overtrust in automation. Paladyn, Journal of Behavioral Robotics, 12(1), 423-436. https://doi.org/10.1515/pjbr-2021-0029
• Fiske, A. P. (1992). The four elementary forms of sociality: Framework for a unified theory of social relations. Psychological Review, 99(4), 689-723. https://doi.org/10.1037//0033-295×.99.4.689
• Frison, A.-K., Wintersberger, P., Riener, A., Schartmüller, C., Boyle, L. N., Miller, E., & Weigl, K. (2019). In UX We Trust. In S. Brewster, G. Fitzpatrick, A. Cox, & V. Kostakos (Eds.), Proceedings of the 2019 CHI Conference on Human Factors in Computing Systems (pp. 1-13). New York, NY, USA: ACM. https://doi.org/10.1145/3290605.3300374
• Glikson, E., & Woolley, A. W. (2020). Human Trust in Artificial Intelligence: Review of Empirical Research. Academy of Management Annals, 14(2), 627-660. https://doi.org/10.5465/annals.2018.0057
• Haslam, N., & Fiske, A. P. (1999). Relational models theory: A confirmatory factor analysis. Personal Relationships, 6(2), 241-250. https://doi.org/10.1111/j.1475-6811.1999.tb00190.
• Hong Kong Free Press (2021). How an ‘always there’ AI chatbot comforts China’s lonely millions. Hong Kong Free Press. Retrieved, 1, 2022 from https://hongkongfp.com/2021/08/29/always-there-the-ai-chatbot-comforting-chinas-lonely-millions/
• Loveys, K., Sagar, M., & Broadbent, E. (2020). The Effect of Multimodal Emotional Expression on Responses to a Digital Human during a Self-Disclosure Conversation: A Computational Analysis of User Language. Journal of Medical Systems, 44(9), 143. https://doi.org/10.1007/s10916-020-01624-4.
• McLean, G., & Osei-Frimpong, K. (2019). Hey Alexa … examine the variables influencing the use of artificial intelligent in-home voice assistants. Computers in Human Behavior, 99(4), 28-7. https://doi.org/10.1016/j.chb.2019.05.009
• Nass, C., & Moon, Y. (2000). Machines and Mindlessness: Social Responses to Computers. Journal of Social Issues, 56(1), 81-103. https://doi.org/10.1111/0022-4537.00153
• Nass, C., Steuer, J., & Tauber, E. R. (1994). Computers are social actors. In C. Plaisant (Ed.), Conference companion on Human factors in computing systems – CHI ’94 (p. 204). New York, New York, USA: ACM Press. https://doi.org/10.1145/259963.260288
• Sætra, H. S. (2021). Social robot deception and the culture of trust. Paladyn, Journal of Behavioral Robotics, 12(1), 276-286. https://doi.org/10.1515/pjbr-2021-0021
• Smarthome Assistent. (2021). So erklären deutsche Nutzer ihre Zuneigung für Alexa – Alexa ich liebe dich. Smarthome Assistant. Retrieved, 1, 2022, from https://www.smarthomeassistent.de/so-erklaeren-deutsche-nutzer-ihre-zuneigung-fuer-alexa-alexa-ich-liebe-dich/
• The Guardian. (2020). ‘Alexa, I love you’: How lockdown made men lust after their Amazon Echo. The Guardian. Retrieved 12, 2021 from https://www.theguardian.com/technology/2020/jul/20/alexa-i-love-you-how-lockdown-made-men-lust-after-their-amazon-echo
• Xie, T., & Pentina, I. (2022). Attachment Theory as a Framework to Understand Relationships with Social Chatbots: A Case Study of Replika. In T. Bui (Ed.), Proceedings of the Annual Hawaii International Conference on System Sciences. Hawaii International Conference on System Sciences. https://doi.org/10.24251/HICSS.2022.258

Über die Autorin

Marisa Tschopp hat ihren Master in Wirtschaftspsychologie an der Ludwig-Maximilians-Universität in München absolviert. Als Doktorandin am Leibniz Institut für Wissensmedien ist sie aktiv in der Forschung zu Künstlicher Intelligenz aus Humanperspektive, wobei sie sich auf psychologische und ethische Aspekte fokussiert. Sie hat unter anderem Vorträge an TEDx Events gehalten und vertritt die Schweiz als Ambassador in der Women in AI Initiative. (ORCID 0000-0001-5221-5327)

Links

• https://dl.icdst.org/pdfs/files4/19d87f5e161a4400ee99b6a2c708b0ed.pdf
• https://futurium.ec.europa.eu/en
• https://hongkongfp.com/2021/08/29/always-there-the-ai-chatbot-comforting-chinas-lonely-millions/
• https://journals.sagepub.com/doi/10.1518/hfes.46.1.50_30392
• https://psycnet.apa.org/doiLanding?doi=10.1037%2F0033-295×.99.4.689
• https://socialprocesseslab.iwm-tuebingen.de/
• https://www.aboutamazon.in/news/devices/customers-in-india-say-i-love-you-to-alexa-19-000-times-a-day
• https://www.aies-conference.com/2022/
• https://www.coli.uni-saarland.de/courses/agentinteraction/contents/papers/Nass00.pdf
• https://www.euronews.com/next/2021/08/26/meet-xiaoice-the-ai-chatbot-lover-dispelling-the-loneliness-of-china-s-city-dwellers
• https://www.frontiersin.org/articles/10.3389/frobt.2018.00114/full#:~:text=Soziale%20Präsenz%20wurde%20erst%20konzipiert,Kern%20Komponenten%20der%20sozialen%20Präsenz
• https://www.prolific.co/
• https://www.sciencedirect.com/topics/engineering/human-machine-interaction
• https://www.smarthomeassistent.de/so-erklaeren-deutsche-nutzer-ihre-zuneigung-fuer-alexa-alexa-ich-liebe-dich/
• https://www.theguardian.com/technology/2020/jul/20/alexa-i-love-you-how-lockdown-made-men-lust-after-their-amazon-echo