scip Monthly Security Summary Ausgabe Dezember 2025

Vorhersagen

port pier ground red closeup

Editorial

Dezember 2025: Cybersecurity als Vorstufe physischer Kriegsführung

Das kommende Jahr markiert keinen graduellen Fortschritt, sondern einen Phasenwechsel: Künstliche Intelligenz, insbesondere autonome und semi-autonome AI Agents, verlässt endgültig den Bereich der Assistenz und tritt in den Raum der operativen Eigenständigkeit ein. In der Cybersecurity bedeutet das vor allem eines: Die Trennung zwischen Offense und Defense wird nicht nur unschärfer, sie wird dynamisch.

Vom Tool zum Akteur

Bisher waren KI-Systeme Werkzeuge in menschlichen Händen. Im nächsten Jahr werden AI Agents zunehmend selbstständig Ziele priorisieren, Angriffe anpassen, Abwehrmechanismen umgehen und Gegenmassnahmen antizipieren: in Echtzeit und mit minimaler menschlicher Intervention.

Auf der Offense-Seite sehen wir den Übergang von statischen Angriffskampagnen zu lernenden Angriffssystemen, die ihre Taktik während der Ausführung verändern. Phishing, Exploit-Ketten oder Supply-Chain-Angriffe werden nicht mehr vorab gebaut, sondern situativ generiert.

Die Defense reagiert mit eigenen Agenten: autonomes Threat Hunting, selbstheilende Netzwerke, adaptive Zero-Trust-Architekturen. Doch das Kräfteverhältnis ist und bleibt asymmetrisch. Angriff braucht nur einmal Erfolg, Verteidigung muss immer funktionieren. AI Agents verschärfen genau dieses Ungleichgewicht.

Cyber als Vorfeld physischer Gewalt

Was dies grundlegend verändert, ist die enge Kopplung von Cyber-Operationen mit physischer Kriegsführung. Cyberangriffe sind nicht länger Vorbereitung oder Begleitmusik, sie werden integraler Bestandteil kinetischer Operationen.

Autonome Drohnensysteme, Schwärme, Logistikplattformen oder Aufklärungseinheiten sind softwaredefiniert, vernetzt und datenabhängig. Wer die digitale Ebene kontrolliert, beeinflusst direkt die physische Wirkung:

  • Manipulierte Sensordaten führen zu falschen Zielentscheidungen
  • Verzögerte oder verfälschte Kommunikation destabilisiert Schwärme
  • Übernommene Steuerungslogik verwandelt defensive Systeme in Risiken

AI Agents beschleunigen diese Prozesse massiv. Entscheidungen, für die früher menschliche Kommandostrukturen nötig waren, werden algorithmisch vorverlagert, oft unter Zeitdruck, oft ohne vollständige Transparenz.

Die neue Eskalationslogik

Damit verändert sich auch die Logik der Eskalation. Wenn autonome Systeme auf autonome Systeme reagieren, verkürzt sich der Entscheidungsraum. Missverständnisse, Fehlklassifikationen oder manipulierte Daten können physische Gewalt auslösen, ohne dass ein klarer menschlicher GO-Moment existiert.

Das nächste Jahr wird daher weniger von spektakulären Durchbrüchen geprägt sein, sondern von einer unbequemen Erkenntnis:

Cybersecurity ist keine IT-Disziplin mehr, sie ist militärische Infrastruktur.

Verantwortung ohne Präzedenz

Gesellschaftlich und politisch stehen wir vor einer Leerstelle. Regulierung, Völkerrecht und ethische Leitplanken sind nicht auf autonome, lernende Akteure in sicherheitskritischen Systemen ausgelegt. Gleichzeitig schreitet die technologische Realität schneller voran als jede Governance-Struktur.

Die entscheidende Frage lautet daher nicht, ob AI Agents offensiv und defensiv eingesetzt werden, das ist bereits entschieden. Die Frage ist, wie viel Kontrolle wir bereit sind abzugeben, und ob wir Mechanismen entwickeln, die Verantwortung, Transparenz und Deeskalation auch in einer agentengetriebenen Welt ermöglichen.

Fazit

Das kommende Jahr wird der Moment sein, in dem wir erkennen, dass die Grenze zwischen digitalem und physischem Konflikt faktisch aufgehoben ist. AI Agents sind dabei nicht nur Beschleuniger, sie sind Katalysatoren eines neuen sicherheitspolitischen Zeitalters. Wer Cybersecurity weiterhin isoliert betrachtet, wird strategisch überrascht werden. Wer sie als integralen Bestandteil moderner Kriegsführung versteht, hat zumindest die Chance, vorbereitet zu sein.

Greifen Sie auf unser Wissen, unsere Erfahrungen und unsere Ressourcen zurück. Wir unterstützen Sie professionell. Wir freuen uns sehr Sie zu unserer Leserschaft zählen zu dürfen, herzlichen Dank von der gesamten scip AG. Viel Spass beim lesen der spannenden Artikel sowie dem durchstöbern des aktuellen scip monthly Security Summary.

Red Team Assessment, Ihre Firma aus der Perspektive eines Gegners

Red Team Assessment, Ihre Firma aus der Perspektive eines Gegners

Baseline Security Assessment, Attack Simulation Assessment, Red Team Assessment, Purple Team Assessment. Unser Red Team ist Ihr richtiger Partner.

News

Das ist bei uns passiert

Gastvorlesung an der HSG School of Computer Science

Ein wiederkehrendes und wichtiges Betätigungsfeld der scip AG ist die Ausbildung neuer Talente und der essentielle Wissenstransfer. Nur im Austausch und gemeinsam kann das Cybersecurity Wissen gefördert werden.

Am 17. Dezember 2025 hält Dr. Marisa Tschopp, eine erneute Gastvorlesung an der HSG School of Computer Science.

Verbessern wir die Cybersecurity gemeinsam.

20min Interview zu Downtime bei Webland

Webland hat seit über zwei Wochen grosse Hosting- und Service Ausfälle. Keine erfreuliche Erfahrung für alle Kunden des Hosters. Viele Websites und E-Mail-Dienste sind betroffen. Der renommierte Cybersecurity Experte Marc Ruef wird dazu befragt.

Machen wir die Welt einen sichereren Ort, profitieren auch Sie von unserer Erfahrung und Expertise.

Interview TV Premiere

Im neuen TV Spielfilm zur Serie (u.a. mit Tom Beck) theother gAIrl geht es, wie der Titel schon erahnen lässt, über die Chancen und Gefahren von Digitalen Beziehungen. Interaktionen zwischen Mensch und Maschine (hier AI) sind die Expertise unserer Dr. Marisa Tschopp. Im Interview zur Premiere, kommt sie zu Wort.

Wie können AI und AI Agents im Zusammenspiel mit LLM’s im Berufsalltag prozessoptimierend eingesetzt werden? Wir unterstützen Firmen mit unserer Erfahrung und unserem Wissen im Themenbereich der künstlichen Intelligenz ganzheitlich und menschlich.

Fachartikel

Aktuelle Erkenntnisse

Wie jedes Jahr möchten wir auch zum Ende des Jahres 2025 einen Forecast für das kommende Jahr 2026 machen. Nachfolgend eben jene Themen, die sich unseres Erachtens manifestieren oder gar noch weiterentwickeln werden. Unabhängig dessen: Bleiben Sie gesund!

KI im Cybercrime-Bereich erhöht Professionalisierung

Der Einfluss von Künstlicher Intelligenz im Cybercrime-Bereich kann in drei Phasen unterteilt werden. In der bisherigen ersten Phase haben KI-Tools die Hürde gesenkt, indem Einsteiger ohne viel Vorwissen und Aufwand gewisse Angriffe anstreben konnten. Nun entwickeln wir uns in die zweite Phase, in der Cybercrime-Angriffe dank KI stark professionalisiert werden können. Zum Beispiel werden Voice-Cloning und Deepfakes in Echtzeit möglich, die Social Engineering auf ein neues Level bringen werden. Langfristig ist in einer dritten Phase mit durch LLMs orchestrierte Angriffsszenarien zu rechnen, in denen ganze Teams und Abläufe vorgetäuscht werden.


Ransomware-Angriffe verändern sich

Seit mehreren Jahren werden Firmen durch Ransomware-Angriffe geplagt. Diese ändern sich aber zunehmend. Datenextortion und Doppelte Erpressung bleiben zwar weiterhin relevant. Doch gerade weil Backup-Strategien oftmals solide Lösungen gewähren, wird die Menge der Zahlungen tendenziell sinken. Um die Umsatzzahlen der Kriminellen hoch zu halten, werden die Anzahl und die Reichweite der Attacken erhöht werden. Das Thema bleibt also auch zukünftig hochgradig relevant und darf nicht unterschätzt werden.


Anhaltende Zunahme von veröffentlichten Schwachstellen

Die Anzahl der im Jahr 2025 veröffentlichten Schwachstellen wird auf einem sehr hohen Niveau mit ca. 47’600 enden. Dies entspricht einem Anstieg von 20 gegenüber des Vorjahres. Nimmt man den durchschnittlichen Wachstum der vergangenen zwei Jahre, dann ist im kommenden Jahr 2026 mit einem Total von über 60’000 Schwachstellen zu rechnen. Diese schiere Menge an Daten macht es dringend erforderlich ein professionelles Vulnerability Management zu etablieren. Nur so können Schwachstellen frühzeitig erkannt, eingeschätzt, priorisiert und koordiniert abgearbeitet werden.


Berufe mit hoher Systematik durch KI unter Druck

Die Industrialisierung und Digitalisierung hat traditionell einfachere Arbeiten wegrationalisieren können. Die gegenwärtigen Entwicklungen im Bereich der Künstlichen Intelligenz bringen aber plötzlich Arbeiten in Bedrängnis, die eine gute Ausbildung und ein hohes Mass an Systematik erfordern. Zum Beispiel werden Diagnosefähigkeiten im Gesundheitsbereich mit den entsprechenden Entwicklungen revolutioniert. Bei unseren Auswertungen der Analyse von Security-Advisories hat ChatGPT im Januar diesen Jahres eine geringe Erfolgschance von 50% gehabt. Im Mai wurde aber schon 80% erreicht. Gewisse Arbeiten, dies betrifft eine Vielzahl von Branchen, werden also entsprechend sehr schnell ein Umdenken erfordern müssen.


Schatten-KI stellt Unternehmen vor Herausforderungen

Moderne LLMs sind eine hilfreiche Lösung, um gewisse Arbeiten vereinfachen oder zum grossen Teil automatisieren zu lassen. Viele Mitarbeiter pflegen deshalb auf Produkte wie Gemini, Claude oder Perplexity zurückzugreifen. Das Problem dabei ist, dass diese Tools mehr oder weniger unabsichtlich mit heiklen Daten bearbeitet werden können. Dieses Risiko wird durch Mitarbeiter aber oft nicht wahrgenommen oder vernachlässigt. Dadurch etabliert sich in einem Unternehmen eine Schatten-KI, die nicht kontrolliert werden kann. Unternehmen tun gut daran, sich eine KI-Strategie zu überlegen und eigene Lösungen zu etablieren, um die Risiken in diesem Zusammenhang überschaubar machen.


Staatliche und rechtliche Regulierung nimmt zu

Durch das Erweitern von staatlicher und rechtlicher Regulierung werden die Bereiche Cybersicherheit und Künstliche Intelligenz stark beeinflusst. Zum Beispiel durch das Einführen des EU Artificial Intelligence Act im August 2026, der massgeblichen Einfluss auf die Nutzung von KI haben wird. Oder der EU Cyber Resilience Act (CRA), der ab September 2026 die Meldepflichten für aktiv ausgenutzte Schwachstellen und Sicherheitsvorfälle für Hersteller von Produkten mit digitalen Elementen voraussetzt. Die westlichen Länder tun gut daran, eine Überregulierung zu vermeiden, um technisch und damit geopolitisch nicht abgehängt zu werden.


Sind Sie bereit?

Unsere Spezialisten kontaktieren Sie gern!

Wie jedes Jahr möchten wir auch zum Ende des Jahres 2015 einen IT Security Forecast für das kommende Jahr 2016 machen. Nachfolgend eben jene Themen, die sich unseres Erachtens manifestieren oder gar noch weiterentwickeln werden:

Cybersecurity als Hauptthema

Die Information Security im Allgemeinen und IT Security im Speziellen sind Themen, die sich nicht mehr von der modernen Informationsgesellschaft entkoppeln lassen. Global wird das Thema Cybersecurity immer mehr zu einem integralen Aspekt unseres Lebens. Sei dies nun im kleinen Rahmen im privaten Bereich oder im grossen Rahmen in einem kommerziellen oder militärischen Kontext. Sämtliche Facetten unseres Lebens werden schon heute oder in absehbarer Zukunft dadurch tangiert. Regierungsstellen und die Gesetzgebung werden sich immer intensiver mit dem technologischen Fortschritt und seinen Abhängigkeiten auseinandersetzen müssen.

 

Wearables werden salonfähig

Das Thema Wearables ist seit bald zwei Jahren diskussionswürdig. Bisher hat es eher ein Nischendasein gefristet und wurde von einigen wenigen technikaffinen Enthusiasten gefeiert. Zwar konnte die Veröffentlichung der Apple Watch die breitflächige Etablierung solcher Geräte vorantreiben – Der Zenit ist aber sowohl technologisch als auch gesellschaftlich noch lange nicht erreicht. Mit der Veröffentlichung der TAG Heuer Connected wurde eine erste ansehnliche Smartwatch eines klassischen Luxusuhren-Herstellers gefeiert. Dies deutet an, wo diese Sparte hingehen wird: Smartwatches werden zu einem nützlichen Accessoire mit Statussymbolcharakter. Andere Hersteller, wie zum Beispiel die Swatch Touch Zero One, werden folgen.

 

Drohnen führen zu konkreten Diskussionen

Fliegende Drohnen haben im vergangenen Jahr einen unglaublichen Boom erfahren. Und mit diesem auch der Skeptizismus der Bevölkerung gegenüber den neuen Fluggeräten. Man sieht die eigene Privatsphäre bedroht. Ebenso setzen sich Firmen zunehmend mit der Abwehr von Drohnen auseinander, um Schutz und Sicherheit für Mitarbeiter, Anlagen und Erzeugnisse gewährleisten zu können. Es ist damit zu rechnen, dass die konkreten Diskussionen zum Thema Drohnen zunehmen und breitflächig in den Medien diskutiert werden. Dies könnte unmittelbare Folgen für die Rechtslage und den Verkauf der Geräte haben. Bei allem Skeptizismus darf man aber nicht die Möglichkeiten ausser Acht lassen, die sich mit dem Einsatz von Drohnen erschliessen lassen. Der Drohnenmarkt befindet sich im stetigen Wachstum und wird erst in ein paar Jahren seinen Höhepunkt erreichen.

 

Tesla und andere Innovationen

Der Autohersteller Tesla wird das neue Model III vorstellen und damit voraussichtlich einmal mehr die festgefahrene Autoindustrie wachrütteln. Dadurch werden Innovationen auch von alteingesessenen Herstellern erforderlich. Dies zeichnet sich ab, indem zum Beispiel BMW das Modell 740e mit einem Hybridmotor auf den Markt bringen wird. Gerade die europäischen Autohersteller haben hier noch verhältnismässig viel Aufholbedarf. Dass für diese die technologische Komponente des Fahrerlebnisses immer wichtiger wird, zeigt der durch Audi, BMW und Mercedes durchgeführte Kauf der Kartentechnologie HERE von Nokia. Die stetig eingebrachten Innovationen werden sich zunehmend etablieren und damit klassische Mechanismen ablösen oder erweitern können.

 

DRM/RMS werden vieles verändern

Die beiden Begriffe Digital Rights Management (DRM) und Rights Management Services (RMS) werden die kommenden Jahre prägen. Dadurch wird es möglich, dass Dateien mit zusätzlichen Rechten versehen werden. Diese können dann nur noch von bestimmten Benutzergruppen in einer beliebigen Software geöffnet, mit Copy & Paste kopiert oder per Email verschickt werden. Die der Datei anhaftenden Attribute bleiben auch bei einer Weitergabe bestehen. Microsoft bietet zwar seit Windows Vista diesen Mechanismus an, doch erst mit Windows 10 und Server 2016 werden die Möglichkeiten so einfach erschliessbar. Dass Microsoft den Hersteller Secure Islands aufgekauft hat, der seinerseits die Nutzung von DRM/RMS noch vereinfachen wird, zeigt die Ernsthaftigkeit, mit der Microsoft dieses Thema vorantreiben will. Microsoft geht hier mit einer gewissen strategischen Offenheit an das Thema heran, denn ein SDK ist sowohl für Linux- als auch für Apple-Geräte verfügbar.

 

Microsoft Produkte “2016” mit Cloud-Support

Microsoft etabliert eine weitreichende Erneuerung verschiedener Produktelinien im Verlauf des Jahres. Dazu gehören Microsoft Office 2016, SharePoint 2016, Skype for Business 2016. Die zentrale Neuerung der neuen Generation ist die Cloud-Einbindung. Sie führt zusätzliche Funktionen und mehr Komfort ein, birgt aber auch Sicherheitsrisiken und Bedenken bezüglich der Privatsphäre. Firmen mit hohen Sicherheitsanforderungen versuchen vergeblich Alternativen zu finden. Stattdessen wird man Risiken akzeptieren und mit flankierenden Massnahmen adressieren müssen.

 

Micro Virtualization als wichtiges Werkzeug

Virtualisierung wird traditionellerweise für ganze Betriebssysteme umgesetzt. Einen Schritt weiter geht die Micro-Virtualization, bei der einzelne Anwendungen und Prozesse in einem virtuellen Kontext betrieben werden. Dadurch können gerade von Cloud-Mechanismen abhängige Applikationen für sich isoliert und damit sicherer betrieben werden. Da die Cloud im Windows-Umfeld immer mehr in den Mittelpunkt rückt, werden die Möglichkeiten der Isolierung zunehmend wichtiger.

 

Sind Sie bereit?

Unsere Spezialisten kontaktieren Sie gern!

Treten Sie ein in die Welt des sprachgesteuerten Handels, eines aufkommenden Handelssystems, bei dem Verbraucher mühelos Produkte über Sprachschnittstellen wie Amazons Alexa suchen, kaufen und verfolgen können. Die einen sehen darin die Zukunft des elektronischen Handels, die anderen stehen ihm skeptisch gegenüber. Trotz seines Potenzials hat sich das Voice-Shopping noch nicht überall durchgesetzt, was sein Wachstum vor verschiedene Herausforderungen stellt. Unsere Forschung zielt darauf ab, die Wahrnehmung der Beziehung zwischen Verbraucher und KI zu erforschen, um das Verhalten in diesem aufkommenden neuen Bereich des Conversational Shopping zu beleuchten.

Drei Jahrzehnte später hat das Einkaufserlebnis ein neues Niveau an Komfort und Interaktivität erreicht. Mit KI-Assistenten wie Alexa müssen Sie nicht einmal mehr einen Finger auf Ihren Computer legen. Führen Sie einfach ein Gespräch mit Ihrem KI-Assistenten, und schon sind Sie startklar. Sie können ihn anweisen, in Ihrem Namen einen Kauf zu tätigen. Die Funktionen des Voice Shoppings haben den Prozess wirklich rationalisiert und machen langwieriges Suchen oder mühsames Tippen überflüssig. Wie Wally Brill, eine Legende im Bereich Konversationsdesign, es ausdrückt: Sie stehen in der Küche und bereiten ein köstliches Abendessen mit rohem Hähnchen zu, während Sie gleichzeitig mühelos per Sprachbefehl Artikel in Ihren Einkaufswagen legen. Es ist eine ganz neue Ära des Multitaskings und nahtloser Einkaufserlebnisse, wie sie in der Werbung dargestellt werden.

So faszinierend diese Fortschritte auch sind, so wichtig ist es, die Auswirkungen dieses technologischen Fortschritts kritisch im Auge zu behalten. Voice Shopping scheint zwar unvergleichlichen Komfort zu bieten, wirft aber auch Bedenken hinsichtlich Datenschutz und Sicherheit auf. Da wir uns beim Einkaufen immer mehr auf KI-Assistenten verlassen, sammeln diese erhebliche Mengen an persönlichen Informationen über unsere Vorlieben und Gewohnheiten. Diese Daten können für gezielte Werbung wertvoll sein, aber sie machen die Verbraucher auch anfällig für mögliche Datenschutzverletzungen oder Missbrauch. Ein Gleichgewicht zwischen Innovation und dem Schutz der Privatsphäre der Nutzer zu finden, bleibt eine entscheidende Herausforderung für die Zukunft des “Voice Shoppings” und der KI-Technologien für Unterhaltungen.

Obwohl Voice Shopping unter den Begriff E-Commerce fällt, unterscheidet es sich erheblich von den traditionellen Online-Einkaufsmethoden. Bei der Erforschung dieses Bereichs erkennen wir, wie wichtig es ist, geeignete Forschungsmethoden auszuwählen, um seine einzigartige Dynamik zu verstehen. In unserer jüngsten Studie wollten wir uns ein besseres Bild davon machen, wie die Menschen per Sprache einkaufen. Deshalb haben wir über 300 erfahrene Voice-Shopper im Vereinigten Königreich (im Jahr 2022) befragt, um aus erster Hand einige beschreibende Daten zu erhalten.

Welches Gerät verwenden Sie für das Voice-Shopping? Benutzen Sie beim Voice-Shopping einen Bildschirm? Wie oft nutzen Sie Voice-Shopping? Seit wann nutzen Sie Voice-Shopping? Durchschnittliche Ausgaben pro Jahr in £ (GBP)?
  • 75% nutzen nur einen Smart Speaker zu Hause
  • 11 % nutzen nur ein Smartphone
  • 14 % nutzen beide oder andere Geräte
  • 54 % schauen nicht auf einen Bildschirm
  • 37 % schauen auf einen Bildschirm und sehen die Produkte
  • 9% machen beides
  • 32% kaufen mehrmals im Monat per Sprache ein
  • 29% kaufen monatlich per Sprache ein
  • 19% alle 2-3 Monate
  • 15% etwa 1-2 Mal pro Jahr
  • 4% täglich und 1% weniger als jährlich)
  • 34% machen Voice Shopping seit 1-2 Jahren
  • 28% seit 2-3 Jahren
  • 22 % seit mehr als 3 Jahren
  • 16% seit weniger als 12 Monaten
Durchschnitt = 415,82 GBP

Sprachassistenten als Quasi-Verkaufsagenten?

Interessanterweise scheint Voice-Shopping konzeptionelle Ähnlichkeiten mit der Entscheidungsfindung in stationären Geschäften aufzuweisen, wo die Kunden von Angesicht zu Angesicht mit dem Verkaufspersonal interagieren. Wir vermuten, dass Kunden ihre KI als Quasi-Verkaufsagenten wahrnehmen, die sie ähnlich wie menschliche Verkäufer dabei unterstützen, informierte Kaufentscheidungen zu treffen.

Die Wahrnehmung von KI als Shopping-Assistenten wurde in der Forschung bisher nicht ausreichend berücksichtigt, obwohl es eine Vielzahl von Studien zu Empfehlungssystemen gibt. Darüber hinaus stellen die vorliegenden Ergebnisse ein Paradoxon dar und zeigen, dass KI-Gespräche sowohl Gefühle der Befähigung als auch der Freundschaft hervorrufen können, wenn auch für bestimmte Produkte.

Zusammenfassend lässt sich sagen, dass die langsame Akzeptanz von Voice Shopping und die widersprüchlichen Ergebnisse der bisherigen Forschung uns dazu veranlassen, die mögliche Verbindung zwischen Kaufpräferenzen und der Wahrnehmung der KI-Assistenten durch die Verbraucher zu untersuchen. Wenn wir diese Dynamik verstehen, können wir vielleicht die Faktoren entschlüsseln, die eine breite Akzeptanz von Voice Shopping fördern oder behindern.

Was sind die Beziehungen zwischen Mensch und KI?

Haben Sie sich jemals gefragt, warum wir Maschinen so behandeln, als wären sie fast menschlich? Dies ist ein faszinierender Trend, der sich in vielen Studien zur Erforschung der Beziehungen zwischen Mensch und KI zeigt. Wir können einfach nicht anders, als diesen robotischen Gegenstücken Emotionen und Absichten zuzuordnen. Es ist, als ob unsere Gehirne so verdrahtet sind, dass Maschinen sich eher wie einer von uns fühlen. Es ist bemerkenswert, wie wir dazu neigen, Maschinen zu vermenschlichen, indem wir ihnen Gefühle und Absichten zuschreiben, als wären sie einer von uns. Dieser merkwürdige Aspekt hat Experten dazu veranlasst, psychologische Theorien heranzuziehen und sie auf unsere Interaktionen mit KI anzuwenden, um unser Verhalten zu verstehen und vorherzusagen, wie wir mit diesen technologischen Begleitern umgehen.

Aber worüber sprechen wir eigentlich genau, wenn wir über Mensch-Maschine-Beziehungen sprechen? Pentina, Xie, Hancock & Bailey (2023) geben einen Überblick über die Beziehungen zwischen Mensch und Maschine, in dem sie 37 von Experten begutachtete empirische Studien analysieren. Die in diesen Studien verwendeten Theorien stammen aus der Sozialpsychologie (z. B. Bowlbys Bindungstheorie), der Kommunikationswissenschaft (z. B. das Uses & Gratifications-Paradigma), der Mensch-Computer-Interaktion (z. B. das CASA-Paradigma) oder anderen, wie der parasozialen Interaktionstheorie. Dies sind nur einige Beispiele für die Fülle der in diesem Bereich angewandten Theorien. Jede Theorie bringt ihre eigenen Stärken und Schwächen mit sich und bereichert unser Verständnis der Beziehungen zwischen Mensch und KI auf unterschiedliche Weise. Dennoch bleiben offene Fragen ungelöst:

  • Wie entwickeln sich Mensch-KI-Beziehungen tatsächlich?
  • Wie sehen langfristige Mensch-KI-Beziehungen aus?
  • Können Nutzer KI-Agenten wirklich lieben?
  • Wie unterscheiden sich Systeme, z.B. Alexa (digitale Assistentin) vs. Replika (Companion Bot) vs. ein modifizierter Roboter (Pepper etc.)?
  • Wie verändern sich die Beziehungen zwischen Mensch und KI bei technologischen Veränderungen (z.B. Lernprozesse und Updates) eines Systems?
  • Was sind kulturelle Unterschiede in der Wahrnehmung und Entwicklung von Mensch-KI-Beziehungen?
  • […]

Unser Ansatz

Kürzlich haben wir unsere erste Studie veröffentlicht, die sich mit der Frage befasst, wie Menschen ihre Beziehung zu konversationeller KI wahrnehmen. Durch die Linse von Fiskes relationaler Modelltheorie hat unsere Forschung faszinierende Einsichten darüber offenbart, wie Benutzer Verbindungen mit KI-Systemen herstellen.

Wie Menschen ihre Beziehung zu konversationeller KI wahrnehmen

Wir haben drei verschiedene Beziehungsmodelle identifiziert, die Benutzer annehmen. Erstens gibt es die traditionelle Master-Servant Beziehung, bei der sich die Benutzer als autoritäre Kontrollinstanz sehen, während das KI-System ihre Befehle ausführt. Zweitens entwickeln einige Benutzer eine freundschaftsähnliche Beziehung zur KI, die die Interaktion mit einem Gefühl der Kameradschaft und des Zusammenhalts versieht. In diesem Szenario wird die KI mehr als nur ein Werkzeug; sie entwickelt sich zu einem vertrauenswürdigen Verbündeten, der in der Lage ist, Unterstützung und Verständnis anzubieten. Schliesslich haben wir ein rationales Beziehungsmodell beobachtet, bei dem die Benutzer das KI-System als einen einigermassen gleichwertigen Partner behandeln. Diese Dynamik spiegelt eine ausgewogenere Interaktion wider, bei der beide Parteien in einen kollaborativen Informations- und Entscheidungsaustausch treten.

Wie wirken sich die Beziehungen zwischen Mensch und KI auf die Kaufentscheidungen per Sprache aus?

Die Entschlüsselung dieser verschiedenen Beziehungsmodelle wirft ein Licht auf die facettenreiche Natur von Mensch-KI-Interaktionen und verbessert unser Verständnis für die sich entwickelnde Dynamik zwischen Nutzern und KI-Systemen. In einer Folgestudie untersuchten wir die Rolle der Wahrnehmung von Mensch-KI-Beziehungen bei sprachgesteuerten Kaufentscheidungen. Insbesondere haben wir gefragt, ob die Art der Beziehung, die Menschen zu ihrer KI haben, die Art der Produkte beeinflusst, die sie kaufen. Kurz gesagt, wir fanden heraus, dass die Wahrnehmung der Sprach-KI als Freund die stärkste Vorhersagekraft für Produkte mit hohem und niedrigem Involvement hat. Die Wahrnehmung der KI als Diener sagte auch Einkäufe mit geringem Involvement voraus.

Um kausale Zusammenhänge herzustellen und belastbare Aussagen über die Art der Interaktion zwischen Mensch und KI zu treffen, ist ein experimenteller Ansatz unerlässlich. Während unsere Untersuchungen zu den verschiedenen Beziehungsmodellen wertvolle Erkenntnisse liefern, ermöglichen uns experimentelle Studien, Variablen zu manipulieren und ihre Auswirkungen auf die Interaktion zu bewerten. Durch den Entwurf kontrollierter Experimente können wir systematisch verschiedene Bedingungen testen und beobachten, wie sie das Verhalten der Nutzer und ihre Wahrnehmung von KI-Systemen beeinflussen. Auf diese Weise können wir Ursache-Wirkungs-Beziehungen identifizieren und ein tieferes Verständnis der zugrunde liegenden Mechanismen gewinnen, die den beobachteten Mustern zugrunde liegen.

Wie hängen das konversationelle Design und die Wahrnehmung der Beziehung zwischen Mensch und KI beim Voice Shopping zusammen?

Wir werten derzeit unsere Experimente aus, in denen wir die Auswirkungen eines emotionaleren Designs auf Voice-Shopping-Entscheidungen getestet haben. Wir können noch keine Ergebnisse vorlegen, aber wir teilen das experimentelle Verfahren, bei dem wir die Ausgabe von Alexa manipuliert haben. Insgesamt haben wir vier Videos erstellt. Zwei Standard-Einkaufsszenarien, in denen eine Person etwas über Alexa kauft. Dann haben wir zwei Videos erstellt, in denen Alexa aus Sicht des Konversationsdesigns emotionaler war.

Beispiel Standardvideo: Im Standardvideo kocht eine Person in der Küche. Die Person “weckt” Alexa auf, indem sie ihr mitteilt, dass die Kaffeemaschine kaputt gegangen ist, und leitet den Kauf der Kaffeemaschine über Amazon ein, während sie noch das Abendessen kocht. Die Konversation ist sehr nah am Original, aber um die Ausgabe manipulieren zu können, brauchten wir klare Zeitschnitte. Daher wurde das gesamte Video geskriptet. Sowohl die menschlichen als auch die Alexa-Ausgaben wurden aufgezeichnet. Die Alexa-Ausgaben wurden mit dem Text to Voice Skill manipuliert und dann aufgezeichnet. Die Videos und Aufnahmen wurden mit MS Clipchamp geschnitten und bearbeitet.

Beispiel emotionale Alexa Video: Da wir untersuchen wollten, ob ein emotionaleres Design eine Wirkung auf die Menschen hat, je nachdem, wie sie mit dem System in Verbindung stehen, haben wir Alexas Ausgabe manipuliert. Die Videos waren identisch, aber wir änderten die Formulierungen, um Alexa freundlicher und einladender zu machen. In einem Vortest stellten wir fest, dass die Teilnehmer die manipulierte Version deutlich freundlicher einschätzten. Wir stützten uns auf frühere Forschungsergebnisse, die vorschlugen, Identität durch die Verwendung von Pronomen in der ersten Person (z. B. Alexa bezeichnet sich selbst als ich oder beide als wir) oder durch das Signalisieren von Empathie (z. B. Oh nein, das tut mir leid!) zu signalisieren. Ausserdem haben wir Screenshots der Alexa-Ausgabe erstellt. In der manipulierten Version haben wir ausserdem Emojis eingefügt, um das Design zu vermenschlichen.

Ausblick

Die Zukunft des sprachgesteuerten Handels sieht vielversprechend aus, da die Nutzer von Conversational AI mit einfachen Sprachbefehlen problemlos Einkäufe tätigen können. Prognosen deuten darauf hin, dass generative KI den elektronischen Handel weiter revolutionieren wird. Allerdings ist die Akzeptanz des Voice-Shoppings noch begrenzt, und die Gründe dafür sind nicht vollständig geklärt. Ein möglicher Faktor ist die Wahrnehmung, dass digitale Assistenten nicht die Wärme eines menschlichen Verkäufers haben. Derzeit erforschen wir die Auswirkungen des emotionalen Designs auf die Absicht, per Sprache einzukaufen, und werden unsere Ergebnisse in den nächsten 6-12 Monaten vorstellen. Wir werden Sie über unsere neuesten Erkenntnisse auf dem Laufenden halten, sobald wir uns eingehender mit dem Thema Voice Shopping und dessen Zusammenhang mit emotionalem Design beschäftigen. Bleiben Sie dran, um in den kommenden Monaten weitere Erkenntnisse und Entdeckungen zu erhalten.

Sind Sie bereit?

Unsere Spezialisten kontaktieren Sie gern!

Sind Sie bereit?

Unsere Spezialisten kontaktieren Sie gern!

Über den smSS

Das scip Monthly Security Summary erscheint monatlich und ist kostenlos.

  • Anmeldung: smss-subscribe@scip.ch
  • Abmeldung: smss-unsubscribe@scip.ch

Informationen zum Datenschutz.

Eine Haftung für die Richtigkeit der Veröffentlichungen kann trotz sorgfältiger Prüfung durch die Redaktion des Herausgebers, den Redaktoren und Autoren nicht übernommen werden. Die geltenden gesetzlichen und postalischen Bestimmungen bei Erwerb, Errichtung und Inbetriebnahme von elektronischen Geräten sowie Sende- und Empfangseinrichtungen sind zu beachten.

Über scip AG

Wir überzeugen durch unsere Leistungen. Die scip AG wurde im Jahr 2002 gegründet. Innovation, Nachhaltigkeit, Transparenz und Freude am Themengebiet sind unsere treibenden Faktoren. Dank der vollständigen Eigenfinanzierung sehen wir uns in der sehr komfortablen Lage, vollumfänglich herstellerunabhängig und neutral agieren zu können und setzen dies auch gewissenhaft um. Durch die Fokussierung auf den Bereich Information Security und die stetige Weiterbildung vermögen unsere Mitarbeiter mit hochspezialisiertem Expertenwissen aufzuwarten.

Immer auf dem neuesten Stand

Abonnieren Sie unser monatliches Magazin