In der aktuellen Ausgabe des Yea(h)rbooks des Institutes for Digital Business der Hochschule für Wirtschaft findet sich ein Artikel von Marisa Tschopp, welcher die jahrelange Forschung und Praxis der scip AG vereint. Der Beitrag mit dem Titel Vertrauen bedingt Verwundbarkeit, schlägt einen Paradigmenwechsel vor, welcher weg von Vertrauen hin zu Verwundbarkeit geht. Der Fokus auf die Schwachstellen von Mensch und Maschine hat das Potenzial ein besseres Verständnis und bessere Handlungsempfehlungen herauszugeben, damit wir KI-Systeme in Zukunft effektiv, nachhaltig und vor allem sicher nutzen können.

Diese neuartige Idee des systemischen Vulnerability Managements, welche sich auf Verwundbarkeiten fokussiert, fusst auf den folgenden Thesen:

1. Der Mensch ist verwundbar, egal auf welcher Seite des KI-Systems er steht.
2. Der Mensch hat Schwächen, die ihn verwundbar machen: z.B. zu viel Vertrauen (Overtrust) oder die kognitive Verzerrung, dass Maschinen immer perfekt funktionieren (Automation Bias).
3. Das KI-System ist verwundbar, weil es entweder schlecht gebaut (vielfältige technische Schwachstellen) oder schlecht genutzt wird (bspw. technische Schwachstellen werden ausgenutzt).
4. Die Leidtragenden sind immer die Menschen: negative Konsequenzen, Schuld, Verantwortung etc.

Der Artikel steht in gedruckter Form zur Verfügung. Kontaktieren Sie uns für Anfragen zur Zusammenarbeit in Lehre und Forschung.

Links

• https://fh-hwz.ch/
• https://fh-hwz.ch/center-institute/institute-digital-business/

Tags