Mit dem Artikel The Dark Side of Trust in AI Machines startet der Auftakt der Zusammenarbeit mit The Yuan, eine neue Tech-Community Plattform zum Thema KI und angrenzende Disziplinen. Marisa Tschopp ist neben vielen anderen, wie z.B. Calum Chace, Ivana Bartoletti oder Kai-Fu Li, Redakteurin und wird regelmässig über die Themen unserer Forschung und Praxis berichten. Der erste Beitrag beschreibt die Problematik rund um das Thema Overtrust und Agency, also die Konsequenzen von blinden Vertrauen in Maschinen und wie der Fokus auf Handlungssouveränität der Nutzer einen kritischen Beitrag zu Bildungsinitiativen leisten kann.

Humans should have the power to shape how they use technology, but this ideal is undermined when systems are built to purposely interfere with their decision-making, such as through anthropomorphic design features or over-hyped marketing. Enabling end-user agency to calibrate trust in AI could be one literacy and educational initiative that will give people the opportunity to develop skills to enhance their freedom and use technology in the way they truly desire.

Links

• https://www.the-yuan.com
• https://www.the-yuan.com/164/The-Dark-Side-of-Trust-in-AI-Machines.html

Tags