News

Was geschieht bei uns

Deepfakes und manipulierte Realitäten

Deepfakes und manipulierte Realitäten: Studie von TA-Swiss veröffentlicht

02.07.2024 – Mit der fortschreitenden Entwicklung im Bereich der Künstlichen Intelligenz werden auch Deepfakes und manipulierte Medien immer mehr zum Diskussionspunkt. Andrea Hauser durfte im Rahmen der Studie Deepfakes und manipulierte Realitäten der Stiftung für Technologieabschätzung TA Swiss deren Erarbeitung begleiten und ihre Expertise im Bereich teilen. Die Studie berücksichtigt aktuelle Fragen, wie beispielsweise Rahmenbedingungen und regulatorischen Gegebenheiten bei Deepfakes. Sie geht aber auch darauf ein, wie sich die Gesellschaft von Deepfakes in die Irre führen lässt, und gibt einen Ausblick, wo künstlich generierte Inhalte sogar einen Mehrwert erbringen können. Die Resultate zur Studie sind ebenfalls als Buch und eBook erhältlich, das PDF unter folgendem Link publiziert. Die Stiftung für Technologieabschätzung TA Swiss hat es sich zur Aufgabe gemacht, Chancen und Gefahren neuer Technologien unter die Lupe zu nehmen.

Publikation in Human-Machine Communication Journal

Publikation in Human-Machine Communication Journal

25.06.2024 – KI-Technologien sind aus unserem Alltag nicht mehr wegzudenken. Sei es in unserem Privatleben, in unserem Beruf oder mittlerweile auch in der zwischenmenschlichen Beziehung: KI-Systeme haben immer grössere Berührungspunkte mit unserem Leben. Das liegt unter anderem auch daran, dass konversationelle KI in den letzten Jahren eine massive Entwicklung durchgemacht hat. Marisa Tschopp forscht seit Jahren im Gebiet der Mensch-Maschine-Beziehungen, um die Wahrnehmung von Beziehungen zwischen Menschen und KI-Systemen zu untersuchen. Sie ist die erste Forscherin, die dazu ein multidimensionales Modell entwickelt hat. Nun wurde der Artikel The impact of human-AI relationship perception on voice shopping intentions im Human-Machine Communication Journal veröffentlicht, in welchem Tschopp und Sassenberg gemeinsam aufzeigen, wie im Zusammenhang mit Voice Shopping ebendiese Wahrnehmung zwischen Menschen und konversationelle KI-Systemen das eigene Verhalten beeinflussen. Dabei verfolgen die beiden das Ziel, effizientere und verantwortungsvollere Systeme zu schaffen. Die Ergebnisse helfen allen voran Entwicklerinnen und Entwicklern von Konversationssystemen, die den ethischen Aspekt der Technologie mitberücksichtigen wollen.

Gegendarstellung zu Angebot von CIO Look

Gegendarstellung zu Angebot von CIO Look

20.06.2024 – Mit Bedauern nehmen wir zur Kenntnis, dass die Website CIO Look ohne Genehmigung Inhalte sowie Fotos von Marisa Tschopp veröffentlicht, die weder durch uns offiziell autorisiert wurden noch von ihr stammen. Dies stellt einen klaren Verstoss gegen nationales und internationales Urheberrecht dar. Wir distanzieren uns ausdrücklich von dieser Seite, den dort getätigten Aussagen und dem unredlichen Vorgehen. Wir behalten uns rechtliche Schritte gegen die Betreiber und das äusserst zweifelhafte Angebot vor.

smSS über Prompt Injection und Passwortsicherheit

smSS über Prompt Injection und Passwortsicherheit

19.06.2024 – Rechtzeitig zum Start der Fussball-EM 2024 fragen wir in dieser Ausgabe des smSS nach Strategien und Taktiken rund um Angriff und Verteidigung. Wie verhält es sich beispielsweise mit generativen KI-Systemen, wenn man sie via Prompt Injection angreift? Wir zeigen auf, dass allen voran Large Language Modelle diesen Attacken nicht so ganz standhaft bleiben. In der Defensive schauen wir auf die grundlegenden Basics der Verteidigung: Der Passwortsicherheit. Wir haben einige Tipps und Tricks zu deren Sicherheit zusammengestellt, damit sie jedem Angreifer das Fürchten lernen. Viel Spass beim Lesen dieser Ausgabe!

Cyberangriffe gegen Spitäler keine Seltenheit mehr

Cyberangriffe gegen Spitäler keine Seltenheit mehr: Interview in blick.ch

18.06.2024 – Die Londoner Spitallandschaft wurde Anfang des Monats von einer Ransomware Attacke heimgesucht. Dies hatte zur Folge, dass die medizinische Grundversorgung massiv gestört wurde, und insgesamt über 800 Operationen verschoben werden mussten. Marc Ruef hat in einem Interview mit blick.ch über die aktuelle Ausgangslage gesprochen. Spitäler und medizinische Einrichtungen sind auch in der Schweiz nicht genügend gegen Cyberangriffe geschützt. Wenn darüber hinaus noch medizinische Geräte gehackt werden, so seien Massnahmen nur langsam umsetzbar. Entwicklungen an den Geräten selber und damit zusammenhängende Marktzulassungen führen zu trägen Prozessen. Ruef warnt, dass Ransomware Attacken in der Schweiz künftig weiter zunehmen werden.

Fachveranstaltung

Fachveranstaltung: Wie verändern sich Cyberangriffe im Zeitalter der künstlichen Intelligenz?

17.06.2024 – Kommenden Freitag, den 21. Juni 2024, wird Marc Ruef genau dieser Frage im Rahmen einer Fachveranstaltung des Kantons St. Gallen KOM SG nachgehen. Im Vortrag wird Ruef einerseits darauf eingehen, wie sich Cybercrime zu einem regelrechten Business entwickelt hat, welche Rolle dabei das Darknet spielt und erläutert, von welcher Motivation Cyberkriminelle angetrieben werden. Ausserdem thematisiert Ruef, wie KI-gestütze Systeme und aktuelle Entwicklungen kriminellen Akteuren dabei helfen, an ihr Ziel zu gelangen. Der Fachvortrag trifft nicht nur den Nerv der Zeit, er soll auch den Teilnehmenden die aktuelle Bedrohungslage näherbringen, damit sie diese verstehen, erkennen und besser abwehren können.

Für eine faire KI-Zukunft

Für eine faire KI-Zukunft: EU-Projekt DIVERSIFAIR mit ersten Ergebnissen

04.06.2024 – Marisa Tschopp ist Projektsupervisor beim pionierenden EU-Projekt DIVERSIFAIR Erasmus+, das intersektionelle Fairness beim Einsatz künstlicher Systeme adressiert. Das Programm wird von der Europäischen Union in den nächsten drei Jahren finanziert und hat das Ziel, diskriminierende Auswirkungen, die mit Künstlicher Intelligenz zusammenhängt, so gering wie möglich zu halten. EU-weite Bildungseinrichtungen, Forschungsorganisationen, Unternehmen und NGOs werden am Programm beteiligt sein und die aktuelle Anforderungen an Aus- und Weiterbildung sicherstellen. Auf der anderen Seite versuchen die Programm-Mitglieder, Biases und Diskriminierung in Algorithmen besser zu erkennen, zu bekämpfen und Fairness innerhalb der KI zu fördern. Marisa ist seit Jahren aktiv innerhalb der Women in AI, einer globalen non-profit Organisation, welche sich für die Inklusion in der KI einsetzt, und aktiv am Programm mitarbeitet.

TV-Auftritt bei Top Talk

TV-Auftritt bei Top Talk

31.05.2024 – Marc Ruef hatte die Gelegenheit, bei Top Talk über seine Erfahrungen im Security-Bereich zu sprechen. Als Gast diskutierte er mit Robin Fritschi, wie die aktuelle Lage in der Schweiz aussieht, mit welchen Auswirkungen die Betroffenen rechnen müssen und riet mit einigen Tipps und Tricks, wie man sich schützen kann. Dabei sagte Ruef: Digitale Transformation ohne Sicherheit geht nicht.

Sie wollen mehr?

Weitere News im Archiv

Immer auf dem neuesten Stand

Abonnieren Sie unser monatliches Magazin