Im Netz kursieren derzeit gefährliche KI-generierte Videos, die unter dem Hashtag AI Minions bekannt sind. Darin zu sehen sind vermeindlich unbedenkliche Videos, die jedoch von brutaler Gewalt handeln. Marc Ruef hat sich mit 20 Minuten in einem Interview darüber ausgetauscht, wie gefährlich solche Videos vor allem für Kinder sind. Dabei sind solche verstörenden Inhalte nichts neues: Bereits in der Vergangenheit wurden in den Sozialen Medien ähnliche Videos mit Zeichentrick-Charakteren in Umlauf gebracht. Ruef warnt daher, dass Kinder nie unkontrolliert im Internet surfen sollten, und falls ein Video unabsichtlich konsumiert wird, man unbedingt das Gespräch mit den Kindern sucht. Obwohl sich im Bereich Kinderschutz im Internet in den letzten Jahren viel getan hat, sind schlussendlich Eltern für einen altersgerechten Konsum ihrer Kinder im Internet verantwortlich.

Ist Ihnen dieses Phänomen bekannt?

Ja, in den vergangenen Wochen hat diese Art von Videos stark an Popularität gewonnen.

Wer macht so etwas und warum?

AI-generierte Videos werden gern angestrebt, weil sich damit schnell vermeintlich eigenständiger Content erstellen lässt. Das Erzeugen von verstörenden Videos kann dahingehend spannend sein, weil man damit unter dem Deckmantel der Verniedlichung bestehende Tabus brechen kann. Wenn diese dann besonders gut als “harmlos” getarnt werden, kann durch das Zugänglichmachen ohne Vorwarnung eine exhibitionistische und sadistische Komponente ausgemacht werden. Dass dabei oft auch Kinder als Zielpublikum in den Fokus geraten, macht diese Masche auf allen Ebenen verwerflich.

Es gab ja auch schon vor ein paar Jahren eine Welle ähnlicher Videos, damals mit ganz verschiedenen Zeichentrickcharakteren. Sind diese Fälle zu vergleichen?

In vielerlei Hinsicht sind die damaligen Elsa- und Spiderman-Cartoons mit den AI-Videos von heute vergleichbar. In erster Linie haben sich nur die Werkzeuge geändert, mit denen diese Sequenzen generiert werden.

Wie hoch schätzen Sie die Gefahr für Kinder ein, an solche Videos zu gelangen?

Bei ausgiebigem Social Media-Konsum ist es absehbar, dass früher oder später auch dubiose Inhalte vorgeschlagen werden. Und umso mehr Leute diese (unabsichtlich) schauen, desto eher werden sie auch weiterhin trenden und in gut gemeinte Playlists aufgenommen.

Und was passiert mit Kindern, die solche Videos konsumieren?

Dies ist stark vom Alter des Kindes und dem Inhalt abhängig. Viele jüngere Kinder können übertriebene Gewalt in Cartoon-Form nicht als solche Verstehen. Für sie ist es höchstens lustig. Wenn man alte Looney Toons-Trickfilme oder Tom & Jerry als Erwachsener anschaut, merkt man oft viele Jahre später erst, wie brutal die Sequenzen eigentlich waren. Aber spätestens dann, wenn Gewalt als “echt” wahrnehmbar wird, kann es auch für Kinder verstörend sein.

Was raten Sie Eltern in solchen Fällen?

Google bietet zum Beispiel ein Youtube Kids Konto und eine dazugehörige App an. Das Videomaterial und die Funktionalität ist hierbei konkret eingeschränkt, was das Risiko vermindert. Bei einem regulären Youtube-Konto kann man den “Eingeschränkten Modus” aktivieren, der das Abspielen von als brutal gekennzeichnete Videos verhindern soll. Das funktioniert leider nicht immer und der Benutzer kann es auch selber wieder deaktivieren. Generell sollten Kinder nicht uneingeschränkt und unbeaufsichtigt im Internet aktiv sein.

Und was sollte vielleicht auch grundsätzlich dagegen getan werden, Stichwort Kinderschutz im Internet?

In den letzten 5 Jahren hat sich bei den grösseren Anbietern viel getan. Microsoft, Google, Apple, Sony und Steam bieten auf ihren Plattformen die Einschränkung und Überwachung von Kinderkonten an. Davon sollte Gebrauch gemacht werden. Es geht nicht darum die Kinder zu gläsernen Menschen zu machen und ihnen den Spass zu nehmen. Stattdessen ist es die Aufgabe der Erwachsenen, sie vor nicht altersgerechten Inhalten und Kontakten zu schützen. Sollte es zum Konsum von problematischen Inhalten kommen, sollten Eltern das Gespräch mit ihren Kindern suchen.

Links

• https://www.20min.ch/story/ai-minions-experten-warnen-vor-verstoerenden-inhalten-103251149

Tags