Heute ist der 27.04.2026 und in Tübingen wird eine spannende Debatte um die Rolle der Künstlichen Intelligenz (KI) in unserem Alltag geführt. Ein Trend, der in sozialen Medien wie TikTok und Instagram hohe Wellen schlägt, sind Videos, in denen Gemüse und Früchte wie Menschen agieren. Dies wird durch KI ermöglicht und zieht nicht nur die Aufmerksamkeit von Jugendlichen auf sich, sondern wirft auch grundlegende Fragen über Werte und Ethik auf.
Die Inhalte erscheinen auf den ersten Blick harmlos, doch Jugendschutz.net warnt vor den moralisch fragwürdigen Aspekten dieser Videos. In vielen Fällen sind sie sexistisch, rassistisch und beinhalten sogar blutige Gewaltszenen gegen Frauen. Ein Beispiel, das für Aufsehen sorgt, zeigt einen Mann in Form einer Banane, der seine Birnen-Frau auffordert, abzunehmen, während er sie mit einer schlanken Erdbeere betrügt. Solche Darstellungen könnten dazu führen, dass Kinder und Jugendliche durch unreflektierten Konsum dieser Inhalte eine Werteverschiebung erleben.
Die Gefahren KI-generierter Inhalte
Generative KI ist mittlerweile ein fester Bestandteil unseres Medienalltags. Sie erleichtert nicht nur das Verfassen von Texten, sondern auch das Erstellen von Bildern, Videos und Tonaufnahmen. Obwohl Kinder und Jugendliche nicht aktiv mit KI-Technologien umgehen, treffen sie in digitalen Räumen regelmäßig auf KI-generierte Inhalte. Die Gefahr der missbräuchlichen Nutzung, etwa durch Deepfakes zur Einschüchterung oder Mobbing, ist nicht zu unterschätzen. Digitale Gewalt betrifft auch Minderjährige.
Mit frei zugänglichen Tools wird es zunehmend einfacher, Inhalte so zu manipulieren, dass sie realistisch erscheinen. Dadurch verschwimmt die Grenze zwischen echt und gefälscht, was es für junge Menschen schwer macht, zwischen den beiden zu unterscheiden. Umso wichtiger ist die Jugendmedienschutz- und Medienbildungsarbeit, die darauf abzielt, kritisches Hinterfragen von Informationen zu fördern und jungen Menschen zu helfen, KI-generierte Inhalte einzuordnen und sinnvoll zu nutzen.
Digitale Gewalt im Fokus
Das Bundeskriminalamt (BKA) hat kürzlich ein Forum zur Künstlichen Intelligenz veranstaltet, in dem das Thema digitale Gewalt im Mittelpunkt stand. Vom 12. bis 13. Mai 2025 diskutierten Experten über Hate Speech, Hasskriminalität und geschlechtsspezifische Gewalt, die allesamt durch den Einsatz von Künstlicher Intelligenz begünstigt werden können. Dr. Nathalie Leitgöb-Guzy hielt eine eindringliche Keynote über die Auswirkungen digitaler Gewalt und deren Einfluss auf das reale Verhalten.
Die Veranstaltung, die von rund 140 Teilnehmern besucht wurde, zielte darauf ab, Handlungsoptionen und fachübergreifende Lösungsansätze für den Umgang mit digitaler Gewalt zu entwickeln. Die Herausforderungen, die sich aus der Nutzung von Memes, Bots und Deepfakes ergeben, sind dabei nicht zu unterschätzen. Diese Technologien können radikalisierend wirken und zur Verbreitung von Desinformation beitragen.
Insgesamt verdeutlichen die aktuellen Entwicklungen, dass wir in einer Zeit leben, in der die Grenzen von Realität und Fiktion immer mehr verschwimmen. Es ist an der Zeit, sich aktiv mit diesen Themen auseinanderzusetzen, um unsere Werte und die unserer Kinder zu schützen.