In der digitalen Welt ist die Bekämpfung von Hasskommentaren ein wichtiges Thema, das zunehmend in den Fokus rückt. Ein Freiburger Start-up namens PENEMUE hat es sich zur Aufgabe gemacht, mit einer innovativen KI-Software gegen Hass im Netz vorzugehen. Seit 2024 entwickelt das Unternehmen eine Lösung, die speziell für öffentliche Personen wie Politiker, Sportler und Journalisten gedacht ist. Die Software erkennt digitale Gewalt, Rassismus und Beleidigungen in sozialen Netzwerken und kann auf Wunsch Hasskommentare innerhalb von Sekunden ausblenden oder sogar löschen.
PENEMUE, gegründet von Sara Egetemeyr, Navid Mehrabanian Al-Nemri und Marlon Lückert, bezeichnet sich selbst als digitalen Schutzengel. Die Software klassifiziert Kommentare nach verschiedenen Kriterien, darunter Rassismus, Sexismus und rechtliche Aspekte wie Volksverhetzung. So wird nicht nur die Möglichkeit zur juristischen Verfolgung von Hasskommentaren mit wenigen Klicks eröffnet, sondern auch ein besseres Sicherheitsgefühl für die Nutzer geschaffen. Es wird berichtet, dass insbesondere Politiker und Sportler von den positiven Effekten dieser Software profitieren.
Hasskommentare im Netz: Ein wachsendes Problem
Hate Speech ist mehr als nur ein Schlagwort; es umfasst menschenverachtende Äußerungen, die häufig gegen bestimmte Personengruppen gerichtet sind. Betroffen sind vor allem Frauen, Menschen mit Migrationshintergrund und die LGBTQ+-Community. Eine Studie mit dem Titel „Lauter Hass – leiser Rückzug“ zeigt, dass Menschen mit mehreren dieser Merkmale besonders stark unter Hassrede leiden. Hass im Netz ist ein weitreichendes Problem, das auch rassistische Memes, Belästigungen und Gewaltandrohungen einschließt.
Die Rolle der Künstlichen Intelligenz in diesem Kontext ist sowohl unterstützend als auch herausfordernd. KI-Algorithmen können große Mengen an Inhalten analysieren und potenziell schädliche Aussagen markieren. Während PENEMUE die Software zur Bekämpfung von Hasskommentaren weiterentwickelt, zeigt eine wissenschaftliche Studie der Uni Mannheim, dass solche Tools ein erhöhtes Sicherheitsgefühl vermitteln und das öffentliche Auftreten der Nutzer verbessern.
Vielfalt und Meinungsfreiheit im Netz
Das Ziel von PENEMUE ist es, Vielfalt und Meinungsfreiheit im Netz zu sichern und gleichzeitig die Nutzer zu schützen. Die Software ist auf verschiedenen Plattformen wie Instagram, Facebook, TikTok, X, YouTube und LinkedIn nutzbar. Der Name PENEMUE wurde aus der Mythologie gewählt und steht für eine Figur, die Wissen vermittelt. Das Unternehmen hat seinen Sitz in Freiburg, wobei auch einige Mitarbeiter aus dem Landkreis Cuxhaven stammen.
Die Bekämpfung von Hate Speech ist jedoch nicht ohne Herausforderungen. Kritiker befürchten, dass die Maßnahmen zur Eindämmung von Hasskommentaren die Meinungsfreiheit einschränken könnten. Artikel 5 des Grundgesetzes in Deutschland garantiert zwar die Meinungsfreiheit, doch diese endet dort, wo die Würde eines anderen verletzt wird.
Ein Blick in die Zukunft
PENEMUE sucht derzeit Testpersonen in Niedersachsen, um die Software weiter zu optimieren und mehr Menschen zugänglich zu machen. Die positive Resonanz aus der Politik und dem Sport deutet darauf hin, dass der Bedarf an effektiven Lösungen zur Bekämpfung von Hass im Netz groß ist. Auch andere Initiativen, wie das Projekt X-Fem von Fraunhofer IAIS, zielen darauf ab, digitale Kompetenzen zu stärken und Themen wie Fake News und Hate Speech zu behandeln.
In einer Zeit, in der Hass im Netz tiefgreifende Auswirkungen auf Individuen und die Gesellschaft hat, ist es entscheidend, die richtigen Strategien im Umgang mit Hate Speech zu entwickeln. PENEMUE und ähnliche Initiativen zeigen, dass Technologie eine wichtige Rolle dabei spielt, gefährliche Muster frühzeitig zu erkennen und die digitale Kommunikation sicherer zu gestalten.