Social Media
04.04.2024, 10:59 Uhr
Mit TrollWall AI Hasskommentare blockieren
Das slowakische Start-up-Unternehmen TrollWall AI hat sich eines in den Social Media grassierenden Phänomens angenommen: den Hasskommentaren und dem Erkennen und Blockieren derselben.
Tomas Halasz
(Quelle: TrollWall AI)
Nach der Slowakei, Tschechien und Polen ist das Unternehmen mit April auch auf dem deutschsprachigen Markt tätig.
TrollWall ist eine Software, die mit Hilfe von künstlicher Intelligenz Troll-Aktivitäten auf Profilen in sozialen Medien automatisch und in Echtzeit erkennen und blockieren kann. Das von TrollWall AI bereitgestellte Tool ist laut Anbieter in der Lage, Hasskommentare auf Basis des sprachlichen Kontexts und der verwendeten Emoticons zu erkennen.
Die Software verwendet ausgefeilte Algorithmen, um beleidigende, fremdenfeindliche, sexistische oder andere Formen von Gewalt enthaltende Kommentare zu erkennen. Zusätzlich zur Verwendung der Datensätze, mit der die Software Hasskommentare erkennen kann, können Nutzer den Algorithmus des Tools auch durch Hinzufügen eigener Schlüsselwörter anpassen. Das Resultat: TrollWall AI versteckt erfasste Kommentare, so dass sie für andere Nutzer nicht sichtbar sind.
Das Ausblenden von Hasskommentaren in „sozialen“ Medien bietet Vorteile, die das Unternehmen in drei Bereiche teilt.
Die Vorteile des Ausblenden von Hasskommentaren in sozialen Medien
Ein Vorteil ist laut TrollWall AI die Schaffung eines sichereren und nutzerfreundlicheren Raums. Das Ausblenden von Hasskommentaren könne dazu beitragen, einen einladenden und sicheren Raum für die Nutzer zu schaffen. Menschen, die zuvor Gewalt oder Hassreden in sozialen Medien ausgesetzt waren, fühlen sich gegebenenfalls wohler, wenn sie wissen, dass sie von solchen Inhalten verschont bleiben.
Ein im Geschäftsbereich wichtiger Vorteil ist der Schutz des Rufs von Unternehmen oder Institutionen. Das Ausblenden von Hasskommentaren kann dazu beitragen, den Ruf von Unternehmen oder Institutionen zu schützen. Wenn ein Unternehmen oder eine Institution ins Visier von Trollen gerät, kann ein Tool, das die Anzeige schädlicher Inhalte verhindert, dazu beitragen, den Schaden für die Reputation des Unternehmens zu begrenzen.
Last but not least ist durch das Ausblenden von Hasskommentaren die Moderation von Inhalten leichter zu bewerkstelligen. Zumindest müssen Moderatoren keine Zeit damit verschwenden, Hasskommentare zu löschen, weil TrollWall AI sie für sie ausblendet.
Bereits im Einsatz
Die KI-Software TrollWall wird bereits in mehreren Ländern eingesetzt, darunter in Polen, der Tschechischen Republik und der Slowakei. In der Tschechischen Republik wurde das Tool zum Schutz der Wahlkampagne von Präsident Petr Pavel eingesetzt. TrollWall AI hat es nach Angaben von TrollWall AI geschafft, die Menge der Hasskommentare auf Pavels Profil um 98 Prozent zu reduzieren.
TrollWall AI wird auch im Präsidentenpalast von Zuzana Čaputová eingesetzt, der ersten Frau, die zur Präsidentin der Slowakei gewählt wurde.
Mit dem Markteintritt von TrollWall AI in den deutschsprachigen Ländern macht das Unternehmen seine Software auch für hiesige Unternehmen und Institutionen nutzbar. Das erklärte Ziel: Die Software soll dazu beitragen, einen sichereren und freundlicheren Raum für soziale Medien zu schaffen und die Bilder und Kampagnen von Marken zu schützen.
Weitere Infos unter https://trollwall.ai
Autor: Klaus Lorbeer
