KI-App verspricht Schutz vor Cyberbullying

"BullStop" verspricht Schutz vor gemeinen Nachrichten - und Nachdenkpausen

Online: Wird mit KI sicherer (Foto: Jasmin_Sessler, pixabay.com)

Birmingham (pte002/20.07.2020/06:05) - Informatiker der Aston University http://aston.ac.uk haben eine App veröffentlicht, die besseren Schutz vor Cyberbullying verspricht. Sie überwacht Social-Media-Profile von Nutzern, um eingehende gemeine Nachrichten zu erkennen und abzufangen. Dank KI soll "BullStop" https://bullstop.io dabei bessere Dienste leisten als andere Schutz-Apps, die nur Wortfilter nutzen. Die App zielt vor allem auf junge Nutzer ab - und verspricht auch, diesen selbst eine Nachdenkpause zu verschaffen, falls sie fiese Nachrichten abzusetzen versuchen.

Per KI schlauer filtern

Mobbing verlagert sich in Form von Cyberbullying immer mehr in die Online-Welt, gerade unter Teenagern. Eben diesen soll BullStop vorrangig helfen, sich vor Missbrauch und Trollen zu schützen. Statt wie andere Apps auf Schlüsselwörter, setzt das System dabei auf KI. "Die Erkennungs-KI wurde mit über 60.000 Tweets trainiert, um nicht nur beleidigende und anstößige Sprache zu erkennen, sondern auch die Nutzung subtiler Mittel wie Sarkasmus und Ausgrenzung fürs Bullying", sagt Aston-Doktorand Semiu Salawu. Letzteres sei einfach nur mit Schlüsselwörtern schwer möglich.

BullStop fängt dabei eingehende, als problematisch eingestufte Nachrichten ab, bevor der Nutzer sie überhaupt in der Inbox zu sehen bekommt. Eine Kopie wird allerdings gespeichert, damit es möglich ist, die Inhalte zu prüfen. Das System scannt aber auch jene Nachrichten, die der User selbst verschicken will, und bietet gegebenenfalls die Chance, diese nochmals zu überdenken. "So sehr ich nicht verletzt werden möchte, will ich auch niemanden verletzen", begrüßte ein elfjähriger Tester diese Möglichkeit. Das System kann weiters andere Nutzer automatisch blockieren, falls diese anhaltend problematische Nachrichten schicken.

Twitter-Start

Die Anti-Bullying-App ist in einer Beta-Phase zunächst nur auf Englisch und für Android erschienen. Außerdem kann sie bislang lediglich Twitter überwachen. Das Unternehmen komme Forschungsbemühungen, derartige Lösungen sicher in den Dienst zu integrieren, Salawu zufolge sehr entgegen. Als nächstes soll BullStop auch SMS abdecken. Geplant ist auch eine Unterstützung weiterer sozialer Medien wie Facebook und Instagram, was aber einer Aussendung der Universität zufolge abhängig von deren Bereitschaft zu einer Zusammenarbeit, ähnlich wie mit Twitter, zu sein scheint.

(Ende)