Chatbots sollen Missbrauch im Web verhindern

Kriminologin Stephanie Price: kämpft mit KI gegen Kindermissbrauch (Foto: usc.edu.au)

Sippy Downs/Melbourne (pte003/10.12.2024/06:10) - KI-gestützte Chatbots können laut der Kriminologin Stephanie Price von der University of the Sunshine Coast ( https://www.usc.edu.au/ ) das Ausmaß des sexuellen Missbrauchs von Kindern im Internet eindämmen. Gegenmaßnahmen seien erforderlich. Schätzungen zufolge gebe es weltweit mehr als 300 Mio. Heranwachsende, die bereits Opfer von sexuellem Missbrauch im Internet geworden sind.

Ansatz auf drei Ebenen

Der Kampf muss laut der Expertin auf drei Ebenen stattfinden: der primären, der sekundären und der tertiären, schreibt sie in einem Beitrag für das Online-Protal "The Conversation". "Traditionell ist der häufigste Ansatz zur Bekämpfung des sexuellen Missbrauchs von Kindern im Internet die tertiäre Prävention, das heißt die Aufdeckung und Reaktion auf bereits begangene Straftaten. Dann gibt es Initiativen zur primären Prävention, die darauf abzielen, das Risikopotenzial zu verringern und zu verhindern, dass die Straftat überhaupt erst begangen wird."

Maßnahmen wie das "ThinkUKnow ( https://www.thinkuknow.org.au/ )"-Programm der australischen Bundespolizei und die Initiative "Keeping Kids Safe" der Daniel Morcombe Foundation ( https://danielmorcombe.com.au/ ) böten Aufklärung und Ressourcen, um ein gesundes und akzeptables Verhalten im Internet (und auch offline) zu fördern. Über die sekundäre Präventionsebene sei viel weniger bekannt. Hier werde versucht, frühzeitig einzugreifen, indem man sich an Personen wende, die am stärksten gefährdet seien oder kurz davor stünden, eine Straftat zu begehen. "Dieser Ansatz ist wichtig, weil wir den Schaden verhindern wollen, bevor er entsteht", so Price.

Warnungen und Chatbots

Nach der Durchsicht von mehr als 1.100 Forschungsartikeln, Buchkapiteln und Berichten hat Price sechs relevante Quellen identifiziert, die digitale Interventionen beschrieben, die weltweit umgesetzt worden sind. Von diesen sechs Beispielen enthielten drei Pop-up-Warnmeldungen, ein weiteres einen Chatbot, noch eines eines mit Warnmeldungen und einen Chatbot sowie eines mit einer Online-Medienkampagne, die Warnmeldungen beinhaltete.

In den meisten dieser Beispiele handelt es sich bei einer Warnmeldung um eine Pop-up-Nachricht, die durch eine unangemessene Suche nach Material über sexuellen Kindesmissbrauch auf einer Pornografie-Website ausgelöst wird. Einige dieser Hinweise enthalten Informationen über den Schaden für den Betrachter oder den Schaden für Kinder und Jugendliche, während andere Warnungen anzeigen, dass der Inhalt illegal ist oder dass die Polizei die Suche möglicherweise aufdecken kann.

Chatbots, die in diesem Zusammenhang eingesetzt werden, so Price, verwickeln den potenziellen Kinderschänder mithilfe von Künstlicher Intelligenz (KI) in ein Gespräch, um ihm das Vorhaben auszureden. In diesem Zuge ließen sich auch Links zu Hilfsdiensten bereitstellen und potenzielle Täter ermutigen, Hilfe zu suchen.

(Ende)