Sexismus in sozialen Medien automatisch erkennen

Arbeitsgruppe

[ Fotos ]

St. Pölten (pts023/27.07.2021/16:30) - Sexismus ist ein weitreichendes gesellschaftliches Problem und hat insbesondere in den sozialen Medien in den letzten Jahren stark zugenommen. Die Fachhochschule St. Pölten und das AIT Austrian Institute of Technology haben im Rahmen eines internationalen Wettbewerbs eine Methode entwickelt, die sexistische Äußerungen mithilfe Künstlicher Intelligenz automatisch erkennt.

Sexismus und seine Auswirkungen haben weitreichende Konsequenzen für die Gesellschaft. Dabei werden insbesondere Frauen, die in der Öffentlichkeit stehen, vor große Herausforderungen gestellt, wie aktuelle Studien zeigen. Soziale Medien treten hier als Beschleuniger auf und senken die Hemmschwellen für verbale Übergriffe.

Die FH St. Pölten und das AIT Austrian Institute of Technology haben im Rahmen des internationalen EXIST-Wettbewerbs (sEXism Identification in Social neTworks) eine Methode entwickelt, die die automatische Erkennung von sexistischen Äußerungen ermöglicht und dabei den dritten Platz belegt (aus 31 internationalen Teams). Das Tool basiert auf Methoden der künstlichen Intelligenz und nutzt Natural Language Processing (NLP) und Machine Learning, um Beiträge auf sozialen Medien semantisch zu untersuchen und zu klassifizieren.

"Ein zentrales Ziel unserer Forschung ist es, stets einen sinnvollen Beitrag zu leisten, um Probleme in unserer Gesellschaft zu lösen. Eine automatisierte Erkennung von sexistischen Äußerungen kann dazu beitragen, den Diskurs in den Sozialen Medien zu verbessern, Problembewusstsein zu stärken und Maßnahmen gegen diskriminierende Inhalte zu setzen", so Matthias Zeppelzauer, Leiter der Forschungsgruppe Media Computing am Institut für Creative \ Media/Technologies der FH St. Pölten.

Kategorisierung von Inhalten

Besonders herausfordernd bei der automatischen Erkennung von sexistischen Inhalten ist die Unterscheidung zwischen verschiedenen Kategorien von sexistischen Äußerungen und der Identifikation von ironischen oder sarkastischen Statements.

Die Datenbasis für die Klassifizierung lieferte der EXIST-Wettbewerb, der Teilnehmer*innen Postings auf den Plattformen "Twitter" und "Gab" zur Verfügung stellte. Dabei wurde nicht nur zwischen sexistischen und nicht sexistischen Inhalten unterschieden, sondern eine feine Kategorisierung sexistischer Inhalte vorgeschlagen. Die Postings, welche in englischer und spanischer Sprache vorlagen, wurden basierend auf deren Inhalt kategorisiert und in folgende Typen eingeteilt, die es automatisch zu unterscheiden galt: Ideologie und Ungleichheit, Stereotype und Herrschaft, Objektifizierung, sexuelle Gewalt, Misogynie und nicht-sexuelle Gewalt.

"Wichtig bei der Erkennung sexistischer Inhalte ist, dass wir nicht nur offensichtliche Formen von Sexismus automatisch identifizieren können, sondern auch subtile Formen und Anspielungen, die auf den ersten Blick übersehen werden könnten", so Alexander Schindler, Leiter des NLP-Teams auf Seite des AIT.

Das Projektteam bestehend aus Studierenden als auch aus Forscher*innen des Center for Digital Safety & Security am AIT und der FH St. Pölten umfasste Mina Schütz, Jaqueline Böck, Daria Liakhovets, Djordje Slijepcevic, Armin Kirchknopf, Manuel Hecht, Johannes Bogensperger, Sven Schlarb, Alexander Schindler und Matthias Zeppelzauer.

Zusammenarbeit mit dem AIT

Auf Seite des AIT wurde die Initiative durch das Projekt defalsif-AI gefördert, welches im Rahmen des Sicherheitsforschungs-Förderprogramms KIRAS des Bundesministeriums für Landwirtschaft, Regionen und Tourismus (BMLRT) finanziert wird. Nähere Informationen zum Forschungsprojekt finden Sie unter: https://www.defalsifai.at

Über die Fachhochschule St. Pölten
Die Fachhochschule St. Pölten ist Anbieterin praxisbezogener und leistungsorientierter Hochschulausbildung zu den Themen Medien, Wirtschaft, Digitale Technologien, Informatik, Security, Bahntechnologie, Gesundheit und Soziales. 26 Studiengänge und zahlreiche Weiterbildungslehrgänge bieten ca. 3500 Studierenden eine zukunftsweisende Ausbildung. Neben der Lehre widmet sich die FH St. Pölten intensiv der Forschung. Die wissenschaftliche Arbeit erfolgt zu den oben genannten Themen sowie institutsübergreifend und interdisziplinär. Die Studiengänge stehen in stetigem Austausch mit den Instituten, die laufend praxisnahe und anwendungsorientierte Forschungsprojekte entwickeln und umsetzen.

Informationen und Rückfragen:
Mag. Mark Hammer
Fachverantwortlicher Presse
Marketing und Unternehmenskommunikation
T: +43/2742/313 228 269
M: +43/676/847 228 269
E: mark.hammer@fhstp.ac.at
I: https://www.fhstp.ac.at/de/presse

Pressetext und Fotos zum Download verfügbar unter: https://www.fhstp.ac.at/de/presse

Allgemeine Pressefotos zum Download verfügbar unter: https://www.fhstp.ac.at/de/presse/pressefotos-logos

Die FH St. Pölten hält ausdrücklich fest, dass sie Inhaberin aller Nutzungsrechte der mitgesendeten Fotografien ist. Der Empfänger/die Empfängerin dieser Nachricht darf die mitgesendeten Fotografien nur im Zusammenhang mit der Presseaussendung unter Nennung der FH St. Pölten und des Urhebers/der Urheberin nutzen. Jede weitere Nutzung der mitgesendeten Fotografien ist nur nach ausdrücklicher schriftlicher Zustimmung (Mail reicht aus) durch die FH St. Pölten erlaubt.

Natürlich finden Sie uns auch auf Facebook und Twitter: https://www.facebook.com/fhstp bzw. https://twitter.com/FH_StPoelten

(Ende)