Online pesten, intimidatie, racisme en aanzetten tot haat zijn voor veel digitale platforms een groot probleem, denk aan onacceptabele reacties onder nieuwsberichten of dreigtweets. Ook de wereld van online gaming is het een probleem. De zogenaamde 'toxic players', spelers die actief anderen beledigen en zo voor iedereen het spel verpesten, aan de orde van de dag.
Scheldwoorden verbieden?
Een veelgebruikte oplossing van online platforms en games is scheldwoorden verbieden. ‘Maar dat werkt maar tot op zekere hoogte. Pesters weten zo'n systemen vaak makkelijk om de tuin te leiden, en pestgedrag heeft lang niet altijd scheldwoorden nodig’, legt Stoop uit. Een aanpak waarbij algoritmes leren van duizenden voorbeeldgesprekken kan veel meer nuances herkennen.
‘Online gaming is daarom een handig toepassingsgebied om zo’n algoritme te ontwikkelen, omdat in veel games direct na het spel gevraagd wordt om je teamgenoten te beoordelen. Die menselijke oordelen is wat de zelflerende algoritmes proberen te imiteren, maar dan al tijdens het spel in plaats van achteraf.’ Zo zien we dat de algoritmes bijvoorbeeld oppikken dat 'toxic players' veel meer praten dan gemiddeld, en dat je een niet-'toxic' speler herkent aan coöperatief gedrag en het zeggen van dingen om het team te helpen.
Interactieve visualisaties
‘Dat zelflerende algoritmes beter werken hoef je overigens niet zomaar van ons aan te nemen: je kunt het zelf zien. De publicatie hebben we zo gemaakt dat de lezer zelf een aanpak voor het algoritme kan selecteren en hoe rigoreus deze te werk gaat. Vervolgens zien ze direct wat het effect is op een aantal voorbeeldgesprekken.’
De interactieve aanpak komt voort uit de gedachte van Stoop dat wetenschappelijke publicaties zoals we ze nu gebruiken (statisch, bondig, tweedimensionaal) onnodig ouderwets zijn. 'We werken als onderzoekers vaak jaren met state of the art technologie en gigantische datasets, waarom is de output daarvan zoiets kleins en beperkts als een wetenschappelijke publicatie? Mijn persoonlijke ervaring met interactieve publicaties is daarnaast dat je als lezer iets wat heel ingewikkeld is veel sneller op een dieper niveau begrijpt, puur omdat je zelf kunt uitproberen hoe het werkt.'
Lees hier de populaire wetenschappelijke en interactieve publicatie: https://thegradient.pub/catching-cyberbullies-with-neural-networks/. En lees hier een wetenschappelijke paper uit 2019 waarin Stoop en zijn collega's wetenschappelijk onderzoek naar hetzelfde fenomeen presenteren: https://www.aclweb.org/anthology/W19-3503/