Instagram bestrijdt cyberpesten via het geweten van gebruikers. Wie iets agressiefs tikt, krijgt de vraag of dat de bedoeling is.
Dit soort reacties op Instagram moet verdwijnen: ‘Honden zijn mooier dan jij’, ‘Kanker dikzak’, ‘Aandachtshoer’, ‘Omgebouwd stuk verdriet’, ‘Stom irritant klotewijf.’ Een lukrake selectie van commentaar op influencers, politici, artiesten én doodnormale schoolgaande jongeren op het sociale netwerk.
Instagram liet maandag weten maatregelen te treffen tegen de stortvloed aan lelijke dingen die gepost worden. Niet door zelf te modereren, zoals wel gebeurt bij foto’s van vrouwelijke tepels, maar door een beroep te doen op het geweten van gebruikers.
Reflecteren
De software zet kunstmatige intelligentie in om de app zinsneden te laten herkennen die vaak zijn gerapporteerd als ongepast. Voor een gebruiker iets als ‘je bent zo lelijk en dom’ de wereld in kan slingeren, stelt de app voortaan eerst de vraag: ‘weet je zeker dat je dit wilt posten?’
Het antwoord ja zorgt voor groen licht, maar volgens Instagram is uit tests gebleken dat sommige gebruikers daadwerkelijk hun post wissen of wijzigen. ‘Het geeft mensen de kans nog even op hun bericht te reflecteren en het aan te passen of ongedaan te maken,’ schrijft Instagram-topman Adam Mosseri.
Patricia Bolwerk, oprichter van stichting Stop Pesten Nu, is enthousiast. “Het zal doelbewuste haatcomments niet stoppen, maar er is ook een groep die er niet zo bij stilstaat. Nu denken zij misschien ‘valt toch wel mee’, maar als je keer op keer meldingen krijgt, krab je je wellicht achter de oren. Bij het geven van je mening hoort de plicht om na te denken over wat je zegt. Dat Instagram daarop inspeelt, vind ik heel goed.”
De functie werkt vooralsnog alleen voor Engelstalige gebruikers. Hoe lang het duurt voordat de tool in Nederland beschikbaar is, hangt volgens professor Max Welling, hoogleraar Machine Learning aan de Universiteit van Amsterdam, af van geld. “Het opzetten van zo’n systeem kost behoorlijk wat geld, dus het is afhankelijk van hoeveel belang een bedrijf als Instagram hieraan hecht. Zodra het zover is en mensen in het systeem aan kunnen geven of iets wel of niet kwetsend is, krijg je al snel enorme datasets en zou het binnen een jaar kunnen draaien.”
Lijsten met ‘verboden’ scheldwoorden zijn natuurlijk simpel in te voeren, het lastige zit in de nuances van taal. De context bepaalt immers of woorden als ‘gek’, ‘huilen’ of ‘aap’ beledigend bedoeld zijn of niet. En zelfs met context ervaren mensen dit nog verschillend.
Vrouwentepel
Welling vermoedt dat Instagram de beoordeling of iets wel of niet door de beugel kan bij de gebruikers laat in plaats van zelf te selecteren. “Een foto van een vrouwentepel is vrij duidelijk: dat past wel of niet binnen een beleid. Bij taal ligt dat genuanceerder en botst het al snel met de vrijheid van meningsuiting. Dat zou Instagram minder geliefd kunnen maken, waardoor mensen overstappen naar andere platformen en dat is natuurlijk niet goed voor hun bedrijf. Het is een dunne scheidslijn.”
Ondertussen werkt Instagram ook aan een functie genaamd Restrict, waarmee ongewenste reacties verborgen kunnen worden, zonder iemand te hoeven blokkeren. “We begrepen van onze jonge gebruikers dat ze pestkoppen vaak niet durven te blokkeren, ontvolgen of rapporteren omdat het de situatie zou kunnen verergeren, zeker als ze de pestkoppen ook offline kennen,” verklaart Mosseri.
Bolwerk van Stop Pesten Nu herkent dat: “Je wil erbij horen, dus doe je zo ‘normaal’ mogelijk en blokkeer je niemand.” Andersom ziet zij het wel gebeuren: als pesterij afspreken iemand massaal te rapporteren. “Daar is bijna niets tegen te doen. Mensen zijn nu eenmaal creatief. Je ziet het ook in het taalgebruik: verbergt Google woorden als ‘kanker’ dan maken ze er ‘kkr’ van, mongool wordt mogool en ga zo maar door. Bedrijven als Instagram doorzien dat gelukkig steeds sneller, maar uiteindelijk ligt de echte verandering toch bij de mensen zelf.”
