Gebruiker:Eva Postema/Kladblok

Social Media Content Moderatie

Social media content moderatie is het proces van het controleren en modereren van alle content die te vinden is op online social media platforms, zoals Instagram, Facebook, TikTok, Twitter, YouTube of LinkedIn. Dit houdt in dat content dat ongeschikt of offensief is, wordt verwijderd voordat het viraal gaat en beschadiging kan aanbrengen aan het publiek. Offensieve of ongeschikte content is een breed begrip en kan verschillende dingen inhouden, bijvoorbeeld beledigend taalgebruik, discriminerende inhoud, seksuele content, hoog-sensitieve triggers of propaganda.

Strategieën

Content moderatie op sociale media kan op verschillende manieren worden toegepast. Waar het in het begin vooral door mensen werd gecontroleerd, wordt er nu steeds meer gebruik gemaakt van Artificial Intelligence (AI). Sociale media platforms worden wereldwijd door heel veel gebruikers gebruikt en trekt een breed publiek aan, waardoor het zeer belangrijk is om de content veilig en netjes te houden. Er werken hier dan ook dagelijks veel mensen aan, bijvoorbeeld op TikTok zijn er meer dan 40.000 professionals die zich hiermee bezig houden.

Op sociale media platforms worden er richtlijnen opgesteld met algemene regels, normen en waarden. Deze richtlijnen worden door experts vanuit verschillende velden gemaakt en ook vaak geüpdatet. Er wordt vanuit gegaan dat gebruikers zich hieraan kunnen houden. Om dat te checken, gebruiken de sociale media platformen een automatische moderatie systeem. Content kan dan direct worden verwijderd als het systeem er zeker van is dat het ongeschikt is of de content wordt doorgestuurd naar de veiligheid teams die bestaan uit mensen. De content moderators checken de content en besluiten definitief of het wel of niet geschikt is. Ze checken, naast de doorgestuurde content van het automatische systeem, ook virale content en content dat is gerapporteerd door gebruikers. Als content wordt beoordeeld als ongeschikt, krijgen de makers hier bericht van en zij kunnen in hoger beroep gaan. De content moderators zullen dan opnieuw naar de content kijken en kunnen mogelijk het bezwaar terugnemen.

Artificial Intelligence

Doordat sociale media platforms erg groot zijn en daarom erg veel content bevat, maakt het voor menselijke moderators onmogelijk om alle content te controleren. Daardoor is het gebruik van AI in de afgelopen jaren erg belangrijk geworden. De AI-systemen kunnen veel data content automatisch analyseren en classificeren, met opperste nauwkeurigheid en precisie. Door middel van machine learning wordt de tool zo ingesteld dat het geschikte en ongeschikte content kan beoordelen en labelen.

De automatische moderatie systemen helpt menselijke moderators, om het proces van moderatie sneller te maken maar ook om het met minder fouten uit te voeren. Tegelijkertijd helpen mensen het AI systeem te verbeteren, door fouten aan te geven en het systeem te leren op welke inhoudelijke elementen die moet letten.

Controversie

Naast de vele voordelen, zorgt het gebruik van AI in de moderatie van sociale media content voor een ethisch debat. Dit gaat voornamelijk over vrijheid van meningsuiting en of moderatie dit tegenhoudt. Want het automatische moderatie systeem leert wat ongeschikt is en verwijderd dat, wat er dus voor zorgt dat je als maker niet alles kan doen en uploaden wat je wil. Dit zorgt voor debat, omdat hierdoor minder verschillende perspectieven worden laten zien en gebruikers minder vrijheid hebben.