Schaduwverbod en de oorlog tussen Israël en Hamas, uitgelegd.
Schaduwverbod “Algospeak” is een ontwijkingstactiek voor geautomatiseerde moderatie op sociale media, waarbij gebruikers nieuwe woorden creëren om te gebruiken in plaats van trefwoorden die mogelijk worden opgepikt door AI -aangedreven filters. Mensen noemen de dood misschien ‘niet levend’, of seks als ‘seggs’, of porno als ‘maïs’ (of gewoon de maïs-emoji).
Er bestaat ook een algosprekende term voor Palestijnen: “P*les+in1ans.” Het bestaan ervan spreekt tot de bezorgdheid onder veel mensen die pro-Palestijnse inhoud posten en delen tijdens de oorlog tussen Hamas en Israël , dat hun berichten op oneerlijke wijze worden onderdrukt. Sommige gebruikers zijn van mening dat hun accounts, samen met bepaalde hashtags, als gevolg daarvan in de schaduw zijn gesteld.
Algospeak is slechts een van de door de gebruiker ontwikkelde methoden met verschillende effectiviteit die de onderdrukking op platforms als TikTok , Instagram en Facebook moeten omzeilen . Mensen kunnen niet-gerelateerde hashtags gebruiken, screenshots maken in plaats van opnieuw posten, of het gebruik van Arabische hashtags vermijden om te proberen schijnbare maar onduidelijke beperkingen op de inhoud over Palestina te omzeilen.
Het is niet duidelijk of deze methoden echt werken, maar de verspreiding ervan onder activisten en op internet spreekt van de echte angst om deze inhoud verborgen te houden voor de rest van de wereld.
Schaduwverbod “Shadowbanning” wordt vaak als idee rondgegooid, is moeilijk te bewijzen en niet altijd gemakkelijk te definiëren. Hieronder vindt u een gids over de geschiedenis ervan, hoe deze zich manifesteert en wat u als gebruiker van sociale media eraan kunt doen.
Wat is Schaduwverbod?
Shadowbanning is een vaak geheime vorm van platformmoderatie die beperkt wie bepaalde inhoud ziet, in plaats van deze helemaal te verbieden. Volgens een duik van Vice in de geschiedenis van de term , vindt zijn oorsprong waarschijnlijk al in de internetbulletinboardsystemen van de jaren tachtig.
In de eerste versies werkte shadowbanning een beetje als een digitale quarantaine: Shadowbanned-gebruikers konden nog steeds inloggen en berichten plaatsen in de community, maar niemand anders kon hun berichten zien. Ze waren aanwezig, maar beheerst. Als iemand door een van de beheerders van de site in de schaduw werd gesteld omdat hij vreselijke dingen op een prikbord had gepost, zou hij of zij in feite worden gedegradeerd tot het plaatsen van berichten in het niets, zonder te weten dat dit het geval was.
Naarmate sociale media zich verder ontwikkelden, veranderde de manier waarop gemeenschappen zich online vormden en verzamelden, en werd de definitie van schaduwverbod uitgebreid.
Mensen worden niet alleen online gezien door een account aan te maken en berichten te plaatsen in de virtuele ruimte van een community, maar ook door te begrijpen hoe ze betrokkenheid kunnen krijgen via de algoritmen en ontdekkingstools van een site, door reshares te krijgen van invloedrijke gebruikers, door advertenties te kopen en door volgers van hun gebruikers op te bouwen. eigen. Het modereren werd ingewikkelder naarmate gebruikers slimmer werden in het beter zichtbaar worden en het omzeilen van geautomatiseerde filters.
Op dit moment is schaduwbanning elke ‘werkelijk ondoorzichtige methode gaan betekenen om gebruikers te verbergen voor zoekopdrachten, voor het algoritme en voor andere gebieden waar hun profielen zouden kunnen verschijnen’, zegt Jillian York, de directeur voor internationale vrijheid van meningsuiting voor de elektronische media. Frontier Foundation (EFF). Een gebruiker weet mogelijk niet dat hij of zij in de schaduw is gesteld.
In plaats daarvan merken ze misschien de effecten: een plotselinge daling van het aantal likes of reposts bijvoorbeeld. Hun volgers kunnen ook problemen ondervinden bij het zien of delen van inhoud die op een in de schaduw verboden account is geplaatst.
Als je uit de Verenigde Staten komt, ken je shadowbanning misschien als een term die wordt gebruikt door conservatieve activisten en politici die geloven dat sociale-mediasites – in het bijzonder Facebook en Twitter (nu X) – opzettelijk rechtse opvattingen hebben gecensureerd. Dit maakt deel uit van een jarenlange campagne die aanleiding heeft gegeven tot rechtszaken en hoorzittingen in het Congres .
Hoewel er weinig bewijs is dat deze platforms zich bezighielden met systemische censuur van conservatieven, lijkt het idee aan te slaan telkens wanneer een platform actie onderneemt tegen een prominent rechtse account met een grote aanhang. Het Hooggerechtshof heeft onlangs ingestemd met de behandeling van een aantal zaken waarin wetten in Texas en Florida worden aangevochten die beperken hoe sociale- mediabedrijven hun sites kunnen modereren.
Waarom zijn mensen bezorgd over het schaduwverbod in verband met de oorlog tussen Israël en Hamas?
Oorlog produceert een golf van gewelddadige beelden, propaganda en desinformatie online, die in een snel tempo circuleert en intense emotionele reacties uitlokt van degenen die ernaar kijken. Dat is onvermijdelijk. De zorg van activisten en waarnemers van digitale rechten is dat inhoud over Palestijnen niet eerlijk wordt behandeld door de moderatiesystemen van de platforms, wat onder meer leidt tot schaduwverboden.
Regelrechte accountverboden zijn behoorlijk zichtbaar voor zowel de accounthouder als iedereen op het platform. Sommige moderatietools die zijn ontworpen om desinformatie te bestrijden, omvatten het publiekelijk markeren van inhoud met informatievakken of waarschuwingen. Shadowbanning wordt daarentegen niet publiekelijk gelabeld en platforms vertellen een gebruiker mogelijk niet dat het bereik van hun account beperkt is, of waarom.
Sommige gebruikers hebben echter tekenen opgemerkt dat ze mogelijk een schaduwverbod krijgen nadat ze over Palestina hebben gepost. Volgens Mashable zijn dit onder meer Instagram-gebruikers die hun verlovingskrater zagen nadat ze uit solidariteit een post hadden geplaatst met hun locatie ingesteld op Gaza, links hadden gedeeld naar inzamelingsacties om mensen in Palestina te helpen, of inhoud hadden gepost die de Palestijnen steunde.
Sommige organisaties voor digitale rechten, waaronder de EFF en 7amleh-The Arab Center for Social Media Advancement , volgen actief potentiële digitale rechtenschendingen van Palestijnen tijdens het conflict, vooral op Instagram, waar sommige Palestijnse activisten verontrustende veranderingen hebben opgemerkt in de manier waarop hun inhoud circuleert in de media. afgelopen weken.
“Deze omvatten het verbieden van het gebruik van Arabische namen voor recente escalaties [dwz de oorlog tussen Israël en Hamas], terwijl de Hebreeuwse naam wordt toegestaan, het beperken van reacties van profielen die geen vrienden zijn, en…het aanzienlijk verminderen van de zichtbaarheid van berichten, video’s en verhalen. ‘, schreef Nadim Nashif, de mede-oprichter en directeur van 7amleh, in een e-mail aan Vox.
In een verklaring zei Meta dat de problemen met de zichtbaarheid van berichten die sommige Palestijnse gebruikers troffen, te wijten waren aan een wereldwijde “bug” en dat sommige Instagram-hashtags niet langer doorzoekbaar waren omdat een deel van de inhoud die deze gebruikte, de Meta-regels overtrad. Meta’s verklaring noemt geen specifieke hashtags die onder dit beleid beperkt zijn.
Mona Shtaya, een Palestijnse digitale rechtenactiviste, karakteriseerde op Instagram de hashtag shadowbans als een “collectieve straf tegen mensen die politieke gedachten delen of mensenrechtenschendingen documenteren” die een negatieve impact zal hebben op de inspanningen om feiten te controleren en nauwkeurige informatie over de situatie te delen. in Gaza.
Wat is het verschil tussen schaduwbanning en moderatiebias?
Shadowbanning is slechts één aspect van een breder probleem dat experts op het gebied van digitale rechten in de gaten houden als het gaat om mogelijke vooringenomenheid bij de handhaving van de regels van een platform. En dit is geen nieuw probleem voor pro-Palestijnse inhoud.
Moderatiebias “komt in veel verschillende smaken voor, en het is niet altijd opzettelijk”, zei York. Platforms kunnen hun taalcompetentie voor een specifieke taal te weinig of verkeerd inzetten, iets wat volgens York al lang een probleem is met de manier waarop in de VS gevestigde platforms zoals Meta inhoud in het Arabisch modereren. “Er zijn misschien aanzienlijke aantallen moderators van Arabischtalige inhoud, maar ze hebben het moeilijk omdat het Arabisch een aantal verschillende dialecten omvat”, merkte ze op.
Er ontstaan ook vooroordelen in de manier waarop bepaalde termen worden geclassificeerd door moderatie-algoritmen. We weten dat dit specifieke soort vooringenomenheid de Palestijnse inhoud kan beïnvloeden, omdat het al eerder is gebeurd . In 2021, tijdens een nieuwe escalatie van het conflict tussen Hamas en Israël, documenteerden digitale rechtengroepen honderden verwijderingen van inhoud die op oneerlijke wijze gericht leken te zijn op pro-Palestijnse sentimenten.
Meta erkende uiteindelijk dat zijn systemen verwijzingen blokkeerden naar de al-Aqsa-moskee, een heilige plaats voor moslims die in Meta’s systemen ten onrechte werd gemarkeerd als verbonden met terroristische groeperingen.
Meta gaf opdracht tot een onafhankelijk rapport over haar moderatiebeslissingen tijdens het conflict van 2021, waarin Meta’s zwakke punten bij het modereren van Arabische berichten in de juiste context werden gedocumenteerd. Het constateerde ook dat de beslissingen van Meta “een negatieve impact op de mensenrechten lijken te hebben gehad” op de rechten van Palestijnse gebruikers “vrijheid van meningsuiting, vrijheid van vergadering, politieke participatie en non-discriminatie.”
In reactie op het rapport beloofde Meta haar relevante beleid te herzien en de moderatie van het Arabisch te verbeteren , onder meer door meer moderators te werven met expertise in specifieke dialecten. Meta’s huidige moderatie van de oorlogsinhoud tussen Israël en Hamas wordt geleid door een gecentraliseerde groep met expertise in het Hebreeuws en Arabisch, aldus het bedrijf . Sommige inhoudsverwijderingen, zo voegden ze eraan toe, gaan door zonder account-“waarschuwingen” om te voorkomen dat accounts automatisch worden verbannen waarvan de inhoud ten onrechte is verwijderd.
Welke andere inhoud wordt in de schaduw gesteld?
Claims over schaduwverboden worden in verband gebracht met verdeeldheid zaaiende kwesties. Maar waarschijnlijk hebben de best gedocumenteerde gevallen te maken met de manier waarop grote platforms omgaan met inhoud over naaktheid en seks. Sekswerkers documenteren al lang hun eigen schaduwverboden op reguliere sociale mediaplatforms, vooral nadat in 2018 een paar wetsvoorstellen werden aangenomen die gericht waren op het stoppen van de sekshandel en de bescherming verwijderden voor online platforms die een breed scala aan inhoud over seks hosten .
Over het algemeen, zegt York, worden schaduwverboden nuttige moderatie-instrumenten voor platforms wanneer het direct beperken van bepaalde soorten inhoud voor hen een probleem zou kunnen worden.
‘Ze willen niet gezien worden als mensen die mensen volledig buitensluiten’, zei ze. “Maar als ze druk krijgen van verschillende kanten, of het nu gaat om overheden, aandeelhouders of adverteerders, is het waarschijnlijk in hun belang om te proberen bepaalde vormen van uiting aan banden te leggen en tegelijkertijd de mensen op het platform te laten blijven, zodat het minder een last wordt. controverse.”
TikTok-inhoud kan ook in de schaduw worden gesteld, volgens de communityrichtlijnen, waarin wordt opgemerkt dat het platform “de vindbaarheid kan verminderen, onder meer door zoekresultaten om te leiden of video’s niet in aanmerking te laten komen voor aanbeveling in de ‘For You’-feed” wegens overtredingen. Andere platforms, zoals Instagram, YouTube en X, hebben tools gebruikt om het bereik van ‘borderline’ of ongepaste inhoud, zoals gedefinieerd door hun moderatiesystemen, te verlagen of te beperken.
Hoewel het erg moeilijk – zo niet onmogelijk – is om schaduwverboden te bewijzen, tenzij een bedrijf besluit te bevestigen dat het heeft plaatsgevonden, zijn er enkele gedocumenteerde gevallen van de vooroordelen die inherent zijn aan deze moderatiesystemen die, hoewel ze niet helemaal passen in de definitie van schaduwverboden, het overwegen waard kunnen zijn. terwijl we claims proberen te beoordelen.
TikTok moest in 2021 een fout corrigeren die makers automatisch verbood uitdrukkingen als ‘zwarte mensen’ of ‘zwart succes’ te gebruiken in hun marketingbios voor de database van het platform met makers die beschikbaar zijn om gesponsorde inhoud voor merken te maken. In 2017 ontdekten LGBTQ- makers dat YouTube anderszins onschadelijke video’s waarin LGBTQ-mensen voorkomen, had bestempeld als ‘beperkte inhoud’, waardoor de zichtbaarheid ervan werd beperkt.
Hoe weet je of je account in de schaduw is gesteld?
Dit kan moeilijk zijn! “Ik heb het gevoel dat mensen hierover vaak door de bedrijven worden misleid”, zei York. Veel platforms, zo vervolgde ze, “willen niet eens toegeven dat er schaduwbans bestaan”, zelfs als ze gebruik maken van geautomatiseerde moderatietools zoals trefwoordfilters of accountbeperkingen die schaduwbans kunnen creëren. En sommige veelbetekenende tekenen van shadowbanning – verloren volgers, een afname van de betrokkenheid – kunnen worden verklaard door een organisch verlies van interesse in de inhoud van een gebruiker of een legitieme softwarefout.
Sommige platformspecifieke sites beloven je account te analyseren en je te laten weten of je in de schaduw bent gesteld, maar deze tools zijn niet onfeilbaar. (Je moet ook voorzichtig zijn met het doorgeven van je accountgegevens aan een site van derden.) Er is één oplossing, zei York: bedrijven zouden transparanter kunnen zijn over de inhoud die ze verwijderen of beperken, en uitleggen waarom.
Het vinden van goede informatie over een conflict is al lastig. Dit geldt vooral voor degenen die meer willen weten over de oorlog tussen Israël en Hamas, en in het bijzonder over Gaza. Er zijn maar weinig journalisten die vanuit Gaza ter plaatse kunnen rapporteren, waardoor het uiterst moeilijk is om de situatie daar te verifiëren en te contextualiseren.
Volgens het Committee to Protect Journalists zijn er op het moment van schrijven 29 journalisten omgekomen sinds het begin van de oorlog. Het toevoegen van het schrikbeeld van schaduwverboden aan deze crisis van betrouwbare informatie bedreigt nog een andere manier om verhalen uit de eerste hand aan een breder publiek te verstrekken en te versterken.