Sterk achtergrondboek tijdens de Musk-mania

Het blijft een aparte sensatie om elk radiojournaal Twitter voorbij te horen komen.

Knap van Elon Musk.

Voor wie de hype zat is, maar het onderwerp belangrijk vindt: mijn leestip is het boek Silicon Values van Jillian C. York. Ik interviewde York onlangs op het Brainwash Festival.

In dat boek laat York zien…

  • hoe ontzettend complex het is voor wereldwijde platforms om content te modereren. Denk alleen aan het aantal talen en culturen die je dient te doorgronden. Soms met doden tot gevolg, zoals in Burma. Waar haatdragende content op Facebook etnische zuiveringen aanwakkerde.
  • hoe weinig gemotiveerd platforms zijn om dat te doen. Alleen als ze het echt schade oplevert (bijvoorbeeld door druk vanuit een regering) ondernemen ze minimale actie.
    • Het goed modereren van discussies dient namelijk niet hun missie: zoveel mogelijk waarde creëren voor aandeelhouders.
    • Sterker nog, polariserende content zorgt voor hoge engagement, en daar zijn aandeelhouders juist blij mee (meer engagement betekent meer advertentie-inkomsten!)
  • Als je de dupe bent van censuur (bijvoorbeeld door overijverige AI), krijg je vaak nul op rekest. Behalve als je volgens de oude structuren machtig bent (zoals een overheid).

York schrijft een verslag vanaf de frontlijnen van contentmoderatie. Al sinds de Arabische Lente volgt ze dit onderwerp en ze staat in nauw contact met activisten en contentmoderators.

Silicon Values

Silicon Values confronteerde me ermee hoe ondoorzichtig en lukraak de Alphabets, Meta’s en Twitters van de wereld omgaan met zo’n belangrijk publiek goed als de gesprekken van burgers. Neem deze dodelijke alinea:

Imagine a society where the laws are created behind closed doors, without public input or approval. This is a society where at any time the laws are subject to change, or be replaced with new ones altogether. There is no democratic participation, no transparency, and no due process—and the laws are enforced by minimally trained workers in faraway locales who often lack awareness of local conditions or, increasingly, by trained machines. Mistakes are, of course, inevitable and plenty, but when they’re made, individuals rarely have the means to rectify them.

Jilian C. York – Silicon Values

Door Silicon Values realiseer ik me hoe vrijblijvend de opmerkingen van Elon Musk over contentmoderatie zijn:

  1. Alleen al zijn missie om anonimiteit in de ban te doen, getuigt van een grote naïviteit (denk aan de gebruikers in landen met een regime dat hen onderdrukt of aan klokkenluiders).
  2. Hij heeft het META-team ontslagen, dat zich bezighield met de combinatie tussen moderatie en kunstmatige intelligentie – zoals het opsporen van misinformatie en inzicht geven in algoritmische keuzes. Een cruciaal (en feilbaar) component in het veilig en vrij houden van een platform, volgens York.

Een goed theoretisch kader bij de hype!

Abonneer je op de nieuwsbrief van Ernst-Jan. Ontvang net als 7.200 anderen nieuwe artikelen over intentioneel leven.