YouTube’s “hate speech”-filter kan het verschil niet zien tussen schakers en gewelddadige racisten. Misschien is het niet zo’n goed idee om robots de baas te laten spelen over de Engelse taal.

De Kroatische schaker Antonio Radic, bij zijn miljoenen abonnees bekend als ‘Agadmator’, runt ’s werelds populairste schaakkanaal op YouTube. Afgelopen zomer werd zijn account geschorst vanwege de “schadelijke en gevaarlijke” inhoud. Radic, die op dat moment midden in een show met grootmeester Hikaru Nakamura zat, was verbijsterd. Hij kreeg geen verklaring voor het verbod, dat in beroep werd teruggedraaid, maar speculeerde dat het censuuralgoritme van YouTube hem misschien iets heeft horen zeggen als “zwart gaat naar B6 in plaats van C6, wit zal altijd beter zijn.

Als dat het geval is, weet ik zeker dat al [al] mijn 1800 video’s zullen worden verwijderd, want het is zwart tegen wit tot de dood in elke video,” vertelde hij destijds aan The SUN.

Radic had waarschijnlijk gelijk, meldt RT. Onderzoekers van de Carnegie Mellon University haalden meer dan 600.000 commentaren op 8.000 schaakvideo’s door een algoritme voor het opsporen van haatdragende taal en ontdekten dat ze vol zaten met racisme. Meer dan 80 procent van de commentaren die door het algoritme werden gemarkeerd, waren echter fout, omdat ze termen bevatten als “zwart”, “wit”, “aanval” en “bedreiging“.

Computerwetenschapper Ashiqur R. KhudaBukhsh presenteerde de resultaten van zijn studie vorige maand op een conferentie over kunstmatige intelligentie, en gaf enkele voorbeelden van commentaren die verkeerd werden opgevat als haatzaaiende taal. “Dat was een van de mooiste aanvalsreeksen die ik ooit heb gezien, zwart stond steeds op achterstand,” luidde er een.

YouTube vertrouwt op menselijke en AI-moderatoren om de inhoud te controleren, maar nu het videoplatform hard optreedt tegen “desinformatie over vaccins“, tegen inhoud waarin de verkiezingsoverwinning van Joe Biden in twijfel wordt getrokken en tegen allerlei “complottheorieën“, is er een hoop inhoud om doorheen te worstelen, en de robots doen het meeste zware werk, terwijl mensen hun fouten corrigeren.

Maar deze robots zijn in de eerste plaats door mensen ontworpen. Iemand moest ze zo afstellen dat elke vermelding van de woorden “zwart” en “blank” in een vijandige context onmiddellijk als racistisch zou worden geïnterpreteerd. De manier waarop deze algoritmen zijn geschreven, geeft weer hoe Silicon Valley de wereld ziet: als een borrelende ketel van potentiële haatmisdaden die door een welwillende AI moet worden rechtgezet.

Als zelfs schaakvideo’s onder de banhamer vallen, hoeveel andere incidenten van censuur en schorsing zijn dan ten onrechte? Radic heeft een miljoen abonnees, dus zijn aanvaring met de inhoudspolitie haalde het nieuws. Maar ik durf te wedden dat veel meer kleinere accounts gestraft worden voor “schadelijke meningsuiting” en nooit meer iets van zich laten horen. Zulke nevenschade is onvermijdelijk als we AI de grenzen van aanvaardbare taal laten bepalen.

Dus wat kan een schaakliefhebber doen? Misschien kunnen toekomstige fouten vermeden worden als de spelers de Woke-taal overnemen. Zwarte stukken zouden “stukken van kleur” kunnen worden, en witte ridders zouden uiteraard vervangen moeten worden, opdat het spel niet geassocieerd wordt met de Ku Klux Klan. Beter nog, “wit” en “zwart” zouden vervangen kunnen worden door “latte” en “avocado“, een combinatie die zeker niemand zal beledigen en de algoritmen zal ontwijken.

Hoewel deze kwestie de valkuilen illustreert van het gebruik van AI om een begrip dat zo slecht gedefinieerd is als “haatdragende taal” te interpreteren, zijn er echte gekken die denken dat het schaakspel tot in de kern onverdraagzaam is. Toen de westerse wereld afgelopen zomer na de dood van George Floyd op zoek ging naar racisme, vroeg ABC Australië, de nationale omroep van het land, aan een lid van de Australische Schaakbond of het koningsspel racistisch is omdat “wit altijd begint“.

Ontwikkeld in India en naar het blanke Europa gebracht via Perzië en vervolgens de Arabische wereld, werd schaken gespeeld door “Mensen van Kleur” lang voordat blanken er ooit bij betrokken raakten. Maar het feit dat deze geschiedenis verloren ging voor ABC is een voorbeeld van hetzelfde bekrompen wereldbeeld dat YouTube’s censors informeert. De raciale spanningen die de VS momenteel teisteren en die door de media worden aangewakkerd, zijn niet de drijvende kracht achter de geschiedenis van de hele wereld, en de kleuren “blank” en “zwart” zijn niet altijd doordrenkt van raciale subtekst.


Meld je aan voor onze dagelijkse nieuwsbrief:


Afrikaan steekt bus met schoolkinderen in brand in Italië

LAAT EEN REACTIE ACHTER

Vul alstublieft uw commentaar in!
Vul hier uw naam in