|Trevor Paglen|
|Image|
|Veel AI-systemen weerspiegelen verborgen vooroordelen. Niet omdat de machines zelf gebrekkig zijn, maar omdat de data waarmee ze getraind worden de aannames, stereotypen en blinde vlekken bevatten van de mensen die die data hebben samengesteld. Die vooroordelen blijven vaak onopgemerkt, maar beïnvloeden wel hoe AI de wereld classificeert, rangschikt en ermee omgaat.
Kunstenaar en onderzoeker Trevor Paglen maakt werk dat deze verborgen systemen achter AI zichtbaar maakt, vooral de bevooroordeelde data en onzichtbare structuren die bepalen hoe machines de wereld zien. Een voorbeeld daarvan is ImageNet Roulette (2020), dat hij samen met AI-onderzoeker Kate Crawford ontwikkelde. In dit project konden gebruikers een foto uploaden, waarna een AI-model (getraind op de ImageNet-dataset) die foto labelde. De resultaten waren vaak vreemd, verouderd of zelfs beledigend. Het project liet zien hoe AI mensen verkeerd kan weergeven als het getraind is op gebrekkige data. ImageNet Roulette was dan ook geen praktisch hulpmiddel, maar een kritisch kunstwerk—het roept vragen op over wie AI-systemen ontwikkelt, wiens perspectieven daarin worden vastgelegd, en wie er verkeerd wordt weergegeven.|
|1. Kies een platform waarop je een gepersonaliseerde feed ervaart (bijvoorbeeld Instagram, TikTok, YouTube of Spotify).
2. Gebruik de app 10–15 minuten zoals je dat normaal zou doen en neem je scherm op.
Bekijk daarna de opname terug en noteer de eerste 10 posts die je bent tegengekomen.
3. Beantwoord voor elk item de volgende vragen:
- Wat probeert deze content mij te laten doen? Bijvoorbeeld: iets kijken, iets kopen, iets liken, op een link klikken, ergens over piekeren, je ergens in herkennen of je gezien voelen?
- Waarom denk je dat het algoritme je dit laat zien?
- Welke aannames worden er gedaan over wie ik ben of waar ik van houd? Denk aan het beeld van jou waarmee het algoritme lijkt te werken.
4. Probeer je 10 posts in te delen in drie “identiteitsclusters”: kleine versies van hoe het algoritme jou mogelijk ziet. Geef elke cluster een naam die past bij het soort persoon dat jouw feed lijkt te verbeelden. Enkele voorbeelden:
“Creatieve professional in wording”, “Bezorgde consument”, “Nieuwsgierige maar verkoopbare feminist”, “Toevallige complottheorie-kijker”, “Productiviteitsjunkie”, “Potentiële moeder”.
5. Bedenk op basis van je clusters een fictieve of poëtische naam die samenvat hoe jouw feed jou lijkt te zien. Dit is een speelse manier om te reflecteren op de identiteit die jouw algoritme voor je bouwt. Voorbeelden:
“Bijna-Influencer met Keuzestress”, “Doomscrollende Dochter”, “Neurodivergente Consument met een Creditcard”.
6. Schrijf een korte reflectie (150–300 woorden) en beantwoord daarin de volgende vragen:
Wat voor soort persoon wordt er voor jou geconstrueerd? Ben je het eens met dat beeld? Wat voelt raak? En wat is juist een gereduceerde, wenselijke of gemanipuleerde versie?
7. Grijp nu in op je feed. Kies een nieuwe identiteit die je wilt aannemen—compleet anders dan je huidige algoritmische zelf. Dit mag speels, aspiratief, ironisch of surrealistisch zijn (de voorbeelden hierboven kunnen je inspireren).
Zoek dingen op waar deze nieuwe versie van jou in geïnteresseerd zou zijn. Like of reageer op onverwachte posts. Mute, blokkeer of rapporteer dingen die specifiek bij je oude zelf horen.
8. Observeer hoe je feed zich aanpast in de komende 48 uur. Wat verandert er? Wat blijft hetzelfde? Wat is er nodig om je algoritme opnieuw te trainen?
9. Neem even de tijd voor een reflectie op dit ‘hacken’ van je gepersonaliseerde feed.
Is je feed gaan verschuiven, of trok hij je terug naar je oude algoritmische zelf? Kon je hem echt veranderen, of bood het systeem weerstand? Welke patronen of strategieën viel je op? Hoe probeert jouw feed je aandacht vast te houden?|
|https://paglen.studio/2020/04/29/imagenet-roulette/|
|https://aiaiai.art/wp-content/uploads/2025/06/mistress.jpg|
|https://aiaiai.art/wp-content/uploads/2025/06/failure.jpg|
|https://aiaiai.art/wp-content/uploads/2025/06/bondwoman.jpg|
