In 2025 lanceerde FARI – AI for the Common Good Institute een format onder de naam “Anchoring Sessions”. Daarmee ondersteunt FARI aangesloten onderzoekers die een component rond burgerparticipatie willen toevoegen aan hun onderzoek. De eerste sessie, opgezet als focusgroep, werd georganiseerd met Anastasia Karagianni van de onderzoeksgroep LSTS (VUB). Ze ging over het auditen van slimme wearables, zoals verbonden en draagbare ringen en brillen, vanuit het perspectief van equity en safety by design.

Voor deze tweede editie mochten we Dr. Miriam Doh en haar collega’s verwelkomen: Dr. Piera Riccio (University of Amsterdam), Dr. Monique Munarini (Trinity College Dublin) en Olivia Lopez Calderon (Skin Mutts). Samen begeleidden zij een workshop over de manier waarop artificiële-intelligentiesystemen identiteit operationaliseren via rigide categorieën, en over de gevolgen daarvan voor mensen van wie de identiteit fluïde, hybride of contextafhankelijk is.

Onze gast, Miriam Doh, is postdoctoraal onderzoeker aan de Université Libre de Bruxelles en verbonden aan de Machine Learning Group. Haar onderzoek richt zich op de sociotechnische implicaties van AI-systemen, met bijzondere aandacht voor rechtvaardigheid, identiteit en algoritmische verantwoording in computer vision.

In dit artikel spreekt Léa Rogliano, hoofd van FARI’s Citizen Engagement Hub (CEH), met Miriam over haar sessie binnen de Anchoring Sessions. Wat zoeken we wanneer we ons onderzoek openstellen voor derden? Wat kunnen we verwachten van zulke samenwerkingen? En welke methoden helpen om tot waardevolle resultaten te komen?

De missie van het CEH is om uitwisseling tussen onderzoekers en de civiele samenleving te stimuleren, en om samen te bouwen aan innovatie voor het algemeen belang.

---

L.R.: Dag Miriam, laten we beginnen met een algemene vraag. Wat betekent AI voor het algemeen belang voor jou als onderzoeker?

Voor mij gaat AI voor het algemeen belang niet simpelweg over het bouwen van nauwkeurigere systemen. Het gaat erom dat AI werkelijk ten goede komt aan de mensen en gemeenschappen die erdoor worden beïnvloed. Dat betekent ook dat we opnieuw moeten nadenken over hoe we succes in AI definiëren. Onderzoek focust te vaak op optimalisatie en nauwkeurigheid zonder een cruciale vraag te stellen: nauwkeurig voor wie? Een systeem kan technisch succesvol zijn en toch schade veroorzaken wanneer de categorieën waarop het steunt gebrekkig zijn, of wanneer het wordt ingezet voor surveillance in plaats van ondersteuning. AI voor het algemeen belang vraagt daarom om voortdurende reflectie over wiens belangen worden gediend, én om betekenisvolle participatie van de mensen die het meest door deze technologieën worden geraakt.

L.R.: Dank je. Kun je ons meer vertellen over het onderwerp van je onderzoek en wat dit project heeft gemotiveerd?

Dit project is ontstaan vanuit een heel concreet ongemak. In mijn onderzoek naar gezichtsherkenning en algoritmische rechtvaardigheid bleef ik botsen op een probleem dat wel breed werd besproken binnen kritische AI-gemeenschappen, maar zelden aan bod kwam in technische machine-learningcontexten. De raciale categorieën die in machine-learningdatasets worden gebruikt, zijn bijna volledig afgeleid van classificaties uit de Amerikaanse volkstelling. Ze zijn nauwelijks relevant in een Europese context. Fundamenteler nog: ze schieten volledig tekort wanneer het gaat om mensen met een gemengde achtergrond, van wie de identiteit niet netjes in één vakje past.

Samen met Dr. Piera Riccio schreef ik een position paper waarin we stellen dat raciale categorisering in machine learning niet alleen technisch onnauwkeurig is, maar ook conceptueel problematisch. Ras is een sociale constructie, geen biologisch feit. Het behandelen als een stabiele en meetbare variabele doet meer kwaad dan goed.

Terwijl we aan dat artikel werkten, zagen we hetzelfde probleem ook elders terugkeren. Het ging niet alleen over ras. Gender, handicap, taal, migratiestatus en gezinssamenstelling zijn allemaal domeinen waarin AI-systemen vaak dezelfde fout maken: ze gaan ervan uit dat identiteit vast, eenduidig en classificeerbaar is. De mensen die daarvoor de prijs betalen, zijn steeds degenen wier leven niet overeenkomt met de standaardnorm.

Dat motiveerde ons om het gesprek te verbreden: eerst met de onderzoeksgemeenschap tijdens de ACM Conference on Human Factors in Computing Systems (ACM CHI) in Barcelona, en daarna met organisaties uit de civiele samenleving hier bij FARI. Vanaf het begin wilden we er ook voor zorgen dat de resultaten van dit werk een publiek buiten de academische wereld zouden bereiken. Daarom zijn we vanaf de start een samenwerking aangegaan met Skin Mutts.

L.R.: We waren erg blij om jou en je drie collega’s die bij dit onderzoek betrokken zijn te mogen verwelkomen. Kun je ons meer vertellen over deze groep en over wat jullie ertoe bracht om samen aan dit onderwerp te werken?

De groep is organisch ontstaan rond een gedeelde interesse in de politieke dimensies van identiteit in AI-systemen.

Zoals ik eerder vermeldde, was Dr. Piera Riccio, postdoctoraal onderzoeker aan de University of Amsterdam, een van mijn samenwerkingspartners in de eerste fase van dit project: een position paper over hoe raciale categorieën worden geoperationaliseerd in machine-learningsystemen. Dat werk vormde het startpunt van waaruit we het onderzoek hebben verbreed naar een ruimer gesprek over identiteit en technologie: eerst via een academische workshop en daarna via de burgersessie hier bij FARI. Haar werk bevindt zich ook op het kruispunt van AI, visuele cultuur en kritische theorie. Ze is medeoprichter van het artistieke collectief no:topia, dat de productie van het speciale nummer van Skin Mutts Magazine financieel zal ondersteunen.

Dr. Monique Munarini, postdoctoraal onderzoeker aan Trinity College Dublin, sloot zich bij ons aan toen we het project uitbreidden. Als jurist en onderzoeker gespecialiseerd in participatieve en feministische benaderingen van AI-verantwoording bracht zij een essentieel perspectief binnen rond governance en rechtvaardigheid.

Wat deze groep ook bijzonder maakt, is de aanwezigheid van Olivia Lopez Calderon, oprichter van Skin Mutts, een Brussels platform gewijd aan hybride en gemengde identiteiten. In tegenstelling tot de rest van ons komt Olivia niet uit de academische wereld, en dat was precies de bedoeling. We wilden dit project vanaf het begin verankeren in gemeenschapspraktijken. Olivia sloot zich op hetzelfde moment aan als Monique, omdat we van meet af aan sterk voelden dat dit gesprek niet binnen de academische wereld mocht blijven. Skin Mutts creëert sinds 2016 ruimte voor deze ervaringen in Brussel. De samenwerking voelde daarom als een natuurlijke manier om onderzoek en publiek debat met elkaar te verbinden.

L.R.: Ik wil nu graag inzoomen op de workshop zelf en op hoe die is verlopen. Kun je drie woorden noemen die voor jou het best samenvatten hoe de tijd met de deelnemers was?

Ik zou zeggen: uitwisseling, verrassing en verankering.

L.R.: Ik had de kans om de workshop bij te wonen, die was opgebouwd rond drie stappen. De ervaring was zo verrijkend dat ik onze lezers er graag een beeld van wil geven. Kun je ons meenemen naar de eerste oefening, met de titel “Wat AI ziet, wat jij bent”, en uitleggen wat het doel ervan was en hoe deelnemers ermee aan de slag gingen?

De eerste activiteit was ontworpen om abstracte concepten tastbaar te maken. We gaven elke deelnemer een geprinte fictieve casus: een persoon van wie de identiteit verkeerd werd gelezen of vereenvoudigd door een AI-systeem. Een voorbeeld ging over een alleenstaande moeder van wie het algoritme voor promoties op het werk flexibele werkuren afstrafte. Een andere casus ging over een meertalige persoon die door een overheidssysteem tegen discriminatie als “Andere” werd geclassificeerd, omdat geen van de beschikbare taalopties aansloot bij diens achtergrond.

De deelnemers werden gevraagd na te denken over de kloof tussen hoe het systeem die persoon voorstelde en wie die persoon werkelijk was. Daarna konden ze die kloof visueel uitdrukken op een blad, met woorden, tekeningen, symbolen of om het even welke vorm die passend voelde.

Wat ik het meest waardeerde, was hoe snel mensen aansluiting vonden bij de casussen. Zelfs zonder technische achtergrond herkenden ze meteen wat er fout liep en waarom. Verschillende deelnemers gingen verder dan het fictieve scenario en brachten hun eigen professionele ervaring binnen. Ze beschreven gemeenschappen waarmee ze werken en die precies met dit soort misrepresentatie worden geconfronteerd. De activiteit creëerde een ruimte waarin geleefde ervaring en kritisch denken heel natuurlijk samenkwamen.

L.R.: In een tweede stap werden de deelnemers uitgenodigd om zich een AI-systeem voor te stellen waarin identiteit als fluïde, contextueel en complex wordt behandeld. Op het eerste gezicht lijken dat vrij complexe begrippen voor een niet-gespecialiseerd publiek. Toch gingen de groepen zonder zichtbare moeite met de opdracht aan de slag. Hoe heb jij hun antwoorden ervaren? Waren er voorstellen die je verrasten? Wat waren volgens jou de meest opvallende aspecten van hun bijdragen?

Ik was oprecht verrast door hoe snel en concreet de groepen met de opdracht aan de slag gingen. Dit zijn geen eenvoudige concepten, en toch had elke groep binnen enkele minuten een echt systeem, een echte persoon en een echt alternatief geïdentificeerd.

Eén groep hertekende een systeem voor jobmatching zodat persoonlijke gegevens pas zouden worden gedeeld nadat er eerst een match op basis van vaardigheden was vastgesteld. Een andere groep focuste op governance en verantwoording, en stelde dat compliance alleen niet volstaat: echte menselijke controle vereist traceerbaarheid en verantwoordelijkheid op elk niveau. Een derde groep werkte verder op de TalentScore-casus en stelde concrete veranderingen voor in de manier waarop prestatiebeoordelingen verlopen, waaronder input van collega’s en ruimte voor werknemers om hun eigen behoeften te uiten. Een vierde groep ontwierp een onboardingsysteem voor iemand van wie taal en geletterdheidsniveau onbekend zijn, volledig gebouwd rond het principe dat de persoon nooit ergens aan vastzit en altijd controle behoudt.

Wat al deze voorstellen gemeen hadden, was de nadruk op handelingsvermogen. In elk geval gaf het alternatieve systeem dat de deelnemers zich voorstelden de persoon meer controle over hoe die werd gezien en voorgesteld.

L.R.: Deze workshop werd oorspronkelijk ontwikkeld voor de onderzoeksgemeenschap van ACM CHI in Barcelona. Terugkijkend op beide ervaringen: welke gelijkenissen en verschillen zag je in de manier waarop onderzoekers en burgers zich engageerden met de oefeningen die we net bespraken?

Ik wil voorzichtig zijn met directe vergelijkingen tussen twee heel verschillende contexten en publieken. Dat gezegd zijnde, zijn er enkele observaties die het delen waard zijn. Beide groepen voelden zich meteen aangesproken door het onderwerp, en dat was op zich veelzeggend. Het toonde volgens mij aan dat de spanning tussen rigide categorisering en geleefde identiteit iets is wat mensen herkennen vanuit hun eigen ervaring, of ze nu onderzoekers zijn of praktijkwerkers in de gemeenschap.

Het belangrijkste verschil dat ik zag, zat in de manier van betrokkenheid. In Barcelona gebruikten de onderzoekers de activiteiten bijna als een ruimte voor collectieve reflectie en opluchting. Vooral de ontwerpoefening werd vrij poëtisch en abstract: deelnemers verkenden metaforen en filosofische kaders om identiteitscomplexiteit te benaderen. Ik had het gevoel dat het voor velen onder hen een opluchting was: eindelijk een ruimte om dingen te zeggen die moeilijk in een standaard academisch artikel passen.

In Brussel hebben we de activiteiten bewust concreter gemaakt, met specifieke fictieve casussen en voorbeelden uit verschillende domeinen, zodat deelnemers zonder technische achtergrond konden deelnemen. Daardoor waren de deelnemers veel meer actiegericht: ze dachten meteen in termen van echte systemen, specifieke gemeenschappen en praktische alternatieven.

Beide benaderingen waren waardevol en complementair. Wat ze deelden, was een oprechte wens om iets anders te verbeelden.

L.R.: Het laatste deel van de workshop was gewijd aan het opstellen van een collectief charter. Na Barcelona droegen in Brussel ongeveer twintig burgers en praktijkwerkers uit gemeenschappen bij aan de formulering van dat charter. Waarom was het voor jou belangrijk om mensen buiten de academische wereld bij deze discussie te betrekken?

Burger- en gemeenschapsbetrokkenheid is al een erkende waarde binnen HCI. Dit project bouwde daarop voort. De workshop in Brussel was een bewuste keuze om dit gesprek verder te voeren met praktijkwerkers die dagelijks samenwerken met gemeenschappen die door deze systemen worden geraakt. Voor mij was het een herinnering dat de vragen waaraan we in onderzoek werken een leven hebben buiten het lab, en dat participatie in elke fase belangrijk is – zelfs op het niveau van brainstormen.

L.R.: Was deze workshop met burgers een primeur voor jullie onderzoeksgroep? Terugkijkend op de ervaring: kun je in drie woorden beschrijven wat ze jou en je team heeft gebracht?

Energiegevend, onverwacht, noodzakelijk!

Voor onze onderzoeksgroep als geheel: ja, dit was een primeur. Tegelijk werken collega’s zoals Olivia Lopez Calderon en Dr. Monique Munarini regelmatig met burgers en gemeenschappen, en hun ervaring was van onschatbare waarde voor het ontwerp en de begeleiding van de sessie.

L.R.: Tijdens de workshop zei je dat de inzichten uit de consultaties in Brussel en Barcelona zouden doorstromen naar een toekomstige publicatie. Kun je daar meer over vertellen?

De resultaten van beide workshops zullen worden vertaald naar een speciaal nummer van Skin Mutts Magazine, een onafhankelijke Brusselse publicatie gewijd aan hybride en gemengde identiteiten. Het nummer zal visuele artefacten, verhalen en reflecties bevatten die tijdens de workshops zijn geproduceerd, evenals de twee collectieve manifesten. Het zal digitaal, gratis en in open access worden verspreid, zodat het een publiek bereikt dat veel verder reikt dan de academische wereld.

L.R.: We kijken uit naar de publicatie en zullen ze zeker delen met onze lezers. Tot slot wil ik graag de fakkel doorgeven aan de deelnemers en onderzoekers die aan toekomstige Anchoring Sessions zullen deelnemen. Op basis van jouw ervaring: welk advies zou je geven aan mensen die betekenisvolle burgerparticipatie willen inbouwen in hun onderzoek of projecten?

Mijn belangrijkste advies is om tijd te investeren in kennisdeling voordat je mensen vraagt om bij te dragen. Burgerparticipatie werkt het best wanneer deelnemers voldoende context hebben om betekenisvol deel te nemen: niet als experts, maar als goed geïnformeerde mensen. In ons geval besteedden we het eerste deel van de workshop aan het uitleggen van hoe AI-systemen werken, op een concrete en toegankelijke manier. Dat maakte alles wat volgde veel rijker.

Het tweede advies is om zo praktisch mogelijk te zijn in het ontwerp van de activiteiten. Abstracte vragen leveren abstracte antwoorden op. Geef mensen een concrete casus, een realistisch scenario, een specifiek systeem waarop ze kunnen reageren, en ze zullen je verrassen met hoeveel ze te zeggen hebben.

---

Vond je dit artikel interessant en wil je het vorige interview ontdekken? Lees meer over het werk van Anastasia Karagianni.

Ben je onderzoeker of onderzoekster in een laboratorium dat verbonden is aan FARI? Wil je een workshop organiseren om het social readiness level van je project te verhogen? Neem dan contact op via citizen@fari.brussels.