Wanneer onderzoekers en het maatschappelijk middenveld zich de toekomst van onze steden voorstellen

In 2023 lanceerde FARI – AI Instituut voor het Algemeen Belang, in samenwerking met Paradigm, een beurs voor zijn partneronderzoekscentra om burgerbetrokkenheid bij Artificiële Intelligentie (AI), Data en Robotica te stimuleren. Zeven projecten werden ondersteund.

Ana Pop Stefanija, postdoctoraal onderzoekster bij imec-SMIT, Vrije Universiteit Brussel, experimenteerde met de burgerjury-methode om het ethisch en maatschappelijk aanvaardbare gebruik van AI-proxy’s voor energiedistributie in tijden van crisis te onderzoeken. Als onderdeel van het COOMEP-project bracht het 20 inwoners van Brussel samen, die gezamenlijk de richtlijnen en redlines bespraken en beslisten over de toekomstige scenario’s van AI en geautomatiseerde besluitvorming.

In dit artikel bevraagt Léa Rogliano, hoofd van FARI’s Citizen Engagement Hub (CEH), Ana Pop Stefanija naar haar ervaringen en feedback. Waar zijn we naar op zoek als we ons onderzoek openstellen voor derden? Wat kunnen we verwachten van dergelijke samenwerkingen? Wat zijn de beste methoden om een volwaardig resultaat te bereiken? Het volgende artikel is een transcript van dit gesprek. De missie van de CEH is het stimuleren van uitwisselingen tussen onderzoekers en het maatschappelijk middenveld, om gezamenlijke innovatie op te bouwen in het algemeen belang.

L.R: Wat betekent “AI in het algemeen belang” voor jou?

A.PS: Dit betekent dat welke technologie we ook bouwen, deze in het voordeel van mensen moet werken. Dat er geen risico’s of nadelen aan verbonden zijn. Het betekent ook dat het gebouwd moet worden in samenwerking met de mensen die het het meest beïnvloeden zullen worden. Omdat zij zeer specifieke ervaringen hebben, denk ik dat burgers het best in staat zijn om aan de fundamenten van technologie te werken om mogelijk schadelijk gebruik te voorkomen.

L.R: Kan je ons een voorbeeld geven?

A.PS: Er is een goed voorbeeld uit Nederland van 2021, denk ik. Het was een schandaal dat aantoonde dat criteria die leidden tot raciale profilering waren opgenomen in het algoritmische systeem dat gebruikt werd om te bepalen of aanvragen voor kinderbijslag als foutief en mogelijk frauduleus moesten worden beschouwd. Veel mensen werden onrecht beschuldigd van fraude. Kinderen werden bij hun families weggehaald… Dit systeem beïnvloedde echt het leven van heel veel families. De minister-president van Nederland heeft moeten aftreden.1 Als we een systeem bouwen om gewoon zo efficiënt mogelijk te zijn, maar geen rekening houden met de realiteit en de ervaringen van mensen, kunnen we eindigen met totaal oneerlijke systemen.

L.R: Kan je het doel samenvatten van de burgerbevraging die je organiseerde voor dit FARI citizen science project?

A.PS: Deze burgerjury maakte deel uit van een groter project, het COOMEP-project (Coordination mechanisms for the sharing of energy through proxies, from the user to general guidelines). Het idee was om te werken aan een futuristisch scenario waarin een kunstmatig intelligentiesysteem, mogelijk via AI-proxies2 , zou bepalen hoe energie verdeeld wordt onder huishoudens tijdens een algemene vermindering van de energiecapaciteit – ook wel brownout genoemd – wanneer er niet genoeg energie is om alle huishoudens in Brussel van energie te voorzien. Het delegeren van zeer waardevolle, mogelijk schadelijke beslissingen, aan een technologisch systeem, dat niet in staat is om de context en omstandigheden van het gebruik volledig te beoordelen zonder menselijke tussenkomst en toezicht, is uitzonderlijk gevaarlijk. In een situatie als deze (hoe hypothetisch ook) hebben we besloten om burgers actief te betrekken bij het bedenken en ontwerpen van deze AI-technologie.

L.R: Kan je ons vertellen hoe de burgerjury georganiseerd werd?

A.PS: Een burgerjury als instrument om inzichten van burgers te verkrijgen kent een lang gevestigde methodologie. Het wordt gebruikt wanneer er geen duidelijk ja-of-nee antwoord mogelijk is, wanneer de beslissingen complex zijn en waardeoordelen inhouden, en mogelijk verschillende gemeenschappen in verschillende mate beïnvloeden. Kortom, een burgerjury (of assemblee, of raad) is een vergadering van burgers die samenkomen om te discussiëren en aanbevelingen te doen over een bepaalde kwestie (Smith & Wales, 1999). Het is dus een proces en geen eenmalige gebeurtenis. Het doel is om een gemeenschappelijke basis te vinden en collectieve aanbevelingen te doen, vaak om beleid en besluitvorming te informeren. Het moet gebeuren op een manier die democratische ruimte creëert waar gewone mensen kunnen discussiëren en oplossingen kunnen bedenken voor kritieke kwesties die hen waarschijnlijk zullen raken.

De eerste stap is altijd om deelnemers toegang te geven tot kennis en informatie (leerfase). Burgerjury’s gaan ervan uit, net als jury’s in rechtbanken, dat kennis nodig is om een geïnformeerde aanbeveling te kunnen doen. De tweede fase is deliberatie, waarbij juryleden proberen tot een beslissing te komen, begeleid door facilitators en onderzoekers. De laatste fase is het formuleren van de aanbevelingen.

In dit project boden we kennis aan over artificiële intelligentiesystemen door twee experts in te schakelen: een computerwetenschapper en een rechtsgeleerde. Zij traden op als getuigen/deskundigen die de belangrijkste informatie op een evenwichtige manier moesten verstrekken, de voordelen en de risico’s van het gebruik van kunstmatige intelligentie moesten bespreken en verschillende perspectieven en visies moesten bieden. Daarnaast hebben we het hele proces zo ontworpen dat er ten minste twee weken tussen de sessies verstreken, zodat de jury kon nadenken en het kennismateriaal dat we hen gaven kon raadplegen.

De burgerjury moet ook representatief zijn voor de bevolking die het sterkst geaffecteerd wordt, in dit geval de inwoners van het Brussels Hoofdstedelijk Gewest. Op basis van de statistische en demografische samenstelling van het Brussels Hoofdstedelijk Gewest en met behulp van een sorteeralgoritme selecteerden we 20 deelnemers uit meer dan honderd personen die hun interesse kenbaar maakten via onze online en straatcampagnes. We keken naar leeftijd, socio-economische status, opleidingsniveau, woonplaats, enz. Deze selectie gebeurde zeer precies en was zeer tijdrovend. Maar omdat het doel van ons onderzoek was om te zien hoe de Brusselaars beïnvloed zouden worden door een dergelijke technologie, was een rigoureus samengestelde representatieve steekproef van Brussel nodig.

L.R: Een van de uitzonderlijke benaderingen van je onderzoeksgroep, Imec-SMIT, is het uitvoeren van onderzoek in nauwe samenwerking met de technologie-gebruikers, die direct beïnvloed worden door hoe het werkt. Wat heb je geleerd van deze burgerjury-ervaring?

A.PS: De burgerjury was een uitzonderlijke onderzoekservaring. We hebben veel geleerd. Vaak gebruiken we in onderzoek wat het meest toegankelijk is. We rekruteren bijvoorbeeld studenten of beleidsmakers om deel te nemen. Maar in dit project hebben we, dankzij de burgerjury, mensen bereikt die niet gemakkelijk te bereiken zijn. Bovendien konden we veel tijd met hen doorbrengen (24 uur in totaal).

Als onderzoeker vind ik het belangrijk om naar de mening van mensen te vragen nadat ze de tijd hebben gehad om bij te leren over het onderwerp dat ik behandel. In vergelijking met andere, snellere methoden (bijv. vragenlijst, interview) leveren burgerjury’s meer en rijke, kwalitatieve gegevens en inzichten op.

In een burgerjury doen deelnemers meer dan vragen beantwoorden, ze experimenteren, ze begrijpen de technische problemen die besproken worden, ze reflecteren en brengen hun eigen ervaringen mee. We hebben de deelnemers gevraagd om na te denken over hun eigen huis en vervolgens over hun buren en naasten, om zo in de schoenen van iemand anders te gaan staan. Dit helpt hen om niet alleen aan hun eigen behoeften te denken, maar ook aan die van de gemeenschap in situaties die zich bij hen zouden kunnen voordoen. En op basis daarvan te overleggen en aanbevelingen te doen.

L.R: Wat waren de moeilijkheden?

A.PS: Een burgerjury is een zeer lang proces, zowel voor de onderzoekers als voor de deelnemers.

We vroegen onze juryleden om zich te verbinden aan drie volledige zaterdagen en om zeer betrokken te blijven tijdens elke sessie. Dit was het grootste risico: vragen om voortdurende deelname.

Van de kant van de onderzoekers kostte het veel tijd en middelen, zelfs voordat de jury begon. Het rekruteren, sorteren en faciliteren, evenals het identificeren en begeleiden van getuigen/deskundigen, zou door een externe partij moeten worden gedaan om neutraliteit te garanderen. We werkten met een externe organisatie die dit in overleg met ons deed. De externe facilitators moeten ook het onderwerp begrijpen, daarom hadden we dus ook veel voorbereidingen en vergaderingen. In totaal hadden we ongeveer 6 maanden nodig van de eerste voorbereiding tot de laatste jurysessie.

Bovendien is het organiseren van een burgerjury voor academische instellingen een duur proces. We hebben de deelnemers een vergoeding gegeven, de kosten van de externe organisatie gedekt en onder andere de catering betaald.

L.R: Hoe lang heeft het in totaal geduurd?

A.PS: In totaal ongeveer 9 maanden – 4 maanden voorbereiding, 2 maanden jurysessie en 3 maanden analyse (documenteren, transcripties maken, alles digitaliseren) en verslag schrijven.

L.R: Heb je het doel bereikt dat je voor ogen had?

A.PS: We hebben ons oorspronkelijke doel bereikt, namelijk het vaststellen van de leidende principes voor hoe een AI-systeem beslissingen zou moeten nemen over energiedistributie tijdens een brownout.

De jury produceerde een set van zeven leidende principes. Het systeem zou bijvoorbeeld eerlijkheid moeten garanderen en tegemoet moeten komen aan ieders primaire behoeften. Ook moet het systeem de waarde van onpartijdigheid hooghouden en ervoor zorgen dat discriminerende gegevens worden uitgesloten.

De manier waarop we de jury hebben opgezet, op een iteratieve en kennisproducerende manier, heeft ons ook de volgende inzichten opgeleverd: een lijst met geïdentificeerde (29) en geprioriteerde huishoudens (5), een lijst met waarden die richting moeten geven aan de ontwikkeling en inzet van de technologie (30 in totaal) en van de meest cruciale waarden (5). We verzamelden ook toekomstscenario’s (dystopisch en utopisch) over hoe de juryleden zich een toekomst voorstellen waarin dit systeem realiteit is. Onze inzichten gaan dus verder dan het primaire doel om simpelweg de leidende principes vast te stellen.

Het was intrigerend om te zien hoe het solidariteitsbeginsel uit al deze oefeningen naar voren kwam. Hieruit bleek de sterke steun die in Brussel aanwezig was. Voor de deelnemers betekende dit dat degenen die niet zoveel energie nodig hebben, kunnen geven aan degenen die het hardst nodig hebben.

Wat de burgerjury ons liet zien is dat het bouwen van een AI-systeem nooit een eenvoudig proces is. Het vergt veel denkwerk en het overwegen van talloze factoren. We zagen dat zelfs mensen soms moeite hebben om al deze informatie te beheren en beslissingen te nemen. Het coderen van deze resultaten in het algoritme zou dus ook een echte uitdaging zijn. De vraag rijst dan: “Moet technologie beslissen over zulke kwesties?”. Technologie is niet altijd objectief en weet het niet altijd beter dan wij.

L.R: Is je conclusie dan dat technologie niet alle soorten problemen kan/zou mogen oplossen?

A.PS: Ik geloof dat zeer complexe problemen, juist omdat ze zo complex zijn, de betrokkenheid van burgers vereisen. Ik denk echt dat dit soort technologie samen gebouwd moet worden en rekening moet houden met de realiteit. En dan is het natuurlijk nodig om te testen, te testen en nog eens te testen. Pas daarna kunnen we bepalen of de technologie bepaalde problemen kan oplossen of niet mag oplossen. Ik weet dat technologie en AI trendy zijn en dat de huidige maatschappelijke mantra lijkt te gaan over dingen snel doen, snel ontwikkelen, maar soms hebben bepaalde processen tijd nodig.

Als het project zou doorgaan, zou het heel belangrijk zijn om deze resultaten te gebruiken om verder te gaan, inclusief de verspreiding ervan onder AI-ontwerpers en beleidsmakers.

L.R: Dus, is dit een call-to-action?

A.PS: Ja, we denken dat het belangrijk is voor beleidsmakers om kennis te krijgen van deze conclusies. En misschien kunnen we zelfs nog verder gaan – hoe zou het zijn om een permanente burgerjury voor AI op te richten die kan worden gebruikt bij het nemen van beslissingen, het doen van beleidsaanbevelingen en het ontwikkelen van technologie?

L.R: Om ons interview af te sluiten, welk advies zou je geven aan AI-onderzoekers die burgers willen betrekken in hun onderzoek?

A.PS: Doe het! Denk voordat je begint na over met wie je moet praten. Technologie heeft altijd invloed op mensen, dus je moet met ze praten. Probeer na te denken over met wie je moet praten over de impact van technologie. Aan wie geven we een stem? Wie laten we achter? Wordt er rekening gehouden met degenen die het meest of onevenredig zwaar zullen worden getroffen? Zo niet, hoe kunnen we dat herstellen?