En 2025, FARI – AI for the Common Good Institute a lancé un format appelé « Anchoring Sessions » afin de soutenir les chercheurs affiliés à FARI qui souhaitent intégrer une dimension de participation citoyenne à leurs recherches. Une première session, organisée sous la forme d’un groupe de discussion avec Anastasia Karagianni du groupe de recherche LSTS (VUB), portait sur l’évaluation des objets connectés intelligents (comme les bagues et lunettes connectées) intégrant l’équité et la sécurité dès la conception.

Pour cette deuxième édition, nous avons eu le plaisir d’accueillir la Dr Miriam Doh et ses collègues (Dr Piera Riccio (Université d’Amsterdam), Dr Monique Munarini (Trinity College Dublin) et Olivia Lopez Calderon (Skin Mutts)) pour un atelier examinant la manière dont les systèmes d’intelligence artificielle opérationnalisent l’identité à travers des cadres catégoriels rigides, ainsi que leurs conséquences pour les personnes dont les identités sont fluides, hybrides ou dépendantes du contexte.

Notre invitée, Miriam Doh, est chercheuse postdoctorale à l’Université libre de Bruxelles, affiliée au Machine Learning Group. Ses recherches portent sur les implications sociotechniques des systèmes d’IA, avec un intérêt particulier pour l’équité, l’identité et la responsabilité algorithmique dans la vision par ordinateur (Computer vision).

Dans cet article, Léa Rogliano, responsable du Citizen Engagement Hub (CEH) de FARI, interroge Miriam sur l’atelier mené avec des citoyens dans le cadre du format « Anchoring Sessions ». Que recherchons-nous lorsque nous ouvrons nos recherches à des tiers ? Que pouvons-nous attendre de telles collaborations ? Quelles sont les meilleures méthodes pour obtenir un résultat satisfaisant ?

La mission du CEH est de stimuler les échanges entre les chercheurs et la société civile et de construire une innovation concertée au service du bien commun.

---

L.R. : Bonjour Miriam, commençons par une question générale. Que signifie pour vous, en tant que chercheuse, l’IA au service du bien commun ?

Pour moi, l’IA au service du bien commun ne consiste pas à construire des systèmes de plus en plus précis, mais à s’assurer que l’IA bénéficie réellement aux personnes et aux communautés qu’elle affecte. Cela implique de repenser la manière dont nous définissons la réussite en IA. Trop souvent, la recherche se concentre sur l’optimisation et la précision sans se poser une question essentielle : précise pour qui ? Un système peut être techniquement performant tout en causant des préjudices si les catégories sur lesquelles il repose sont défaillantes, ou s’il est utilisé à des fins de surveillance plutôt que de soutien. L’IA au service du bien commun exige donc une réflexion continue sur les intérêts servis, ainsi qu’une participation significative des personnes les plus concernées par ces technologies.

L.R. : Merci. Pourriez-vous nous en dire davantage sur le sujet de vos recherches et sur ce qui a motivé ce projet ?

Ce projet est né d’un malaise très spécifique. Dans mes recherches sur la reconnaissance faciale et l’équité algorithmique, je me suis constamment heurtée à un problème largement discuté dans les communautés critiques de l’IA, mais rarement abordé dans les espaces techniques du machine learning. Les catégories raciales utilisées dans les jeux de données d’apprentissage automatique sont presque entièrement dérivées des classifications du recensement américain, et elles ont très peu de pertinence dans un contexte européen. Plus fondamentalement encore, elles échouent complètement lorsqu’il s’agit de personnes métisses dont l’identité ne correspond clairement à aucune catégorie unique.

Avec la Dr Piera Riccio, nous avons rédigé un article de position soutenant que la catégorisation raciale dans le machine learning n’est pas seulement techniquement imprécise, mais aussi conceptuellement erronée. La race est une construction sociale, et non un fait biologique, et la traiter comme une variable stable et mesurable fait plus de mal que de bien.

Mais au fil de notre travail sur cet article, nous avons constaté le même problème ailleurs. Il ne concernait pas uniquement la race. Le genre, le handicap, la langue, le statut migratoire et la structure familiale sont autant de domaines dans lesquels les systèmes d’IA tendent à commettre la même erreur : supposer que l’identité est fixe, unique et classifiable. Et les personnes qui en paient le prix sont toujours celles dont la vie ne correspond pas à la norme.

C’est ce qui nous a motivés à élargir la conversation, d’abord auprès de la communauté de recherche lors de la conférence Conference on Human Factors in Computing Systems (ACM CHI)à Barcelone, puis auprès des organisations de la société civile ici à FARI.

Dès le départ, nous voulions nous assurer que les résultats de ce travail atteignent des publics au-delà du monde académique, c’est pourquoi nous avons collaboré avec Skin Mutts

L.R. : Nous étions ravis de vous accueillir, vous et vos trois collègues impliqués dans cette recherche. Pourriez-vous d’ailleurs nous en dire plus sur ce groupe et sur ce qui vous a conduits à travailler ensemble sur ce sujet ?

Le groupe s’est constitué de manière organique autour d’un intérêt commun pour les dimensions politiques de l’Identité dans les systèmes d’IA.

Comme je l’ai mentionné précédemment, la Dr Piera Riccio, chercheuse postdoctorale à l’Université d’Amsterdam, a été l’une de mes collaboratrices dans la phase initiale de ce projet, à travers cet article de position examinant la manière dont les catégories raciales sont opérationnalisées dans les systèmes de machine learning. Ce travail a constitué le point de départ à partir duquel nous avons élargi la recherche vers une réflexion plus large sur l’identité et la technologie, d’abord à travers un atelier académique puis avec la session citoyenne organisée ici à FARI. Son travail se situe également à l’intersection de l’IA, de la culture visuelle et de la théorie critique, et elle a cofondé le collectif artistique no:topia, qui soutiendra financièrement la production du numéro spécial du magazine Skin Mutts.

La Dr Monique Munarini, chercheuse postdoctorale au Trinity College Dublin, nous a rejoints lorsque nous avons élargi le projet. Juriste et chercheuse spécialisée dans les approches participatives et féministes de la responsabilité en matière d’IA, elle a apporté une perspective essentielle sur la gouvernance et la justice.

Ce qui rend ce groupe particulier, c’est aussi la présence d’Olivia Lopez Calderon, fondatrice de Skin Mutts, une plateforme bruxelloise dédiée aux identités hybrides et métissées. Contrairement au reste d’entre nous, Olivia ne vient pas du milieu académique, et c’était précisément l’objectif. Nous voulions que ce projet soit ancré dans les pratiques communautaires dès le départ. Olivia nous a rejoints au même moment que Monique, car nous étions convaincus dès le début que cette conversation ne devait pas rester confinée au monde académique. Depuis 2016, Skin Mutts crée des espaces pour ces expériences à Bruxelles, et cette collaboration nous a semblé être une manière naturelle de faire le lien entre la recherche et le débat public.

L.R. : J’aimerais maintenant revenir sur l’atelier lui-même et sur son déroulement. Pourriez-vous me donner trois mots qui, selon vous, résument le mieux le temps passé avec les participants ?

Je dirais : échange, surprise et ancrage.

L.R. : J’ai eu l’occasion d’assister à l’atelier, qui était structuré en trois étapes. L’expérience a été si enrichissante que j’aimerais que nos lecteurs puissent en avoir un aperçu. Pourriez-vous revenir sur le premier exercice, intitulé « Ce que l’IA voit, ce que vous êtes », et expliquer son objectif ainsi que la manière dont les participants s’y sont engagés ?

La première activité avait été conçue pour rendre tangibles des concepts abstraits. Nous avons remis à chaque participant un cas fictif imprimé, représentant une personne dont l’identité était mal interprétée ou simplifiée par un système d’IA. Par exemple, l’un des cas concernait une mère célibataire dont l’algorithme de promotion professionnelle pénalisait les horaires de travail flexibles. Un autre portait sur une personne multilingue classée dans la catégorie « Autre » par un système gouvernemental de lutte contre les discriminations car aucune des options linguistiques disponibles ne lui correspondait.

Les participants étaient invités à réfléchir à l’écart entre la manière dont le système représentait cette personne et ce qu’elle était réellement, puis à exprimer visuellement cet écart sur une feuille, à l’aide de mots, de dessins, de symboles, ou de tout autre moyen qui leur semblait approprié.

Ce que j’ai particulièrement apprécié, c’est la rapidité avec laquelle les participants se sont identifiés aux situations. Même sans formation technique, ils ont immédiatement compris ce qui posait problème et pourquoi. Plusieurs d’entre eux sont allés au-delà du scénario fictif et ont commencé à mobiliser leur propre expérience professionnelle, en décrivant les communautés avec lesquelles ils travaillent confrontées exactement à ce type de mauvaise représentation. L’activité a créé un espace où l’expérience vécue et la réflexion critique se sont rencontrées de manière très naturelle.

L.R. : Dans une deuxième étape, les participants ont été invités à imaginer un système d’IA dans lequel l’identité serait considérée comme fluide, contextuelle et complexe. À première vue, ces notions semblent assez complexes pour un public non spécialiste. Pourtant, les groupes se sont emparés de la tâche sans difficulté apparente. Comment avez-vous vécu leurs réponses ? Certaines propositions vous ont-elles surprise ? Quels ont été, selon vous, les aspects les plus marquants de leurs contributions ?

J’ai été sincèrement surprise par la rapidité et le caractère concret avec lesquels les groupes se sont approprié l’exercice. Ce ne sont pas des concepts simples et pourtant, en quelques minutes, chaque groupe avait identifié un système réel, une personne réelle et une alternative réelle.

Un groupe a repensé un système de mise en relation pour l’emploi afin de retarder la divulgation des données personnelles jusqu’à ce qu’une correspondance de compétences ait été établie. Un autre s’est concentré sur la gouvernance et la responsabilité, en soutenant que la conformité seule ne suffit pas et qu’une véritable supervision humaine exige traçabilité et responsabilité à tous les niveaux. Un troisième groupe a travaillé sur le cas TalentScore et proposé des modifications concrètes dans la manière dont les évaluations de performance pourraient être réalisées, notamment par l’intégration de retours des pairs et d’espaces permettant aux travailleurs d’exprimer leurs propres besoins. Enfin, un quatrième groupe a imaginé un système d’acceuil destiné à une personne dont la langue et le niveau de littératie sont inconnus, entièrement fondé sur le principe que cette personne ne soit jamais contrainte et conserve toujours le contrôle.

Ce que toutes ces propositions avaient en commun, c’était l’accent mis sur l’autonomie. Dans chaque cas, le système alternatif imaginé donnait davantage de contrôle à la personne sur la manière dont elle était perçue et représentée.

L.R. : Cet atelier a d’abord été développé pour la communauté de recherche de l’ACM CHI de Barcelone. Avec le recul, quelles similitudes et quelles différences avez-vous observées dans la manière dont les chercheurs et les citoyens se sont engagés dans les exercices dont nous venons de parler ?

Je souhaite rester prudente avant d’établir des comparaisons directes entre deux contextes et deux publics très différents. Cela dit, certaines observations méritent d’être partagées.

Les deux groupes se sont immédiatement reconnus dans le sujet, ce qui est en soi révélateur. Je pense que cela montre que la tension entre les catégorisations rigides et l’identité vécue est quelque chose que les gens reconnaissent à partir de leur propre expérience, qu’ils soient chercheurs ou praticiens de terrain.

La principale différence que j’ai observée réside dans le mode d’engagement. À Barcelone, les chercheurs ont utilisé les activités presque comme un espace de réflexion collective et de dépot. L’exercice de conception est devenu particulièrement poétique et abstrait, les participants explorant des métaphores et des cadres philosophiques pour penser la complexité identitaire. J’ai eu le sentiment que, pour beaucoup d’entre eux, c’était un soulagement : enfin un espace où exprimer des idées difficiles à faire entrer dans un article académique classique.

À Bruxelles, nous avons volontairement adapté les activités pour les rendre plus concrètes, en fournissant des cas fictifs précis et des exemples de domaines afin de permettre aux participants de s’engager sans bagage technique. En conséquence, les participants se sont montrés beaucoup plus orientés vers l’action, réfléchissant immédiatement à des systèmes réels, à des communautés spécifiques et à des alternatives pratiques.

Les deux approches étaient précieuses et complémentaires. Ce qu’elles partageaient, c’était un véritable désir d’imaginer autre chose.

L.R. : La dernière partie de l’atelier était consacrée à la rédaction d’une charte collective. Après Barcelone, une vingtaine de citoyens et de praticiens communautaires bruxellois ont contribué à l’élaboration de cette charte. Pourquoi était-il important pour vous d’impliquer des personnes au-delà du monde académique dans cette discussion ?

L’implication des citoyens et des communautés est déjà reconnue comme une valeur importante dans le domaine de l’interaction humain-machine (HCI). Ce projet s’inscrivait dans cette continuité. L’atelier de Bruxelles visait à poursuivre cette conversation avec des personnes qui travaillent quotidiennement avec les communautés affectées par ces systèmes. Cela m’a rappelé que les questions sur lesquelles nous travaillons dans la recherche ont une existence au-delà du laboratoire, et que la participation à chaque étape, même au niveau de dé part de l’idéation, est importante.

L.R. : Cet atelier avec des citoyens était-il une première pour votre groupe de recherche ? Avec le recul, pourriez-vous décrire en trois mots ce que cette expérience vous a apporté, à vous et à votre équipe ?

Stimulant, inattendu, nécessaire !

Pour notre groupe de recherche dans son ensemble, oui, c’était une première. Cela dit, des collègues comme Olivia Lopez Calderon et Dr Monique Munarini travaillent régulièrement avec des citoyens et des communautés, et leur expérience a été précieuse pour concevoir et animer la session.

L.R. : Pendant l’atelier, vous avez mentionné que les enseignements tirés de ces consultations à Bruxelles et à Barcelone nourriraient une publication à venir. Pourriez-vous nous en dire davantage ?

Les productions issues des deux ateliers seront rassemblées dans un numéro spécial du magazine Skin Mutts, une publication indépendante bruxelloise consacrée aux identités hybrides et métissées. Ce numéro comprendra des productions visuelles, des récits et des réflexions élaborés pendant les ateliers, ainsi que les deux manifestes collectifs. Il sera diffusé gratuitement en format numérique et en accès libre, afin d’atteindre des publics bien au-delà du monde académique.

L.R. : Nous attendons cette publication avec impatience et nous ne manquerons pas de la partager avec nos lecteurs. Pour conclure, j’aimerais passer le relais aux participants et aux chercheurs qui prendront part aux futures Anchoring Sessions. Sur la base de votre expérience, quel conseil donneriez-vous à celles et ceux qui cherchent à intégrer une participation citoyenne significative dans leurs recherches ou leurs projets ?

Mon principal conseil serait d’investir du temps dans le partage des connaissances avant de demander aux personnes de contribuer. La participation citoyenne fonctionne mieux lorsque les participants disposent d’un contexte suffisant pour s’engager de manière significative, non pas comme experts, mais comme personnes informées. Dans notre cas, nous avons consacré la première partie de l’atelier à expliquer de manière concrète et accessible le fonctionnement des systèmes d’IA, et cela a considérablement enrichi tout ce qui a suivi.

La deuxième chose que je dirais est d’être aussi concret que possible dans la conception des activités. Les questions abstraites produisent des réponses abstraites. Si vous donnez aux gens un cas concret, un scénario réel, un système précis auquel réagir, ils vous surprendront par tout ce qu’ils ont à dire.

---

Cet article vous a plu ? Lisez l’interview d’Anastasia Karagianni au sujet de la première édition des anchoring sessions. 

Êtes-vous chercheur ou chercheuse dans un laboratoire affilié à FARI ? Vous souhaitez organiser un atelier afin d’augmenter le niveau de préparation sociale de votre projet ? Contactez-les ici : citizen@fari.brussels.