Quand les chercheurs et la société civile imaginent l’avenir de nos villes

En 2023, FARI – l’Institut de l’IA pour le Bien Commun, en collaboration avec Paradigm, a lancé un appel à projets auprès de ses centres de recherche partenaires afin de stimuler l’engagement citoyen autour de l’Intelligence Artificielle (IA), des données et de la robotique. Sept projets ont été soutenus.

Ana Pop Stefanija, chercheuse postdoctorante au sein de l’imec-SMIT, Vrije Universiteit Brussel, a expérimenté la méthode du jury citoyen pour explorer les usages éthiquement et socialement acceptables de représentants d’IA dans la distribution d’énergie en temps de crise. Ce travail s’inscrit dans le cadre du projet COOMEP, qui a rassemblé 20 habitants de Bruxelles afin de discuter collectivement des lignes directrices, des lignes rouges et des scénarios futurs liés à l’IA et à la prise de décision automatisée.

Dans cet article, Léa Rogliano, responsable du Hub d’Engagement Citoyen de FARI, interroge Ana Pop Stefanija sur son expérience et les enseignements tirés. Que cherchons-nous lorsque nous ouvrons la recherche à des tiers ? Que peut-on attendre de ce type de collaboration ? Quelles sont les meilleures méthodes pour obtenir des résultats satisfaisants ? Voici la retranscription de leur échange. Le CEH a pour mission de favoriser les échanges entre chercheurs et société civile afin de construire une innovation concertée au service du bien commun.

L.R: Que signifie pour vous « l’IA pour le bien commun » ?

A.PS: Cela signifie que, quelle que soit la technologie que nous développons, elle doit être conçue pour servir les intérêts des citoyens. Elle ne doit présenter ni risques ni désavantages. Cela implique aussi qu’elle soit développée en collaboration avec les personnes qu’elle est susceptible d’affecter. Parce qu’elles ont des expériences très spécifiques, je pense que les citoyens sont les mieux placés pour travailler sur les fondements des technologies afin d’éviter tout usage néfaste.

L.R: Pouvez-vous nous donner un exemple ?

A.PS: Nous avons eu un bon exemple aux Pays-Bas, en 2021 je crois, avec le scandale qui a révélé que des critères de profilage racial avaient été intégrés dans le système algorithmique chargé de détecter les fraudes aux allocations familiales. De nombreuses personnes ont été accusées à tort de fraude à la sécurité sociale. Des enfants ont été retirés à leurs familles… Ce système a réellement bouleversé la vie de familles entières. Le Premier ministre néerlandais a dû démissionner. Si nous construisons un système uniquement en visant l’efficacité, sans prendre en compte la réalité des gens, on peut obtenir des résultats profondément injustes.

L.R: Pouvez-vous résumer l’objectif de la consultation citoyenne que vous avez organisée dans le cadre de ce projet scientifique participatif de FARI ?

A.PS: Ce jury citoyen faisait partie d’un projet plus large, COOMEP (Mécanismes de coordination pour le partage d’énergie via des représentants, du niveau utilisateur jusqu’aux lignes directrices générales). L’idée était de travailler sur un scénario futuriste dans lequel un système d’IA, via des représentants intelligents, déciderait de la répartition de l’énergie entre les foyers lors d’une baisse généralisée de la capacité énergétique – communément appelée brownout – c’est-à-dire lorsqu’il n’y a pas assez d’énergie pour alimenter tous les foyers bruxellois. Déléguer à un système technologique des décisions aussi lourdes de conséquences, sans qu’il soit capable d’appréhender totalement le contexte et les circonstances d’utilisation, et sans supervision humaine, est extrêmement dangereux. Dans une telle situation (même hypothétique), nous avons choisi d’impliquer activement les citoyens dans la conception et la réflexion autour de cette technologie.

L.R: Pouvez-vous nous expliquer comment ce jury citoyen a été organisé ?

A.PS: Le jury citoyen, en tant qu’outil de consultation, repose sur une méthodologie bien établie. Il est utilisé lorsqu’une réponse tranchée (oui/non) n’est pas possible, que les décisions sont complexes, impliquent des jugements de valeur, et peuvent affecter différemment plusieurs communautés. Un jury citoyen (ou une assemblée, un conseil) est donc un groupe de citoyens réunis pour débattre et formuler des recommandations sur un sujet donné (Smith & Wales, 1999). C’est un processus, pas un événement ponctuel. Il vise à trouver un terrain d’entente et formuler des recommandations collectives, souvent destinées à éclairer les politiques publiques. Il permet de créer un espace démocratique où des personnes ordinaires peuvent se confronter à des enjeux majeurs, les discuter et proposer des solutions.

La première étape consiste à fournir aux participants les connaissances nécessaires (phase d’apprentissage). Comme dans un procès, l’idée est que pour que le jury rende un avis éclairé, il faut d’abord l’informer. Ensuite vient la phase de délibération, encadrée par des facilitateurs et des chercheurs. Enfin, les recommandations sont formulées.

Dans ce projet, nous avons invité deux experts – un informaticien et un juriste – à intervenir comme témoins experts, afin de présenter de manière équilibrée les bénéfices et les risques liés à l’usage de représentants d’IA. Nous avons aussi structuré les sessions de façon à laisser au moins deux semaines entre elles, pour laisser le temps aux participants de réfléchir et de consulter les supports fournis.

Le jury citoyen devait être représentatif de la population la plus concernée, ici les habitants de la Région de Bruxelles-Capitale. Sur base de données démographiques et à l’aide d’un algorithme de tirage au sort, nous avons sélectionné 20 participants parmi plus d’une centaine de personnes intéressées via nos campagnes en ligne et dans la rue. Nous avons pris en compte l’âge, la situation socio-économique, le niveau d’éducation, le lieu de résidence, etc. Ce travail de sélection a été minutieux et long, mais indispensable pour constituer un échantillon représentatif des Bruxellois.

L.R: L’un des axes distinctifs de votre groupe de recherche, Imec-SMIT, est de mener les recherches en étroite collaboration avec les utilisateurs ou les personnes directement concernées. Qu’avez-vous appris de cette expérience ?

A.PS: Ce jury citoyen a été une expérience de recherche exceptionnelle. Nous avons beaucoup appris. Souvent, dans la recherche, on interroge les personnes les plus facilement accessibles – par exemple, des étudiants ou des décideurs. Ici, grâce au jury citoyen, nous avons pu impliquer des personnes difficiles à atteindre. Et nous avons passé beaucoup de temps avec elles (24 heures au total).

En tant que chercheuse, je tiens à recueillir les avis une fois que les participants ont eu le temps de s’approprier le sujet. Comparé à d’autres méthodes plus rapides (questionnaires, entretiens), les jurys citoyens offrent des données qualitatives riches et profondes.

Dans un jury citoyen, les participants ne se contentent pas de répondre ; ils expérimentent, comprennent les enjeux techniques, réfléchissent, partagent leurs vécus. Nous les avons invités à réfléchir à leur propre logement, à leurs voisins, à leurs proches, à se mettre à la place des autres. Cela les aide à dépasser leurs besoins individuels pour penser à ceux de la communauté. C’est sur cette base qu’ils ont délibéré et formulé leurs recommandations.

L.R: Quelles ont été les principales difficultés ?

A.PS: Un jury citoyen est un processus long, autant pour les chercheurs que pour les participants. Nous leur avons demandé de s’engager sur trois samedis complets, avec une implication continue à chaque session. C’était le plus grand risque : maintenir un engagement constant.

Pour les chercheurs, cela demande aussi énormément de ressources, même avant le début du jury. Le recrutement, le tirage au sort, la facilitation, le choix et l’encadrement des experts doivent idéalement être confiés à un organisme externe, pour garantir la neutralité. Nous avons collaboré avec une organisation externe pour cela, en concertation avec nous. Les facilitateurs devaient aussi bien comprendre les enjeux, ce qui a nécessité de nombreuses réunions préparatoires. Au total, il nous a fallu environ six mois entre la préparation initiale et la dernière session du jury.

En outre, pour les institutions académiques, organiser un jury citoyen est coûteux. Nous avons indemnisé les participants, couvert les frais de l’organisation externe, pris en charge les repas, etc.

L.R: Combien de temps cela a-t-il pris au total ?

A.PS: Environ neuf mois au total — quatre mois de préparation, deux mois de sessions, et trois mois pour l’analyse (documentation, transcription, numérisation, rédaction du rapport).

L.R: Avez-vous atteint votre objectif initial ?

A.PS: Oui. L’objectif principal était d’établir les grands principes directeurs selon lesquels un système d’IA devrait distribuer l’énergie lors d’un brownout. Les jurés ont formulé sept principes, par exemple : garantir l’équité et répondre aux besoins fondamentaux de chacun, veiller à l’impartialité, exclure les données discriminatoires.

Mais la manière dont nous avons conçu le jury, de manière itérative et générative de connaissances, nous a permis d’aller au-delà : nous avons identifié 29 types de foyers, en avons priorisé 5, listé 30 valeurs à respecter lors du développement technologique, parmi lesquelles 5 ont été jugées cruciales. Les jurés ont aussi imaginé des scénarios futurs, dystopiques ou utopiques, d’un monde où ce système existerait. Nos résultats dépassent donc largement le cadre initial.

Ce qui nous a le plus marqué, c’est l’émergence du principe de solidarité. Cela a révélé une forte cohésion sociale à Bruxelles. Pour les participants, cela signifiait que ceux qui ont moins besoin d’énergie peuvent en céder à ceux qui en ont davantage besoin.

Ce que nous a montré ce jury, c’est que construire un système d’IA n’est jamais simple. Cela exige de la réflexion et de nombreux arbitrages. Même les humains ont parfois du mal à intégrer toutes les données pour prendre des décisions. Programmer ces résultats dans un algorithme serait donc un vrai défi. D’où la question : « La technologie doit-elle décider de ce type de problème ? ». La technologie n’est pas toujours objective et ne sait pas toujours mieux que nous.

L.R: En conclusion, pensez-vous que la technologie ne peut/ ne doit pas tout résoudre ?

A.PS: Les problèmes très complexes nécessitent, précisément parce qu’ils le sont, l’implication des citoyens. Je crois sincèrement que ce type de technologie doit être co-construit, en tenant compte du réel. Et ensuite, il faut tester, tester, tester encore. Ce n’est qu’ensuite qu’on pourra dire si la technologie peut ou non résoudre certains problèmes. Je sais que l’IA est à la mode, que notre société valorise la rapidité, mais parfois, certains processus demandent du temps.

Si le projet devait se poursuivre, il serait essentiel d’utiliser ces résultats pour aller plus loin, notamment en les partageant avec les concepteurs d’IA et les décideurs politiques.

L.R: Donc, c’est un appel à l’action ?

A.PS: Oui. Nous pensons qu’il est important que les responsables politiques prennent connaissance des conclusions de ce jury citoyen. Et pourquoi pas aller plus loin — créer un jury citoyen permanent sur l’IA, qui pourrait être mobilisé dans l’élaboration des politiques publiques et le développement technologique ?

L.R: Pour conclure, quel conseil donneriez-vous aux chercheurs en IA qui souhaitent intégrer les citoyens à leurs travaux ?

A.PS: Lancez-vous ! Avant même de commencer, demandez-vous à qui vous devez parler. La technologie a toujours un impact sur les gens, donc il faut leur parler. Réfléchissez à qui vous donnez la parole, et à qui vous la retirez. Ceux qui seront le plus ou le plus injustement affectés sont-ils pris en compte ? Sinon, comment y remédier ?