Le panel du CPDP 2025 intitulé « Renforcer la supervision de l’IA : le rôle crucial des bacs à sable réglementaires et des autorités compétentes dans le cadre de l’AI Act » s’est penché sur les aspects pratiques et les défis liés à la mise en œuvre des bacs à sable réglementaires prévus dans le cadre de l’AI Act de l’Union européenne.

Les discussions ont porté sur la manière dont les États membres peuvent mettre en place des bacs à sable réglementaires cohérents avec leurs dispositifs de supervision, favoriser une collaboration efficace entre les autorités de surveillance du marché et les autorités de protection des données, et parvenir à un équilibre entre innovation et supervision rigoureuse — le tout dans le respect des dispositions de l’AI Act.

1. Quelles autorités compétentes doivent superviser les bacs à sable, et quel rôle doivent jouer les autorités de surveillance du marché ?
2. Comment intégrer efficacement les autorités de protection des données dans les bacs à sable lorsque des données personnelles sont traitées ?
3. Comment répondre aux préoccupations des entreprises — notamment en matière de propriété intellectuelle et de confidentialité — afin d’instaurer un climat de confiance entre elles et les régulateurs ?
4. Comment intégrer de manière significative la société civile dans les bacs à sable, et quel rôle celle-ci devrait-elle y jouer ?

La discussion a mis en lumière la nécessité de clarté, de construction de la confiance et de collaboration efficace entre les parties prenantes.

Voici les principaux enseignements et thèmes issus du panel.

Point de vue des entreprises

Les technologies telles que les capteurs pour la navigation automatisée ou les chatbots de santé mentale illustrent la nécessité d’un cadre réglementaire qui protège la société des risques et garantit la confiance des consommateurs. Les bacs à sable réglementaires représentent une opportunité pour les entreprises d’obtenir des orientations claires en matière de conformité et de renforcer la confiance du public envers leurs produits IA.

Cependant, comme l’a souligné Sam Jungyun Choi (Cabinet Covington & Burling), certaines entreprises hésitent à s’engager dans ces dispositifs en raison des ressources et du temps que cela implique. Elles peuvent également craindre que des informations sensibles ou propriétaires soient divulguées.

Pour répondre à ces préoccupations, les régulateurs doivent proposer une feuille de route claire accompagnée de garanties de confidentialité. La confiance des entreprises sera renforcée si les règles sont définies dès le départ : documentation attendue, résultats possibles, garanties sur l’utilisation des données partagées avec les régulateurs.

Le panel a insisté sur l’importance de fournir des orientations pratiques, permettant aux entreprises de traduire les principes généraux de l’AI Act en actions concrètes. Par exemple, elles auront besoin de directives claires sur l’accès aux jeux de données pour l’entraînement des IA ou encore sur le niveau d’intervention humaine requis selon les cas. Les bacs à sable pourraient alors servir de mécanisme pour fournir des conseils ciblés et contextualisés.

Compétence et coordination des autorités réglementaires

Alex Moltzau, du Bureau européen de l’IA (présent à titre personnel), a souligné l’importance de définir clairement les compétences et mandats des autorités en charge des bacs à sable, afin d’établir des attentes précises. Il a mis l’accent sur la nécessité de fluidifier les échanges et les processus d’adaptation des produits, en particulier pour les applications transfrontalières de l’IA. Il a posé une question fondamentale : « Dans quelle société voulons-nous vivre ? » — soulignant que l’environnement réglementaire façonne la vie quotidienne des citoyens. Il a notamment mentionné l’initiative pilote en Espagne et la proposition de structure émanant des Pays-Bas dans leur livre blanc.

Thiago Moraes (LSTS, VUB) a présenté plusieurs exemples de projets pilotes européens, dont celui des Pays-Bas. Ce dernier prévoit un guichet unique pour les parties prenantes et une coordination entre l’autorité nationale compétente (ANC) et les autorités de surveillance du marché (ASM) pour évaluer la mise en œuvre d’un bac à sable IA. Ce modèle pourrait inspirer d’autres États membres. Moraes a également appelé à une concertation active avec la Commission européenne à l’automne pour favoriser l’apprentissage mutuel entre régions. Ont aussi été mentionnés les exemples de Singapour, d’Amérique latine, du podcast norvégien sur les bacs à sable, ainsi que l’expérience de la CNIL dans le domaine de la santé numérique.

Conciliation entre innovation et supervision

Sophie Tomlinson (Datasphere Initiative) a expliqué que les bacs à sable incarnent un changement de paradigme, permettant l’innovation dans un cadre contrôlé. Ils offrent une opportunité pour tester les régulations et analyser leur impact selon les secteurs.
L’intégration des bacs à sable dans l’AI Act est perçue comme un progrès, offrant un espace sécurisé pour expérimenter et comprendre les technologies. Le principal défi reste de trouver le bon équilibre entre flexibilité et responsabilité, en assurant une supervision rigoureuse sans freiner l’innovation.

Intégration de la protection des données et de la société civile

Le panel a soulevé des questions importantes sur la manière d’intégrer efficacement les autorités de protection des données dans les bacs à sable, en particulier lors du traitement de données personnelles. La discussion a aussi abordé le rôle potentiel de la société civile dans ces dispositifs, notamment au regard des enjeux de confidentialité et de propriété intellectuelle liés au partage d’informations sensibles avec les régulateurs — voire avec les représentants de la société civile.

Culture technique des régulateurs

Un thème récurrent fut la nécessité pour les régulateurs de renforcer leur culture technique afin de répondre aux questions complexes posées par les technologies d’IA dans les bacs à sable. Ils doivent être en mesure de répondre aux questions très concrètes que les entreprises peuvent leur poser sur la mise en œuvre des principes dans des situations pratiques.

En conclusion, le panel a souligné que le succès des bacs à sable réglementaires dans le cadre de l’AI Act dépendra d’une communication claire, de la définition précise des rôles des autorités compétentes, d’une collaboration efficace entre les autorités de surveillance du marché et celles de la protection des données, et d’une approche pragmatique pour répondre aux préoccupations des entreprises tout en assurant une supervision rigoureuse. L’objectif est de créer un environnement propice à l’innovation, avec les garanties et la confiance nécessaires.

© Photo de tête : LenoirPhotography