Auteur: Nathan Genicot

Résumé

Le social scoring (notation sociale) fait partie des pratiques liées à l’intelligence artificielle interdites par l’AI Act. Cette interdiction s’inspire explicitement de la Chine, qui a annoncé en 2014 son intention de mettre en place un vaste projet gouvernemental – le Système de Crédit Social – visant à évaluer chaque citoyen chinois selon son bon comportement, en s’appuyant sur les technologies numériques et l’IA.

Toutefois, en Europe, les individus sont également notés par des organismes publics et privés dans divers contextes, comme l’évaluation de la solvabilité, la surveillance de la productivité des employés, la détection des fraudes sociales ou des risques terroristes, etc. Toutefois, l’AI Act ne prévoit pas d’interdire ces types de notation, car ils relèveraient de la catégorie des systèmes d’IA à haut risque, qui sont autorisés sous réserve du respect de certaines exigences.

On pourrait donc penser que l’interdiction du social scoring n’aura aucun effet concret sur les pratiques de notation déjà en usage en Europe, et qu’il ne s’agit que d’une clause de sauvegarde en cas de tentative d’un pouvoir autoritaire de mettre en place un tel système sur le territoire européen.

Contrairement à cette idée, cet article soutient que l’interdiction a été rédigée de manière souple, ce qui la rend susceptible de devenir un outil utile, semblable et complémentaire à l’article 22 du Règlement général sur la protection des données (RGPD), pour protéger les individus contre certaines formes d’usage disproportionné de la notation basée sur l’IA.