Authors: Mathias Hanson, Gregory Lewkowicz, Sam Verboven

Résumé

Les organisations qui développent des technologies basées sur l’apprentissage automatique (ML) sont confrontées à un défi complexe : atteindre une haute performance prédictive tout en respectant les exigences légales. Cette intersection entre le ML et le droit engendre de nouvelles complexités. En effet, le comportement d’un modèle ML étant induit à partir des données d’entraînement, les obligations juridiques ne peuvent pas être codées directement dans le code source. Elles nécessitent une opérationnalisation indirecte.

Cependant, le choix d’une opérationnalisation adaptée au contexte soulève deux difficultés majeures :

1) Les lois permettent souvent plusieurs opérationnalisations valables pour une même obligation juridique, avec des niveaux variables de conformité juridique ;

2) Chaque opérationnalisation engendre des compromis imprévisibles entre différentes obligations légales et avec la performance prédictive.

L’évaluation de ces compromis requiert des métriques (ou des heuristiques), dont la validation par rapport aux obligations juridiques est elle-même difficile. Les méthodologies actuelles ne traitent pas complètement ces défis imbriqués, car elles se concentrent soit sur la conformité juridique dans le cadre de logiciels traditionnels, soit sur le développement de modèles ML sans prise en compte suffisante des complexités juridiques.

En réponse, nous proposons un cadre interdisciplinaire en cinq étapes qui intègre l’analyse juridique et l’expertise technique en ML tout au long du développement des modèles. Ce cadre permet de concevoir des modèles d’apprentissage automatique juridiquement alignés et d’identifier ceux qui, en plus d’être performants, sont légalement justifiables. Le raisonnement juridique guide le choix des opérationnalisations et des métriques d’évaluation, tandis que les experts en ML garantissent la faisabilité technique, l’optimisation des performances et une interprétation correcte des métriques. Ce cadre comble le fossé entre l’analyse conceptuelle du droit et les besoins des modèles ML en matière de spécifications déterministes. Nous illustrons son application à travers une étude de cas dans le contexte de la lutte contre le blanchiment d’argent.