Auteurs : Mathias Hanson, Gregory Lewkowicz, Sam Verboven

Les organisations développant des technologies fondées sur l’apprentissage automatique (machine learning, ML) sont confrontées au défi complexe d’atteindre une performance prédictive élevée tout en respectant le droit. Cette intersection entre le ML et le droit crée de nouvelles complexités. Étant donné que le comportement des modèles de ML est inféré à partir des données d’entraînement, les obligations juridiques ne peuvent pas être opérationnalisées directement dans le code source. Au contraire, les obligations juridiques nécessitent une opérationnalisation « indirecte ». Toutefois, le choix d’opérationnalisations appropriées au contexte présente deux défis qui se renforcent mutuellement : (1) les lois permettent souvent plusieurs opérationnalisations valides pour une même obligation juridique — chacune présentant des degrés variables d’adéquation juridique ; et (2) chaque opérationnalisation crée des arbitrages imprévisibles entre les différentes obligations juridiques ainsi qu’avec la performance prédictive. L’évaluation de ces arbitrages nécessite des métriques (ou des heuristiques), lesquelles sont à leur tour difficiles à valider au regard des obligations juridiques. Les méthodologies actuelles ne parviennent pas à traiter pleinement ces défis imbriqués, car elles se concentrent soit sur la conformité juridique des logiciels traditionnels, soit sur le développement de modèles de ML sans prendre suffisamment en compte les complexités juridiques. En réponse, nous introduisons un cadre interdisciplinaire en cinq étapes qui intègre l’analyse juridique et l’analyse technico-ML au cours du développement des modèles de ML. Ce cadre facilite la conception de modèles de ML de manière juridiquement alignée et l’identification de modèles hautement performants qui sont juridiquement justifiables. Le raisonnement juridique guide les choix d’opérationnalisation et de métriques d’évaluation, tandis que les experts en ML garantissent la faisabilité technique, l’optimisation des performances et une interprétation précise des valeurs des métriques. Ce cadre comble le fossé entre une analyse plus conceptuelle du droit et le besoin des modèles de ML de spécifications déterministes. Nous illustrons son application à l’aide d’une étude de cas dans le contexte de la lutte contre le blanchiment d’argent.

Lire l’article complet ici