Auteurs: Mathias Hanson, Gregory Lewkowicz, Sam Verboven

Abstract

Organisaties die technologieën op basis van machine learning (ML) ontwikkelen, worden geconfronteerd met de complexe uitdaging om een hoge voorspellende nauwkeurigheid te bereiken terwijl ze tegelijkertijd de wet naleven. Deze kruising tussen ML en het recht brengt nieuwe complexiteiten met zich mee. Aangezien het gedrag van een ML-model wordt afgeleid uit trainingsgegevens, kunnen wettelijke verplichtingen niet rechtstreeks in broncode worden geïmplementeerd. In plaats daarvan vereisen wettelijke verplichtingen een “indirecte” operationalisering.

Het kiezen van contextueel passende operationaliseringen brengt echter twee overlappende uitdagingen met zich mee:

1) Wetten staan vaak meerdere geldige operationaliseringen toe voor een bepaalde wettelijke verplichting – elk met verschillende graden van juridische toereikendheid;

2) Elke operationalisering brengt onvoorspelbare afwegingen met zich mee tussen de verschillende wettelijke verplichtingen en de voorspellende prestaties.

Het evalueren van deze afwegingen vereist statistische maatstaven (of heuristieken), die op hun beurt moeilijk te valideren zijn ten opzichte van wettelijke verplichtingen. Huidige methodologieën slagen er niet in deze verweven uitdagingen volledig aan te pakken, omdat ze zich óf richten op juridische naleving voor traditionele software, óf op de ontwikkeling van ML-modellen zonder voldoende aandacht voor juridische complexiteit.

Als antwoord introduceren wij een interdisciplinair raamwerk in vijf fasen dat juridische en technische ML-analyse integreert tijdens de ontwikkeling van ML-modellen. Dit raamwerk vergemakkelijkt het ontwerpen van ML-modellen die juridisch afgestemd zijn, en helpt bij het identificeren van modellen die zowel hoog presteren als juridisch verdedigbaar zijn. Juridisch redeneren stuurt de keuzes voor operationalisering en evaluatiemaatstaven aan, terwijl ML-experts zorgen voor technische haalbaarheid, prestatieoptimalisatie en een nauwkeurige interpretatie van de meetwaarden. Dit raamwerk overbrugt de kloof tussen de meer conceptuele analyse van het recht en de noodzaak van deterministische specificaties bij ML-modellen. We illustreren de toepassing ervan aan de hand van een case study binnen het domein van anti-witwaspraktijken.