Samenvatting

Auteurs: Desara Dushi, Nertil Berdufi, Anastasia Karagianni 

Generatieve AI heeft pas in de afgelopen twee jaar brede publieke bekendheid verworven, en toch zijn er al gevallen van door AI gegenereerde CSAM-video’s vastgesteld. Het valt te voorzien dat deze video’s en afbeeldingen in de komende vijf jaar realistischer en wijdverspreider zullen worden. In de Verenigde Staten behandelt de FBI reeds haar eerste zaken met betrekking tot de generatie van AI-CSAM. Dit artikel maakt gebruik van een uitgebreide juridische analyse van bestaande EU-wetgeving, waaronder de AI Act, de Algemene Verordening Gegevensbescherming (AVG), de Digital Services Act (DSA), de voorgestelde Child Sexual Abuse Regulation (CSAR) en de richtlijn inzake seksueel misbruik van kinderen, om de cruciale vraag te beantwoorden of generatieve AI effectief kan worden gereguleerd om de creatie van deepfakes met kinderen te voorkomen. Hoewel de EU-wetgeving veelbelovend is, blijft zij beperkt, met name wat betreft de regulering van trainingsdata die worden gebruikt door generatieve AI-technologieën. Om AI-gegenereerde CSAM volledig aan te pakken, zijn proactieve en doeltreffende regelgeving en een holistische aanpak noodzakelijk, zodat de bescherming van kinderen tegen online CSAM wordt geïntegreerd in de richtlijnen, gedragscodes en technische normen die deze juridische instrumenten in de praktijk brengen.

Lees het artikel hier.