De FARI Conference vindt plaats op 17 en 18 november in Brussel, ontdek meer.
Een initiatief van
Ondersteund door
JUL. 2025
Mensen programmeren artificiële afgevaardigden om dilemma's van collectieve risico's nauwkeurig op te lossen, maar missen precisie
Auteurs
Inês Terrucha ; Elias Fernández Domingos ; Rémi Suchon ; Francisco C. Santos ; Pieter Simoens ; Tom Lenaerts
Samenvatting
In een tijdperk dat steeds meer beïnvloed wordt door autonome machines, is het slechts een kwestie van tijd voordat strategische individuele beslissingen die invloed hebben op collectieve goederen ook virtueel gemaakt zullen worden door het gebruik van artificiële agenten. Door middel van een reeks gedragsexperimenten die delegatie aan autonome agenten en verschillende keuzearchitecturen combineren, kunnen we vaststellen wat er verloren kan gaan in de vertaling wanneer mensen delegeren aan algoritmen. We richten ons op het collectieve-risicodilemma, een spel waarbij deelnemers moeten beslissen of ze wel of niet bijdragen aan een publiek goed, waarbij de laatsten een doel moeten bereiken om hun persoonlijke schenkingen te behouden. Om het effect van delegatie te testen, naast de functionaliteit ervan als bindmiddel, wordt deelnemers gevraagd om het spel een tweede keer te spelen, met dezelfde groep, waarbij ze de kans krijgen om hun agenten te herprogrammeren. Ons belangrijkste resultaat is dat, wanneer de actieruimte beperkt is, mensen die delegeren meer bijdragen aan het algemeen belang, zelfs als ze meer mislukkingen en ongelijkheid hebben ervaren dan mensen die niet delegeren.
Ze zijn echter niet succesvoller. Het niet bereiken van het doel, na er dicht bij te zijn gekomen, kan worden toegeschreven aan precisiefouten in het algoritme van de agent die niet kunnen worden gecorrigeerd tijdens het spel. Met de digitalisering en daaropvolgende beperking van onze interacties, lijken artificiële afgevaardigden dus een oplossing om publieke goederen te helpen behouden tijdens vele iteraties van risicovolle situaties. Maar echt succes kan alleen worden behaald als mensen leren om de algoritmen van hun agenten aan te passen.
Bijdragers
Delen
Andere publicaties
Journal Article
Poster: A Framework for Developing Legally Aligned Machine Learning Models in Finance
Datum
DEC. 2024
Onderzoekers
Journal Article
Assessing Responsibility in Digital Solutions that operate with or without AI - A Review for Policymakers
Datum
APR. 2024
Onderzoekers
Journal Article
Committing to the wrong artificial delegate in a collective-risk dilemma is better than directly committing mistakes
Datum
AUG. 2024
Onderzoekers