Marianne Witte Schaaphok van TNO werkt met overheids-, wetenschappelijk en maatschappelijke organisaties aan de ontwikkeling van de eerste Nederlandse technische afspraak voor profileringsalgoritmes die bepalen welke burgers gecontroleerd worden op fraude of uitkeringen. Het probleem: algoritmes discrimineren onbedoeld door bepaalde groepen systematisch vaker te selecteren, zonder dat organisaties dit doorhebben. Ze creëerde een systematische aanpak van probleemstelling tot toetsing, met concrete metrieken om bias te meten.
Als 80% van je algoritme-output bestaat uit ouderen terwijl zij geen 80% vormen van de doelgroep, dan meet je direct de scheve verdeling. Morgen kun je haar drie kernvragen toepassen: wat is het echte probleem, welke groepen worden geraakt, en hoe meet je of je algoritme eerlijk behandelt.
Onderwerpen
Nederlandse technische afspraak (NTA) voor profileringsalgoritmes bij de overheid
Bias detecteren en meten in algoritmes, inclusief representativiteit en foutmarges
Het verschil tussen correlatie en causaliteit in algoritme-beslissingen
Menselijke tussenkomst en werkprocessen bij algoritme-output
Links
Standaard: Nederlandse Technische Afspraak (NTA) voor profileringsalgoritmes bij de overheid
Kaartspel: AI Game Changer - Generative AI editie
Genoemde entiteiten: TNO - NEN
Stuur ons een bericht
Aigency
Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.
Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).
Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.
Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!