opzet verkenning algoritmes

verkenning naar algoritmes
De Rekenkamer Rotterdam start in samenwerking met de Erasmus Universiteit Rotterdam een verkenning naar (de ethiek van) algoritmes binnen de gemeente Rotterdam. Taken van beleidsmakers, managers, verzekeraars, dokters, politieagenten en andere beroepen veranderen drastisch door geavanceerde algoritmes die voorspellende modellen kunnen schrijven waar de mens niet toe in staat is. Het is de verwachting van de rekenkamer dat algoritmes ook in toenemende mate binnen de gemeente zullen worden gebruikt om (beleids)keuzes te maken of daarin te worden ondersteund. Dit vereist kennis om een oordeel te kunnen vormen over (verantwoord) gebruik van algoritmes. De verkenning is voornamelijk bedoeld om een eerste indruk te krijgen van wat de gemeente doet op het gebied van ethiek en algoritmes. Interessante bevindingen kunnen eventueel leiden tot meer diepgravend vervolgonderzoek.

gebruik van algoritmes kan ethische dilemma’s opleveren
Het gebruik van algoritmes door de (lokale) overheid is in de afgelopen twee jaar regelmatig negatief in het nieuws geweest. Zoals de casus van de Belastingdienst, waarin een ‘geautomatiseerde risicoselectie’ zorgde voor het op etnische basis afwijzen van aanvragen voor kinderopvangtoeslag. Maar ook het gebruik van SyRI, een op data gebaseerd instrument waarmee de overheid fraude op het gebied van uitkeringen, toeslagen en belastingen wilde tegengaan, was omstreden. Beide gevallen hadden te maken met de ethische dilemma’s die kunnen optreden bij het gebruik van algoritmes. De rekenkamer zal zich in dit onderzoek richten op de ethische principes eerlijkheid, verantwoordelijkheid en transparantie.

focus op algoritmes met directe impact op de burger
De rekenkamer focust in dit onderzoek op algoritmes die een directe impact hebben op de burger. In de verkenning zal de rekenkamer een beeld schetsen over het gebruik van voorspellende en voorschrijvende algoritmes binnen de gemeente, de betrokken stakeholders bij de ontwikkeling en gebruik ervan en de beheersing van de ethische risico’s. Om de onderzoeksvragen te beantwoorden zal de rekenkamer een casestudy verrichten naar het algoritme ‘risico op onrechtmatigheid van uitkeringen’ bij het cluster W&I.