opzet vervolgonderzoek algoritmes

In 2021 publiceerde de Rekenkamer Rotterdam het rapport ‘Gekleurde technologie’. Het onderzoek maakte duidelijk dat de gemeente Rotterdam op dat moment onvoldoende zicht had op de aard en het gebruik van algoritmes binnen de organisatie. Ook werd geconcludeerd dat de gemeente te weinig aandacht besteedde aan het beheersen van ethische risico’s bij de ontwikkeling en uitvoering van algoritmes. Bij de behandeling van het rapport diende de raad een motie in waarin de rekenkamer werd verzocht een vervolgonderzoek naar de toepassing van algoritmes uit te voeren.

algoritme

Een algoritme is een set instructies die door een computer wordt uitgevoerd om te komen tot een beslissing of om te komen tot informatie die gebruikt wordt om een beslissing te nemen. Algoritmes bestaan in diverse vormen die onder andere verschillen in complexiteit. Afhankelijk van aard en complexiteit treden bij het gebruik van algoritmes risico’s op. Deze risico’s kunnen liggen op het gebied van ethiek, maar ook bijvoorbeeld privacy of sturing en verantwoording.

gemeentelijke aanpak

De gemeente Rotterdam besteedt al enige tijd aandacht aan de toepassing van algoritmes. Naar aanleiding van het rekenkameronderzoek heeft de gemeente versneld ingezet op beleid en organisatorische afspraken om de risico’s te kunnen beheersen. Voorbeelden daarvan zijn het uitvoeren van een risico-inventarisatie bij ieder algoritme en het bijhouden van een intern en extern algoritmeregister.

onderzoek

Met dit onderzoek beoogt de rekenkamer antwoord te geven op de vraag in hoeverre de afspraken en het beleid van de gemeente Rotterdam toereikend zijn voor een verantwoorde toepassing van algoritmes. De rekenkamer zal in het onderzoek kijken naar de wijze waarop de organisatorische afspraken, ook wel ‘governance’ genoemd, functioneren en in hoeverre deze in de praktijk daadwerkelijk worden toegepast. Onderdeel van het onderzoek is het daadwerkelijk toetsen van enkele algoritmes.