De Rekenkamer van Enschede vroeg PBLQ onderzoek te doen naar het gebruik van algoritmen binnen de gemeente. Hoe worden algoritmen ingezet, welke keuzes liggen daaraan ten grondslag en hoe worden risico’s beheerst? Ook is gekeken naar de manier waarop de gemeente verantwoording aflegt, hoe zij zich voorbereidt op toekomstige toepassingen zoals AI en welke maatschappelijke impact algoritmen hebben. Het onderzoek richtte zich op zowel technische als bestuurlijke aspecten. Doel was om inzicht te geven in het huidige gebruik en aanbevelingen te doen voor verantwoorde inzet. Er is onder meer gekeken naar algoritmen voor matching in het sociaal domein, afvalverzameling en vroegsignalering van schulden.
Het onderzoek is uitgevoerd in drie fasen: inventariseren, verdiepen en vooruitkijken. In de eerste fase is in kaart gebracht welke algoritmen binnen Enschede worden gebruikt en binnen welke beleidsterreinen dit gebeurt. Daarbij is de nadruk gelegd op algoritmische toepassingen met maatschappelijke impact. In de verdiepingsfase zijn drie algoritmen specifieker onder de loep genomen. Op basis van casusgesprekken met betrokkenen is onderzocht hoe de gemeente afwegingen rondom algoritmen maakt, hoe ze risicobeheersing inricht en hoe verantwoording en besluitvorming er in de praktijk uitziet. In de laatste fase is gekeken hoe de gemeente zich voorbereidt op de toekomst met algoritmen en AI-gebruik. Daarnaast is in beeld gebracht hoe andere overheidsorganisaties bezig zijn met een verantwoorde inzet van algoritmen en welke instrumenten daarvoor worden ingezet. Daarvoor zijn onder meer gesprekken gevoerd met de Algemene Rekenkamer, het ministerie van BZK, de VNG, de Autoriteit Persoonsgegevens en andere gemeenten.
Het onderzoek laat zien dat de gemeente Enschede op dit moment circa 70 algoritmen inzet die directe impact hebben op burgers en bedrijven, waarvan het merendeel ondersteunend is aan gemeentelijke besluitvorming. In een beperkt aantal gevallen nemen algoritmen zelfstandig beslissingen, zoals bij de routering van telefonische vragen. Een ander voorbeeld betreffen slimme algoritmen die worden ingezet voor het geautomatiseerd anonimiseren van documenten bij Woo-verzoeken. Het onderzoek laat zien dat de gemeente stappen zet richting bewust en verantwoord gebruik, door het uitvoeren van DPIA’s, opstellen van richtlijnen en beleid en het betrekken van de ethische commissie. Tegelijk ontbreekt het nog aan een uitgewerkt beleidskader en procedures die richting geven aan een gestructureerde inzet, beheersing en verantwoording van algoritmen. PBLQ heeft aanbevelingen gedaan om beleid meer te verankeren in de organisatie, het overzicht en de transparantie te verbeteren en de gemeenteraad beter in positie te brengen.
Het hele onderzoeksrapport is hier te vinden.
De opdrachtgever zegt: “De Rekenkamer heeft een open vraag gesteld voor een onderzoek in het digitale domein. PBLQ heeft dit verzoek uitgewerkt in een onderzoek naar algoritmen. De onderzoekers hebben hiermee gekozen voor een actueel en steeds ontwikkelend onderwerp. Ze zijn goed thuis in de materie en hebben er veel ervaring mee opgedaan in andere gemeenten. Tijdens het onderzoek hebben de onderzoekers veel samengewerkt met de ambtelijke organisatie. Het onderzoek liep gelijk op met het traject dat de organisatie aan het lopen was rondom de inventarisatie van algoritmen en de ontwikkeling van beleid en werkwijze hiervoor. Het onderzoek kwam precies op het goede moment en de samenwerking is nauw en goed verlopen.”
