Skip to main content

Een veilige slimme stad: Innovatie met afweging van kansen én risico’s

Niels Back

Adviseur

0703763636

(Stedelijke) overheden willen graag weten hoe de maatschappelijke opgaven waar ze voor staan eruit zien en hoe effectief het beleid is dat zij uitvoeren om deze opgaven op te lossen. Technologie en innovatie worden vaak genoemd als kansrijke oplossingen voor maatschappelijke opgaven. Toch zijn er niet alleen kansen, maar ook risico’s verbonden aan de inzet van digitale technologie, denk aan de inzet van slimme camera’s in de stad. Hoe kan een stad slim én veilig worden gemaakt? Definieer bij de inzet en het ontwerp van slimme technologie welke maatschappelijke doelen ermee kunnen worden bereikt, wees realistisch over kansen én risico’s en weeg deze af.

Weten voordat je gaat meten? Wifitracking in Enschede

Een voorbeeld van waar onvoldoende na is gedacht over de te bereiken maatschappelijke doelen en de kansen en risico’s van de inzet van technologie is de gemeente Enschede. De gemeente Enschede heeft in 2021 van de Autoriteit Persoonsgegevens (AP) een boete gekregen van 600.000 euro, omdat de gemeente wifitracking gebruikte in de binnenstad op een manier die niet mag. Via wifitracking kon de gemeente winkelend publiek en mensen volgen die in de binnenstad wonen en/of werken.

Dat begon met een op het oog puur praktische interventie van de gemeente: er werden in 2017 sensoren ingezet om de drukte in de binnenstad te meten. Door middel van meetkastjes in winkelstraten werd geteld hoeveel wifisignalen en dus mensen er in de binnenstad waren. Maar er werd niet alleen geteld hoeveel mensen er waren in de binnenstad; mensen werden via wifisignalen gevolgd door de binnenstad. Vandaar de recent opgelegde boete: de AP oordeelde dat de overheid zonder wettelijke basis haar burgers niet mag volgen. Had de gemeente dit van tevoren voorzien, toen ze begon met wifitracking?

Het antwoord laat zich raden en roept tegelijkertijd aanvullende vragen op. Was het doel en de weg daarnaartoe wel duidelijk? Kan er door het tellen van mensen effectiever beleid worden gemaakt om de binnenstad bijvoorbeeld leefbaarder te maken door drukte te spreiden?

De kans dat andere steden naast Enschede sensoren en andere slimme technologieën hebben ingezet met een bepaald maatschappelijk doel voor ogen, die later onbedoelde neveneffecten blijken te hebben, is zeer groot. Dat betekent, naast de kansen die er absoluut zijn om maatschappelijke waarde te creëren, realistisch zijn over de risico’s van digitale toepassingen in de slimme stad. Daartoe riepen wetenschappers van het Rathenau Instituut ook recentelijk op, net als de Autoriteit Persoonsgegevens. Hoe zou je innovatie zo kunnen inrichten om veiligheid in de stad te creëren met behulp van nieuwe technologieën?

Kansen en risico’s in kaart in de slimme stad

Het AMS Institute heeft samen met de gemeente Amsterdam verkend hoe camera’s op verantwoorde wijze kunnen worden ingezet in de publieke ruimte. De camera’s zijn onderdeel van het Amsterdamse systeem voor druktemeting (of crowd monitoring), waar met camera’s beelden worden verzameld en een algoritme daar chocola van maakt. En zo bijvoorbeeld kan bepalen of het ergens te druk is of dat er – ten tijde van de coronacrisis en geldende maatregelen – anderhalve meter afstand werd gehouden. In deze verkenning zijn er drie typen camera’s waarmee wordt geëxperimenteerd: één camera gaat op gezette tijden aan en uit door middel van een schuifje dat voor de lens kan. Bij een tweede camera kunnen voorbijgangers op een knop drukken waarmee de camera 15 minuten uit staat en ze kunnen passeren zonder te worden gefilmd. Een derde camera moet eens per week handmatig worden aangezet, wat een fysieke beperking aanbrengt tegen hackers.

Het doel van het experiment is hiermee om manieren te vinden om dataminimalisatie en doelbinding te waarborgen bij het gebruik van camera’s in de publieke ruimte. Dus precies de hoeveelheid data verkrijgen voor het maatschappelijke doel dat je voor ogen hebt. En zo tegelijkertijd oog hebben voor onder andere autonomie en privacy van burgers en cyberveiligheid. Dit experiment is daarmee een voorbeeld van innovatie inrichten door tegelijkertijd naar kansen (cameragebruik voor een veiligere stad) en risico’s (datavergaring zonder doel) te kijken en burgers onderdeel te maken van de afweging daarvan.

Realistisch over kansen en risico’s door afweging

Het kan best zo zijn dat sommige experimenten waardevoller en bruikbaarder zijn dan andere, maar dat zet wel een actief gedachteproces over en afweging van kansen én risico’s in gang. Op die manier wordt er actief nagedacht over belangrijke waarden en mensenrechten – zoals het recht op privacy – bij het inzetten van camera’s in de publieke ruimte. Om zo een waardenvolle, slimme stad te worden. Werk aan de winkel dus voor steden met de ambitie om een slimme stad te worden!

(Stedelijke) overheden willen graag weten hoe de maatschappelijke opgaven waar ze voor staan eruit zien en hoe effectief het beleid is dat zij uitvoeren om deze opgaven op te lossen. Technologie en innovatie worden vaak genoemd als kansrijke oplossingen voor maatschappelijke opgaven. Toch zijn er niet alleen kansen, maar ook risico’s verbonden aan de inzet van digitale technologie, denk aan de inzet van slimme camera’s in de stad. Hoe kan een stad slim én veilig worden gemaakt? Definieer bij de inzet en het ontwerp van slimme technologie welke maatschappelijke doelen ermee kunnen worden bereikt, wees realistisch over kansen én risico’s en weeg deze af.

Weten voordat je gaat meten? Wifitracking in Enschede

Een voorbeeld van waar onvoldoende na is gedacht over de te bereiken maatschappelijke doelen en de kansen en risico’s van de inzet van technologie is de gemeente Enschede. De gemeente Enschede heeft in 2021 van de Autoriteit Persoonsgegevens (AP) een boete gekregen van 600.000 euro, omdat de gemeente wifitracking gebruikte in de binnenstad op een manier die niet mag. Via wifitracking kon de gemeente winkelend publiek en mensen volgen die in de binnenstad wonen en/of werken.

Dat begon met een op het oog puur praktische interventie van de gemeente: er werden in 2017 sensoren ingezet om de drukte in de binnenstad te meten. Door middel van meetkastjes in winkelstraten werd geteld hoeveel wifisignalen en dus mensen er in de binnenstad waren. Maar er werd niet alleen geteld hoeveel mensen er waren in de binnenstad; mensen werden via wifisignalen gevolgd door de binnenstad. Vandaar de recent opgelegde boete: de AP oordeelde dat de overheid zonder wettelijke basis haar burgers niet mag volgen. Had de gemeente dit van tevoren voorzien, toen ze begon met wifitracking?

Het antwoord laat zich raden en roept tegelijkertijd aanvullende vragen op. Was het doel en de weg daarnaartoe wel duidelijk? Kan er door het tellen van mensen effectiever beleid worden gemaakt om de binnenstad bijvoorbeeld leefbaarder te maken door drukte te spreiden?

De kans dat andere steden naast Enschede sensoren en andere slimme technologieën hebben ingezet met een bepaald maatschappelijk doel voor ogen, die later onbedoelde neveneffecten blijken te hebben, is zeer groot. Dat betekent, naast de kansen die er absoluut zijn om maatschappelijke waarde te creëren, realistisch zijn over de risico’s van digitale toepassingen in de slimme stad. Daartoe riepen wetenschappers van het Rathenau Instituut ook recentelijk op, net als de Autoriteit Persoonsgegevens. Hoe zou je innovatie zo kunnen inrichten om veiligheid in de stad te creëren met behulp van nieuwe technologieën?

Kansen en risico’s in kaart in de slimme stad

Het AMS Institute heeft samen met de gemeente Amsterdam verkend hoe camera’s op verantwoorde wijze kunnen worden ingezet in de publieke ruimte. De camera’s zijn onderdeel van het Amsterdamse systeem voor druktemeting (of crowd monitoring), waar met camera’s beelden worden verzameld en een algoritme daar chocola van maakt. En zo bijvoorbeeld kan bepalen of het ergens te druk is of dat er – ten tijde van de coronacrisis en geldende maatregelen – anderhalve meter afstand werd gehouden. In deze verkenning zijn er drie typen camera’s waarmee wordt geëxperimenteerd: één camera gaat op gezette tijden aan en uit door middel van een schuifje dat voor de lens kan. Bij een tweede camera kunnen voorbijgangers op een knop drukken waarmee de camera 15 minuten uit staat en ze kunnen passeren zonder te worden gefilmd. Een derde camera moet eens per week handmatig worden aangezet, wat een fysieke beperking aanbrengt tegen hackers.

Het doel van het experiment is hiermee om manieren te vinden om dataminimalisatie en doelbinding te waarborgen bij het gebruik van camera’s in de publieke ruimte. Dus precies de hoeveelheid data verkrijgen voor het maatschappelijke doel dat je voor ogen hebt. En zo tegelijkertijd oog hebben voor onder andere autonomie en privacy van burgers en cyberveiligheid. Dit experiment is daarmee een voorbeeld van innovatie inrichten door tegelijkertijd naar kansen (cameragebruik voor een veiligere stad) en risico’s (datavergaring zonder doel) te kijken en burgers onderdeel te maken van de afweging daarvan.

Realistisch over kansen en risico’s door afweging

Het kan best zo zijn dat sommige experimenten waardevoller en bruikbaarder zijn dan andere, maar dat zet wel een actief gedachteproces over en afweging van kansen én risico’s in gang. Op die manier wordt er actief nagedacht over belangrijke waarden en mensenrechten – zoals het recht op privacy – bij het inzetten van camera’s in de publieke ruimte. Om zo een waardenvolle, slimme stad te worden. Werk aan de winkel dus voor steden met de ambitie om een slimme stad te worden!

PUBLICATIES