Vragen over algoritmen en profilering
De gemeente Amsterdam maakt gebruik van algoritmes voor verschillende doeleinden. Er kleven meerdere ethische bezwaren aan algoritmische profilering. Zo is eerder al gebleken dat profilering kan leiden tot discriminatie. Ook zijn sommige zelflerende algoritmes te ingewikkeld geworden om de beslissingen nog goed aan de burger te kunnen uitleggen. De gemeente dient daarom zeer zorgvuldig om te gaan met de inzet van algoritmes. Algoritmische profilering is wat betreft de fracties van D66, GroenLinks en Volt alleen onder strikte voorwaarden mogelijk. Hierbij is het belangrijk dat selectiecriteria - op basis waarvan het algoritme de selectie uitvoert - zorgvuldig worden gekozen. Zodat tunnelvisie en feedbackloops worden voorkomen.
De stichting Algorithm Audit doet onderzoek naar de inzet van algoritmen door de overheid en de concrete ethische kwesties die zich hierbij voordoen. Door middel van zogenaamde algoprudentie hoopt de stichting hiermee bij te dragen aan concrete normen voor de verantwoorde inzet van algoritmes.
In een recent onderzoek naar algoritmische risicoprofilering door de overheid wordt geconcludeerd dat bepaalde profileringscriteria ongeschikt om te gebruiken in overheidsalgoritmes:
Postcode, en of stadsdeel
Reden voor afspraak met de gemeente
Type contact, zoals bellen, mailen, appen of post.
Laaggeletterdheid
Aantal kinderen
Werksector en werkervaring
Persoonlijke eigenschappen: zoals het kwantificeren van subjectieve eigenschappen zoals de mate waarin iemand professioneel, verzorgd of assertief overkomt.
Geslacht/gender
ADHD
Dit onderzoek roept bij de fracties van D66, GroenLinks en Volt vragen op over de toepassing van algoritmes door de gemeente Amsterdam.
Lees de vragen hier.