Het gebruik van kunstmatige intelligentie en algoritmes wordt gezien als één van de bepalende maatschappelijke krachten in onze huidige en toekomstige samenleving. Overheden spelen hier gretig op in en maken waar mogelijk al dankbaar gebruik van deze invloedrijke technologieën. Zo gaan ze mee met een trend waarin efficiëntie, digitale dienstverlening en datagedreven werken de norm zijn. De toenemende inzet van algoritmische toepassingen in de publieke besluitvorming stuit echter ook op kritiek. Vooral als het ingezet wordt om beslissingen te maken die mensen treffen. Bijvoorbeeld voor sociale regelingen, in de strafketen, voor belastingen en toeslagen of in de zorg. Het ethische vraagstuk rond big data, algoritmische besluitvorming en profilering krijgt steeds meer aandacht. Hoe zorgen we ervoor dat onze slimme technologieën geen vervelende gevolgen krijgen? In Nieuw-Zeeland hebben ze hierin een gedurfde stap gezet.
Een veelbesproken onderwerp bij beleidsmakers
Wereldwijd wordt op het hoogste bestuurlijke beleidsniveau al een aantal jaar hard nagedacht over hoe er gestuurd moet worden op het gebruik van kunstmatige intelligentie en algoritmes. Er zijn volop initiatieven om mogelijke schadelijke impact in kaart te brengen en te voorkomen. Het liefst met zo min mogelijk verlies van potentiële baten. Met name in de afgelopen 5 jaar ploppen er talloze frameworks, kaderstellende richtlijnen en wetgevingsontwerpen op. Het blijft voor veel mensen een angstbeeld: een onbeperkte groei van meer en meer automatisch verlopende technieken, waarbij vooral gekeken wordt naar wat er kán, in plaats van naar wat ethisch wenselijk is.
Nieuw-Zeeland komt met een nieuw handvest
Deze zomer is in Nieuw-Zeeland een grote stap gezet in de sturing op het gebruik van algoritmen. Daar is eind juli het Algorithm Charter for Aotearoa New Zealand in werking getreden. De overheid van Nieuw-Zeeland zag in dat het niet zonder risico’s is om algoritmes te gebruiken voor het analyseren van data of het nemen/informeren van beslissingen. Dit handvest is een primeur, omdat het een bindend manifest is. Door het te tekenen committeert de overheid zich tot uiteenlopende maatregelen op het gebied van onder andere datakwaliteit, het tegengaan van vooringenomenheid, het instellen van controle en toezicht. Ondertussen hebben al tientallen bestuursorganen en uitvoeringsinstanties binnen de overheid zich bij het handvest aangesloten. Binnen enkele maanden volgt een evaluatie. Dan zal blijken of het handvest remmend heeft gewerkt op innovatie of juist voor extra eerlijkheid heeft gezorgd.
Een voorbeeld voor Nederland?
De mogelijke problemen en de bestuurlijke zorgen rondom dit soort onderwerpen spelen ook hier in Nederland. Kijk bijvoorbeeld maar naar de toeslagenaffaire, waarbij geautomatiseerde profilering werd toegepast om fraude bij toeslagen vast te stellen. De eeuwige vraag blijft hierbij: wat gaat dit soort zaken voorkomen? In Europa zijn we dankzij privacywetgeving al bekend met instrumenten die ons moeten beschermen tegen vervelende gevolgen van algoritmische toepassingen. We hebben een toezichthouder (de AP) en ook de AVG zegt iets over transparantie met betrekking tot automatische besluitvorming (bijvoorbeeld in artikel 13, lid 2, punt F en artikel 14, lid 2, punt F, maar vooral in artikel 22).
Ook voor de Nederlandse overheid blijft dit een belangrijk onderwerp in haar digitale ambities. Concreet is er bijvoorbeeld sinds kort een vaste commissie voor digitale zaken aangesteld. Daarnaast zijn er (nog ietwat vage) bestuurlijke beloften gedaan om volgens ethische principes te handelen. Is dat dan voldoende? Of zou een bindend handvest zoals in Nieuw-Zeeland nog effectiever zijn?
Voor een antwoord op bovenstaande vragen moeten we naar mijn mening vooral kijken naar de EU. De AVG is een mooi voorbeeld van een geslaagd Europees project, dat liet zien hoe ethische dataprincipes kunnen veranderen in richtlijnen en uiteindelijk in een concrete werkelijkheid.
Laten we in elk geval de evaluatie van de primeur uit Nieuw-Zeeland niet uit het oog verliezen. Wie weet kunnen we als Nederland en Europa straks een voorbeeld nemen aan dit handvest.
