Hoe ethisch om te gaan met nieuwe technologie: de Algoritme Effect Beoordeling

29 juni, 2020

Auteur: Sander van der Smissen

In een snel veranderende wereld zorgen technologische ontwikkelingen en veelvuldig gebruik en herbruik (niet altijd zoals in eerste instantie bedoeld) van deze technieken voor nieuwe omgangsvormen en een nieuwe realiteit. Een veelvuldig aangehaald en tot de verbeelding sprekend voorbeeld van de veranderende kracht van technologie is gelegen in het containerbegrip Kunstmatige Intelligentie (K.I., of meer gangbaar het Engelse A.I.). Hoewel de definities van wat dit allemaal precies omhelst uiteenlopen, kunnen we stellen dat het ons al in bijna alle levensgebieden raakt. Het is geen toekomstmuziek; het is er al[1]. Waar moet je rekening mee houden?

 

Technologie en ethiek


De invloed van technologie kan beschouwd worden als:

  • positief (door middel van technologische vooruitgang zijn al onze menselijke problemen op te lossen, een bijna religieus geloof dat werd gepredikt in Sillicon Valley);
  • negatief (de hyper-intelligentie van A.I. zal zich op een gegeven moment tegen de mensheid keren; een denkstroming die menig filmregisseur en science-fictionauteur heeft geïnspireerd), of;
  • iets daartussenin (in bijvoorbeeld een meer instrumentalistische beschouwing draagt de technologie op zich geen moraliteit en daarmee geen voorbestemd lot. Slechts een instrument zijnde, is het aan de ontwerpers ervan waar het heen gaat).


We kunnen op z’n minst stellen dat technologie, mens en wereld elkaar beïnvloeden. De ontdekking van en het meesterschap over het vuur heeft niet alleen het dieet van de mens maar ook diens invloed op de wereld veranderd. De komst van echo-technieken om foetussen prenataal te zien, onderzoeken of bewonderen, heeft de menselijke relatie met diens eigen lichaam en ontstaansmythe veranderd. Die nieuwe blik in de buik hervormt niet alleen verhalen of medische discussies, maar heeft bovendien onwijs grote, macro-demografische impact (denk bijvoorbeeld aan de proportie van mensen met downsyndroom in de samenleving). De kunstmatig intelligente toepassing van algoritmische besluitvorming in sociale regelingen kan enorme stappen vooruit betekenen in het sneller uitbetalen van toeslagen, en toch in sommige gevallen leiden tot discriminatie. Is het de mens die mores van technologie bepaalt, of leidt technologie tot een nieuwe beoordeling van wat het betekent mens te zijn (goed te zijn)?

Nieuwigheid leidt (een onontgonnen gebied qua moraliteit) vanzelfsprekend (en gelukkig maar) tot ethische discussie. Een aspect dat serieuze aandacht verdient bij de aanschaf, inzet of ontwikkeling van digitale technologieën en tools. Het roept eveneens enige verantwoordelijkheid op; het ontwerpen van technologie is in zekere mate ook het ontwerpen van menselijke relaties, ervaringen en gebruiken. Hoe moeten de ontwerpers / inkopers / projectleiders van deze nieuwe technologie dan zorgen voor iets dat goedaardig is? En andere leuke ethisch-filosofische vraag: hoe weet je wat goed is? [2]

 

Normenkaders

Een vroege (populair-)wetenschappelijke en voor de sciencefiction zeer invloedrijke, wetmatige normenduiding rondom wat techniek voor ons zou moeten doen, is the law of robotics (oftewel de wetten der robotica) van Isaac Asimov [3]. Vrij simpel gesteld komen de wetten neer op:

  • Een robot mag mensen geen kwaad doen, of door passiviteit kwaad doen toekomen.
  • Een robot moet de bevelen van een mens gehoorzamen, behalve waar deze conflicteren met de eerste wet.
  • Een robot moet zijn eigen bestaan beschermen, zolang dit niet conflicteert met de eerste of tweede wet.

 

Grappig genoeg schijnen er nog best veel van deze wetten door in recente normenkaders rondom AI. Een thema dat bij de Europese Commissie hoog op de agenda staat [4]. In de richtlijnen die zij heeft gepubliceerd, zijn de belangrijkste pijlers:

  1. Respect voor menselijke autonomie
  2. Preventie van schade
  3. Rechtvaardigheid
  4. Verantwoording

 

Lessen uit de AVG

Dit bovenstaande streven heeft echter nog niet geleid tot convergente, eenduidige Europese wetgeving. Wij werpen natuurlijk graag een blik op het wetboek. De geschiedenis leert ons dat de vooruitgang van technologie vaak sneller gaat dan ethici kunnen duiden. Wetsontwikkeling is nog statischer en hobbelt daar weer achteraan. Echter, met de AVG kwam er in 2018 toch een verassend vooruitstrevende wet op gebied van data en gegevensbescherming in gebruik (hoewel de totstandkoming nogal wat voeten in de aarde had). Vooruitstrevend omdat hierin rekening wordt gehouden met de voortdurende (digitale) transformatie van onze maatschappij. 

Kenners van de AVG zullen de eerdergenoemde ethische pijlers van Europese Commissie wellicht al herkennen of gedeeltelijk teruglezen in de privacywetgeving. In de AVG zijn deze thema’s vertolkt als:

  1. Controle / zeggenschap (hoofdstuk 3)
  2. Ten dienste van de mens, risicogestuurd (overweging 4, artikel 35)
  3. Rechtmatig, behoorlijk en transparant (artikel 5)
  4. Accountability (artikel 24) 


Aanvullende fundamentele AVG-elementen zijn: sturing / management, datakwaliteit en bewustwording. Zijn er lessen te trekken uit de AVG, die kunnen helpen in het bepalen van een juiste aanpak op iets relatief nieuws als: het inzetten van algoritmen?

 

Conclusie en tips

Bij gebrek aan eenduidige wetgeving rondom A.I. (en algoritme-gebruik in het bijzonder), met in het achterhoofd het ethisch belang houdend, volgen uit bekende normen en met hulp van de AVG – hieronder een aantal tips en tricks.

De primaire cruciale tip is: doe vooraf een assessment van de effecten. Denk daarbij na over mogelijke bedoelde of onbedoelde consequenties, breng de baten en risico’s in beeld. Een gedegen risicobegrip leidt ertoe dat je passende organisatorische en technische maatregelen (wederom mooie AVG-terminologie) in kunt bouwen. Zo kun je waarachtig stellen dat de inzet van algoritmen zorgvuldig, juist en zinvol is. Dit PDF-bestand biedt een overzicht met algemene tips. Onthoud wel: wat specifiek nodig is in verschillende situaties hangt af de factoren die in de effectbeoordeling worden getoetst.


Zoals je in het overzicht kan lezen, is er van alles mogelijk om ethisch verantwoord te werken bij een nieuw project met algoritmen. Om met een gerust hart te kunnen profiteren van alle baten die het brengt, moet je op voorhand nadenken over hoe je het op een deugdelijke manier inzet (zoals de AVG uitdraagt).  Doe dat met voldoende bescherming voor natuurlijke mensen – of zoals Asimov zegt: a robot shall do no harm!
 
Op deze pagina vind je wat wij hebben ontwikkeld op het gebied van algoritmen. Neem gerust contact met ons op bij interesse of vragen!

 

Referenties

[1] Zo zie je het bijvoorbeeld prominent terug op de agenda van de digitale overheid van Nederland via: https://www.digitaleoverheid.nl/overzicht-van-alle-onderwerpen/nieuwe-technologieen-data-en-ethiek/data-agenda-overheid/aandacht-voor-wetgeving-en-publieke-waarden/ 


[2] Voor meer achtergrond over het onderwerp van de verhouding tussen mens en technologie (specifiek: A.I.) zou ik ten zeerste aanraden ter verdieping de boeken van Yuval Noah Harari,”Homo Deus” (2016) , of James Briddle “A new Dark Age” (2018) eens te lezen. Voor een meer (filosofisch) wetenschappelijke uiteenzetting van de relatie tussen mens, wereld en technologie raad ik aan:

- Verbeek, P. P. (2011). Moralizing technology: Understanding and designing the morality of things. University of Chicago Press.

[3] Bij interesse in deze wetten (en hun beperkingen) kun je kijken naar deze korte bespreking op het World Science Festival 2016, via: https://www.youtube.com/watch?v=xY-eUd0XuOs

[4] Zie https://www.consilium.europa.eu/nl/press/press-releases/2019/02/18/european-coordinated-plan-on-artificial-intelligence/

Terug naar het overzicht