Gedeelde ethische verantwoordelijkheid is geen verantwoordelijkheid

Gedeelde ethische verantwoordelijkheid is geen verantwoordelijkheid


21 juni 2021 - Categorie: blog

Steeds meer overheden zien de toegevoegde waarde van datagedreven werken. Datagedreven werken brengt ook ethische vraagstukken met zich mee. Wie zijn wij? Waar staan wij voor? Kan hetgeen wij doen geen kwaad? Is hetgeen wij doen wel “goed”. Nog te vaak zijn dit vragen die indirect beantwoord worden of zelfs op tafel blijven liggen met grote gevolgen (zoals we zagen bij onder andere de Belastingdienst). Wie is er binnen de gemeente eigenlijk verantwoordelijk voor de ethische aspecten van de huidige datagedreven tijd?

Wie is verantwoordelijk voor de ethiek van data? 

Vaak is niet duidelijk wie verantwoordelijk is voor de ethiek van data. Dit zou een jurist kunnen zijn. Zij gaan immers over de wettelijkheid van een product en die wet is een weerspiegeling van wat de maatschappij vindt. Als het gaat om een algoritme kan het ook een data scientist zijn. Zij weten nou eenmaal wat zich precies afspeelt in dat algoritme. Het kan ook verschillen per project. Dan ligt de verantwoordelijkheid dus bij een projectleider of een manager. En uiteindelijk ligt dit natuurlijk ook bij de maatschappij, bij jou en bij mij. Wij bepalen de ethiek. Het lijkt dus een soort teamwedstrijd te worden.  

Gedeelde verantwoordelijkheid blijkt geen verantwoordelijkheid

Feit is dat dat de algemene ervaring lijkt te missen. Vele rapporten verschijnen over hoe het ethische deel het beste aan te vliegen is, maar zonder daadwerkelijke kennis in huis zijn deze lastig toe te passen in de praktijk. Iedereen weet dat het ethisch niet correct is om onderscheid te maken op basis van nationaliteit, toch gebeurde het bij de Belastingdienst. Iedereen weet ook dat de kans dat iemand beschuldigd wordt als fraudeur niet gebaseerd mag zijn op een woonadres, toch gebeurde het bij SyRI. Gedeelde verantwoordelijkheid blijkt geen verantwoordelijkheid. 

Complexiteit 

Applicaties worden in razend tempo steeds complexer. Waar algoritmes eerst nog makkelijk gevolgd kon worden in een Excel, krijgen algoritmes tegenwoordig een eigen brein of neuraal netwerk toegekend. Dit maakt applicaties slimmer en beter, maar ook lastiger te volgen en minder transparant. Ook dat brengt weer ethische haken en ogen met zich mee. Het nemen van ethische verantwoordelijkheid is nodig.

Chief Data Officer

Bij de grote bedrijven lijkt de ethische transformatie al ingezet. Gemeenten besteden meer aandacht aan datagedreven werken. Vacatures voor Chief Data Officer komen steeds vaker voorbij en enkele gemeenten zijn al bezig met het inwinnen van kennis op ethisch gebied om te zorgen dat iemand verantwoordelijk is voor de ethische kant. Dit is niet een tijdelijke hype. Het is integraal onderdeel van de transformatie naar datagedreven werken.

Een ding is duidelijk. We moeten dit “goed” doen. Gedeelde ethische verantwoordelijkheid is geen verantwoordelijkheid. Om deze noodkreet te beantwoorden zou elke gemeente een Chief Data Officer of data-verantwoordelijke moeten aanstellen met voldoende kennis om de burger en de gemeente te beschermen.

Liever vandaag dan morgen.




Ethische Validatie van Algoritmes



Een begrijpelijk en concreet model om de ethische aspecten van en rondom algoritmes te toetsen.

 

Naar het EVA-model