Gedeelde ethische verantwoordelijkheid is geen verantwoordelijkheid


Steeds meer overheden zien de toegevoegde waarde van datagedreven werken. Datagedreven werken brengt ook ethische vraagstukken met zich mee. Wie zijn wij? Waar staan wij voor? Kan hetgeen wij doen geen kwaad? Is hetgeen wij doen wel “goed”. Nog te vaak zijn dit vragen die indirect beantwoord worden of zelfs op tafel blijven liggen met grote gevolgen (zoals we zagen bij onder andere de Belastingdienst). Wie is er binnen de gemeente eigenlijk verantwoordelijk voor de ethische aspecten van de huidige datagedreven tijd?

Wie is verantwoordelijk voor de ethiek van data? 

Vaak is niet duidelijk wie verantwoordelijk is voor de ethiek van data. Dit zou een jurist kunnen zijn. Zij gaan immers over de wettelijkheid van een product en die wet is een weerspiegeling van wat de maatschappij vindt. Als het gaat om een algoritme kan het ook een data scientist zijn. Zij weten nou eenmaal wat zich precies afspeelt in dat algoritme. Het kan ook verschillen per project. Dan ligt de verantwoordelijkheid dus bij een projectleider of een manager. En uiteindelijk ligt dit natuurlijk ook bij de maatschappij, bij jou en bij mij. Wij bepalen de ethiek. Het lijkt dus een soort teamwedstrijd te worden.  

Gedeelde verantwoordelijkheid blijkt geen verantwoordelijkheid

Feit is dat dat de algemene ervaring lijkt te missen. Vele rapporten verschijnen over hoe het ethische deel het beste aan te vliegen is, maar zonder daadwerkelijke kennis in huis zijn deze lastig toe te passen in de praktijk. Iedereen weet dat het ethisch niet correct is om onderscheid te maken op basis van nationaliteit, toch gebeurde het bij de Belastingdienst. Iedereen weet ook dat de kans dat iemand beschuldigd wordt als fraudeur niet gebaseerd mag zijn op een woonadres, toch gebeurde het bij SyRI. Gedeelde verantwoordelijkheid blijkt geen verantwoordelijkheid. 

Complexiteit 

Applicaties worden in razend tempo steeds complexer. Waar algoritmes eerst nog makkelijk gevolgd kon worden in een Excel, krijgen algoritmes tegenwoordig een eigen brein of neuraal netwerk toegekend. Dit maakt applicaties slimmer en beter, maar ook lastiger te volgen en minder transparant. Ook dat brengt weer ethische haken en ogen met zich mee. Het nemen van ethische verantwoordelijkheid is nodig.

Chief Data Officer

Bij de grote bedrijven lijkt de ethische transformatie al ingezet. Gemeenten besteden meer aandacht aan datagedreven werken. Vacatures voor Chief Data Officer komen steeds vaker voorbij en enkele gemeenten zijn al bezig met het inwinnen van kennis op ethisch gebied om te zorgen dat iemand verantwoordelijk is voor de ethische kant. Dit is niet een tijdelijke hype. Het is integraal onderdeel van de transformatie naar datagedreven werken.

Een ding is duidelijk. We moeten dit “goed” doen. Gedeelde ethische verantwoordelijkheid is geen verantwoordelijkheid. Om deze noodkreet te beantwoorden zou elke gemeente een Chief Data Officer of data-verantwoordelijke moeten aanstellen met voldoende kennis om de burger en de gemeente te beschermen.

Liever vandaag dan morgen.



Terug naar het overzicht

Ethische Validatie van Algoritmes

Een begrijpelijk en concreet model om de ethische aspecten van en rondom algoritmes te toetsen.

 

Naar het EVA-model

Gerelateerde publicaties

Veel gemeenten worstelen met het invoeren van datagedreven werken. Een hip onderwerp dat veel potentie heeft en in menig i-Visie en informatiestrategie van gemeenten een thema is. Vanuit de jaarlijkse ICT benchmark gemeenten ziet M&I/Partners dat veel organisaties moeite hebben om een ontwikkelde visie op datagedreven werken te vertalen naar concrete acties en stappen.

Lees verder

Jeroen van Oostrum in gesprek met Teus Kappen, Chief Science Information Officer bij het UMC Utrecht, over #datagedrevenzorg. De grote uitdaging voor ziekenhuizen is: hoe slagen we erin om al die data zodanig te genereren en te combineren dat we daarmee uiteindelijk de kwaliteit van zorg verbeteren? Anesthesioloog Teus Kappen heeft daar wel ideeën over.

Lees verder