Steeds meer overheden zien de toegevoegde waarde van datagedreven werken. Datagedreven werken brengt ook ethische vraagstukken met zich mee. Wie zijn wij? Waar staan wij voor? Kan hetgeen wij doen geen kwaad? Is hetgeen wij doen wel “goed”. Nog te vaak zijn dit vragen die indirect beantwoord worden of zelfs op tafel blijven liggen met grote gevolgen (zoals we zagen bij onder andere de Belastingdienst). Wie is er binnen de gemeente eigenlijk verantwoordelijk voor de ethische aspecten van de huidige datagedreven tijd?
Vaak is niet duidelijk wie verantwoordelijk is voor de ethiek van data. Dit zou een jurist kunnen zijn. Zij gaan immers over de wettelijkheid van een product en die wet is een weerspiegeling van wat de maatschappij vindt. Als het gaat om een algoritme kan het ook een data scientist zijn. Zij weten nou eenmaal wat zich precies afspeelt in dat algoritme. Het kan ook verschillen per project. Dan ligt de verantwoordelijkheid dus bij een projectleider of een manager. En uiteindelijk ligt dit natuurlijk ook bij de maatschappij, bij jou en bij mij. Wij bepalen de ethiek. Het lijkt dus een soort teamwedstrijd te worden.
Feit is dat dat de algemene ervaring lijkt te missen. Vele rapporten verschijnen over hoe het ethische deel het beste aan te vliegen is, maar zonder daadwerkelijke kennis in huis zijn deze lastig toe te passen in de praktijk. Iedereen weet dat het ethisch niet correct is om onderscheid te maken op basis van nationaliteit, toch gebeurde het bij de Belastingdienst. Iedereen weet ook dat de kans dat iemand beschuldigd wordt als fraudeur niet gebaseerd mag zijn op een woonadres, toch gebeurde het bij SyRI. Gedeelde verantwoordelijkheid blijkt geen verantwoordelijkheid.
Applicaties worden in razend tempo steeds complexer. Waar algoritmes eerst nog makkelijk gevolgd kon worden in een Excel, krijgen algoritmes tegenwoordig een eigen brein of neuraal netwerk toegekend. Dit maakt applicaties slimmer en beter, maar ook lastiger te volgen en minder transparant. Ook dat brengt weer ethische haken en ogen met zich mee. Het nemen van ethische verantwoordelijkheid is nodig.
Bij de grote bedrijven lijkt de ethische transformatie al ingezet. Gemeenten besteden meer aandacht aan datagedreven werken. Vacatures voor Chief Data Officer komen steeds vaker voorbij en enkele gemeenten zijn al bezig met het inwinnen van kennis op ethisch gebied om te zorgen dat iemand verantwoordelijk is voor de ethische kant. Dit is niet een tijdelijke hype. Het is integraal onderdeel van de transformatie naar datagedreven werken.
Een ding is duidelijk. We moeten dit “goed” doen. Gedeelde ethische verantwoordelijkheid is geen verantwoordelijkheid. Om deze noodkreet te beantwoorden zou elke gemeente een Chief Data Officer of data-verantwoordelijke moeten aanstellen met voldoende kennis om de burger en de gemeente te beschermen.
Liever vandaag dan morgen.
Een begrijpelijk en concreet model om de ethische aspecten van en rondom algoritmes te toetsen.
Naar het EVA-model
Wat kunnen we met Big Data doen in de zorg? Dat was de vraag waarmee M&I/Partners, al een tijdje rondliep. Big Data is immers een term die veel wordt gebruikt, maar lang niet altijd is duidelijk wat je er precies aan hebt. Zeker niet voor de zorgverlener en de patiënt.
Lees verderZorgorganisaties stellen zich geregeld de vraag of de organisatie van de informatievoorziening nog passend is bij de behoeften vanuit de organisatie. Vanuit onze adviespraktijk zien we dat veel discussies hierover zich binnen organisaties herhalen én over organisaties heen vergelijkbaar zijn. Jeroen van Oostrum en Pien Nijpjes hebben hun kennis gebundeld in een whitepaper en beschrijven deze algemeen geldende principes en trends.
Lees verder
