Principes voor ethisch verantwoord innoveren

Toon pagina in menu

Digitale innovaties kunnen geld besparen en bijdragen aan een  hogere productiviteit en efficiency in de publieke sector. De inzet van deze innovaties kan echter ook leiden tot ethische dilemma’s. Zo kunnen digitale  innovaties grote invloed hebben op publieke waarden als privacy, rechtsgelijkheid en autonomie en zo onbedoeld leiden tot uitsluiting van bepaalde groepen. Als publieke opdrachtgever is het uw taak om hier verantwoord mee om te gaan. Door de onderstaande principes te hanteren bij  zowel de ontwikkeling als de hierop volgende afname, kunt u borgen dat u op een ethisch verantwoorde manier experimenteert en innoveert met digitale technologieën.

Op deze pagina staan beknopt de 7 principes beschreven waarmee u ethisch verantwoord innoveert en hoe u deze binnen het inkoopproces toe kan passen. Het ministerie van Binnenlandse Zaken en Koninkrijksrelaties heeft deze principes geformuleerd. Een volledig overzicht hiervan vindt u op Toolbox Ethisch Verantwoorde Innovatie .

Zet publieke waarden centraal

Wees u bewust van de verschillende waarden binnen onze samenleving. Breng voordat u innovaties toepast de effecten hiervan op deze waarden in kaart. Maak eventuele dilemma’s concreet en bespreekbaar.  Gemeenten kunnen bijvoorbeeld sensoren inzetten om zakkenrollers op te sporen. Maar wat doet dit precies met het gevoel van onschuldige mensen, die ook gemonitord worden? Het is belangrijk om samen met uw leverancier tijdens de ontwikkeling uit te zoeken of de innovatie ongewenste effecten heeft, en wat u hier tegen kunt doen. Zorg er daarnaast voor dat u al bij de start van het traject weet welke publieke waarden de innovatie raakt. Bespreek tijdens de evaluatie van het ontwikkeltraject de eventuele negatieve effecten.  Als blijkt dat de ongewenste effecten te groot zijn, dan kan dat een reden zijn om af te zien van verdere ontwikkeling van de digitale innovatie.

Betrek burgers en andere belanghebbenden

Een belangrijk onderdeel bij elk innovatietraject is het creëren van draagvlak bij betrokkenen. Dit begint bij bewustwording van de belangen van de betrokkenen en het tijdig aangaan van het gesprek. Bijvoorbeeld een gemeente die WhatsApp wil gebruiken om met inwoners te communiceren. Niet elke inwoner zal hier gebruik van willen maken om privacy redenen. Tegelijkertijd kan een gemeenteambtenaar zich onder druk gezet voelen, omdat de verwachting is dat er via WhatsApp wel snel gereageerd zal worden. Door voor de start van het ontwikkeltraject de belanghebbenden te betrekken in het beschrijven van de scope – de minimale eisen en beoordelingscriteria van de innovatie- vergroot u de slagingskans.

Respecteer relevante wet- en regelgeving

Innovatie kan op verschillende manieren botsen met belangrijke mensenrechten. Zo kunnen zelflerende algoritmes onbedoeld tot discriminatie leiden. Hiertegen moet u als opdrachtgever de betrokken personen in bescherming nemen. Bij digitale innovatie moet u ervoor zorgen dat u niet alleen de letter, maar ook de geest van de wet volgt. Technologieën mogen bijvoorbeeld niet discrimineren, moeten zelfbeschikking respecteren en een eerlijk proces garanderen. Houd in het ontwikkeltraject daarom rekening met dit risico. Een digitale innovatie die niet past binnen de wet- en regelgeving heeft geen toegevoegde waarde, omdat deze niet bruikbaar is in de praktijk.

Zorg voor kwaliteit van data, algoritmes en analyses

Kwaliteit van data kan veel impact hebben op besluitvorming. Het is dus van essentieel belang dat gegevens, beslisregels en analysemethoden van voldoende kwaliteit zijn. Data moeten juist, volledig, consistent en actueel zijn. Zo voorkomt u dat digitale innovaties die gebruik maken van bijvoorbeeld een algoritme, discriminerende uitkomsten hebben.

Wees transparant en leg verantwoording af

Transparantie en het afleggen van verantwoording zijn essentieel voor goed openbaar bestuur. Dit geldt zeker bij de inzet van nieuwe technologie. Transparantie over innovatie zorgt er onder andere voor dat burgers voor hun rechten kunnen opkomen. Dit gaat verder dan openbaarheid over de technische werking van een systeem. Een algoritme kan bijvoorbeeld bepalen dat iemand een bepaalde vergunning niet krijgt. Diegene heeft dan niet zo veel aan de broncode van het algoritme, maar wel aan een begrijpelijke uitleg over de genomen beslissing. Maak daarom al voor de ontwikkeling van de innovatie afspraken met uw leverancier over de technische werking. Zorg daarbij voor een begrijpelijke handleiding van de innovatie. Bijvoorbeeld een document waarin de werking van de digitale innovatie is beschreven en welke databronnen er zijn gebruikt.

Monitor, evalueer en stel eventueel bij

Effecten van innovaties zijn niet altijd goed te voorspellen. Het is daarom belangrijk dat u de kwaliteit van het innovatietraject voortdurend monitort, evalueert en eventueel bijstuurt. Denk al aan het begin van een traject goed na over hoe u dat kunt doen. Als er iets niet blijkt te kloppen bij de toepassing of in het ontwerp van uw digitale innovatie, moet u dit kunnen corrigeren en aanpassen. Maak monitoring en de mogelijkheid tot bijsturen daarom onderdeel van het ontwikkelproces. U moet er rekening mee houden dat een innovatie kan mislukken.  Wees daarom bereid om te stoppen met een innovatietraject als dit niet voldoet aan de verwachtingen.

Let op de veiligheid van technologie

Technologie moet altijd op verschillende niveaus veilig zijn: de fysieke veiligheid in onze openbare ruimte, de persoonlijke veiligheid van het individu en de veiligheid van sociale groepen. Kwetsbaarheden in de veiligheid kunnen ernstige gevolgen hebben, bijvoorbeeld een cyberaanval die onvoldoende veilige software treft. Daarom is het van belang dat u bij innovatie veiligheidsmaatregelen treft op het niveau van de organisatie, werkprocessen, technische infrastructuur en software. De veiligheidsmaatregelen moeten op orde zijn voordat u over kan gaan tot opschaling en implementatie van de innovatie. Besteed dan ook in het opschalingsplan aandacht aan de veiligheid.

Deze samenvatting geeft een globaal beeld van wat u te doen staat als u technische innovaties op een ethisch verantwoorde manier wilt ontwikkelen en implementeren. Meer informatie vindt u op Toolbox Ethisch Verantwoorde Innovatie .