Ethics by design, bestaat dat wel?

Eva Meijsen

Carolien Glasbergen gaf een interessante lezing over ethiek. Je komt het overal tegen thuis, op straat, op je werk in je vrije tijd, alleen sta je er nooit bij stil.

Ze gaf een aantal voorbeelden. Zoals een tunnel naar het strand, die zo laag gemaakt was dat een bus er niet doorheen kan. De achterliggende gedachte was om ongewenste bezoekers te weren: mensen die over een kleinere beurs beschikken en die anders massaal in bussen het strand zouden bezoeken. Hoe kom je erop!

Het ethische principe achter een beslissing bepaalt mede het gedrag van de gebruiker. Van een fietsstoplicht dat op een bepaalde hoogte is afgesteld zodat fietsers bijtijds stoppen bij roodlicht – en die zo het gedrag van de fietser bepaalt – tot de camera’s die in de China zijn opgehangen om gedrag van de burgers te sturen. Bij de gedachte aan de Chinese manier van omgaan met privacy gaat er een rilling door je heen, gelukkig gebeurt dat bij ons hier niet!

Zoekmachines als startpage.com, de meest privacyvriendelijke zoekmachine, en Duckduck-go vormen niet voor niets een alternatief voor Google. Inmiddels is Google zelf aardig aan de slag om alles zoveel mogelijk vast te leggen en te combineren. En is er dan werkelijk zo veel verschil tussen de methoden van Google en China?

Het begint bij het ontwerpproces, waarin vragen gesteld kunnen worden over de dialoog met gebruikers en stakeholders over het doel dat bereikt moet worden. Dat doel kan in de tijd verschuiven. Bijvoorbeeld de smartphone: in 1998 was het alleen een telefoon, maar tegenwoordig is het gebruik veelzijdiger: je kunt ermee appen, mailen, foto’s maken en films bekijken.

Een ander ethisch aspect is de vraag of het juist is om altijd efficiency na te streven. Bijvoorbeeld: met welke waarden wordt rekening gehouden bij de van vervanging van een échte portier door een draaideur? Kostenbesparing versus menselijke waarde.

Zolang de keuzes nog te volgen zijn en de gevolgen inzichtelijk zijn, is de menselijke maat nog van toepassing. Maar wat gebeurt er als de rationele en navolgbare keuzes niet meer mogelijk zijn omdat AI er mee aan de slag is gegaan? Daarom is het van belang om ervoor te zorgen dat artificial intelligence-toepassingen navolgbaar en uitlegbaar blijven, zodat inzichtelijk is welke keuzes er gemaakt zijn op welke gronden.

Daarnaast is het van belang om kritisch te zijn over de toepassing van de data en camera’s in openbare ruimten. In Amsterdam is het niet mogelijk om buiten het bereik van camera’s te blijven als je een rondje fietst. Maar wat is het nut van alle opnames? Dat weet de gemeente Amsterdam ook niet en het is nog niet geheel duidelijk wat er met het materiaal gebeurt. Hoe lang blijven de gegevens, zoals gezichtsherkenning, opgeslagen? En mogen wij die data onvoorwaardelijk inzetten om bijvoorbeeld criminelen op te sporen? Hoe verhoudt dat zich met de privacyvriendelijkheid? Het belangrijkste van de presentatie is wat mij betreft dat er bewust met data moet worden omgegaan en dat vooraf keuzes gemaakt moeten worden over welke kant de samenleving op gaat.

Eva Meijsen is gastredacteur van Od

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *