We voelen in ons werk vaak een kloof tussen techniek en ethiek. Vanuit de technische hoek worden wij (Data en AI-ethiek nerds) vaak neergezet als neezeggers, die technologische innovaties afremmen. Aan de andere kant merken wij dat ontwikkelaars of projectmedewerkers die met data werken (lees: data nerds) vaak gezien worden als mensen die ‘gewoon lekker willen programmeren’ en maatschappelijke vraagstukken graag op ethici afschuiven. Maar ethiek nerds willen niet als een afvinklijst worden beschouwd en data nerds willen niet ‘geremd’ worden door ethiek nerds. We willen deze patronen doorbreken in onze nieuwe workshop: Data Ethiek voor Data Nerds.
Want we kunnen een stuk verder komen als we meer samenwerken en kennis uitwisselen tussen ethiek en techniek. De rol van ethiek nerds in data- of AI-projecten is niet om te bepalen wat goed of fout is, maar om gesprekken aan te zwengelen over de mogelijke impact van systemen en kritische vragen te stellen over kansen en risico’s. Tijdens het gehele ontwikkelingsproces van data of AI projecten worden technische keuzes gemaakt zoals welke outliers neem je wel/niet mee, hoeveel waarde hecht je aan bepaalde parameters, wat voor trainingsdata gebruik je? Maar deze keuzes kunnen significante sociale gevolgen hebben. Denk hierbij niet alleen aan het risicoprofileringssysteem van DUO of de Toeslagenaffaire, maar ook aan intelligente verkeerslichten die de ruimtelijke orde op een bepaalde manier indelen. Een manier om te zorgen dat dit soort gesprekken wel plaats kunnen vinden is door data nerds te helpen meer inzicht te krijgen in hoe datagerelateerde besluitvormingen invloed kunnen hebben op maatschappij, mens en natuur. Zodat ze samen met ethiek nerds en andere betrokkenen verantwoorde beslissingen kunnen nemen.
Helaas zijn veel technische studies niet gericht op het cultiveren van zulk ethisch inzicht. Jonne en Mathilde merkten in hun (technische) studies dat er nauwelijks aandacht wordt besteed aan de mogelijke maatschappelijke gevolgen van technische keuzes of statistische methodes. Data-gerelateerde opleidingen focussen voornamelijk op het ontwikkelen van techniek, terwijl technologie altijd socio-technologisch is. Vaak wordt ethiek pas in het laatste jaar van de opleiding genoemd, in een vak dat volledig los van de rest van de opleiding.
Dat moet anders vinden wij. Met de workshop Data Ethiek voor Data Nerds streven wij om de ‘ethische’ vlam aan te wakkeren in data nerds. Verantwoorde ontwikkeling van data, AI en technologie is een multidisciplinaire uitdaging en vraagt om échte samenwerking tussen techniek en ethiek, want in beide vakgebieden streven we naar hetzelfde: iets goed te doen voor mens, maatschappij en natuur. Alleen spreken we soms nog niet dezelfde taal… Zie deze workshop dan ook niet als een oproep om als data nerd allemaal ethische assessments te moeten invullen, maar als een uitnodiging om samen met ethiek nerds anders naar je werk te gaan kijken. En misschien doe je dat al, dan leren we graag van jou!
Wil je meedoen aan de pilot van de Data Ethiek voor Data Nerds workshop op 1 april van 15:00 tot 17:00 in Utrecht? Stuur dan een mailtje naar jonne@thegreenland.eu.
Geschreven door:

Jonne Maas
Met een achtergrond in techniekfilosofie en een PhD in ethiek van AI analyseert Jonne de maatschappelijke implicaties van AI. Ze is met name geïnteresseerd in hoe stakeholder input moet worden vormgegeven voor een rechtvaardige ontwikkeling van AI.






