Het gebruik van generatieve algoritmes neemt razendsnel toe; veel sneller dan het nadenken over de impact die deze technologie heeft op onze maatschappij. Vandaag liet onze Staatssecretaris van Digitale Zaken zich gelukkig kritisch uit over deze trend: ze kondigde een voorlopig verbod aan op het “gebruik van AI-software door ambtenaren”.

Directe, voelbare invloed op de bestuurlijke praktijk

Als organisatie maken we van dichtbij iedere dag mee hoe weinig tijd er eigenlijk wordt genomen om kritisch te reflecteren op de inzet van data en algoritmes. En zonder namen te noemen is het ook pijnlijk duidelijk geworden hoe wij als samenleving in toenemende mate met de gevolgen hiervan geconfronteerd worden. Daarom juichen wij dit soort boodschappen enorm toe – zeker als deze vanuit de top van de overheid komen en directe, voelbare invloed hebben op de bestuurlijke praktijk.

Een toevoeging aan de beweging: reflectie op sociale impact

Dat gezegd hebbende zouden we vanuit onze eigen ervaringen met de “poten in de klei” heel graag nog wat toe willen voegen aan de beweging ingezet door de Staatssecretaris. Wat ons betreft is de snelheid waarmee deze technologie wordt geadopteerd door overheidsorganisaties namelijk weer het zoveelste symptoom van een ongezond systeem. Een systeem waarin men zich blindstaart op efficiëntie, op data-gedreven oplossingen, op automatisering. En omdat het idee bestaat dat nadenken over de sociale impact daarvan zelf niet leidt tot meer efficiëntie wordt die taak dus als een hete aardappel doorgegeven. Of zelfs voor het gemak compleet overgeslagen, met alle gevolgen van dien. (Overigens zien wij in de praktijk dat reflectie op sociale impact zeker ook tot meer efficiëntie leidt, naast vele andere voordelen – vertellen we je graag meer over).

Het probleem omvat meer dan alleen privacy en auteursrechten

Wat ons betreft gaat dit probleem dieper dan privacy, dieper dan auteursrechten, en zelfs dieper dan het gebruik van ChatGPT in directe besluitvorming over mensen. De nog zorgwekkendere laag daaronder is dat er een bestuurlijke realiteit is ontstaan waarin het handelen van ambtenaren steeds meer wordt gestuurd en beïnvloed door systemen waar ze zelf niet genoeg van begrijpen (omdat ze nou eenmaal extreem ingewikkeld en ondoorzichtig zijn). En dus ook niet kunnen overzien wat de gevolgen zijn van het gebruiken daarvan, voor welk doeleinde dan ook. Want als we even stilstaan bij het feit dat GPT-4 getraind is op het hele internet en de tekst die ChatGPT genereert dus vooral overeenkomt met hoe witte mannen tussen de 20 en 40 jaar de wereld zien: willen we dan echt zo’n tool klakkeloos kan worden gebruikt in welke vorm van digitale communicatie binnen de overheid dan ook?

We zijn super blij met dit inspirerende vertoon van lef en daadkracht van Alexandra van Huffelen om even een pas op de plaats te maken, als tegengeluid tegen het “move fast and break things”-mantra. En we zijn extra blij met haar plannen om te investeren het opleiden van ambtenaren. Want wat ons betreft zit de oplossing niet in technologie, maar in de mens. Die zijn van nature goed, je moet alleen wel investeren in de juiste vaardigheden, cultuur en bewustzijn. En ambtenaren zijn ook (net) mensen.

Geschreven door:

Mike Lensink

Mike heeft een PhD gedaan waarin hij keek naar de ethische utidagingen rond stamcelonderzoek. Hij houdt zich bezig met verantwoord gebruik van data en algoritmes.

Deel dit!

Constructieve reflectie toe te voegen? Dat lezen we graag!