Cookies; één van de meest duivelse dingen die we in de digitale wereld tegenkomen, toch? Irritante pop-ups die op een slinkse manier worden ontworpen om te zorgen dat zoveel mogelijk internetgebruikers ten prooi vallen aan online reclame en oplichterij? Er rolde onlangs een podcast uit de algoritme-automaat over de uitvinding van de cookie, en ik was meteen geïntrigeerd. Waarom is de cookie er überhaupt, en vooral ook waarom in deze vreselijke vorm? Wat blijkt: het werd ontwikkeld om de privacy van internetgebruikers te beschermen. Maar deze ontwikkeling – die zelf voortkwam uit de ethische overweging dat privacy geborgd moet worden – leidde uiteindelijk tot onvoorziene schadelijke effecten voor de maatschappij. Het is een casus waaruit waardevolle lessen getrokken kunnen worden over de plek die ethiek zou moeten hebben binnen organisaties.

De cookie: privacy-beschermend medicijn tegen online geheugenverlies

Om niet teveel in de technische details te duiken en in een tl;dr te belanden: er was eens een tijd dat het internet nog geen geheugen had. Internetten zonder de mogelijkheid om gegevens op te slaan en mee te nemen naar een volgende pagina is natuurlijk nogal beperkend, en dus waren hele basale dingen – zoals iets kopen – niet mogelijk. Tegelijkertijd beseften de programmeurs bij oldschool browser Netscape – zoals Tim Berners-Lee, die later ook het Open Data Institute zou oprichten – toen al heel goed dat je niet zomaar alle informatie van webgebruikers kunt opslaan. Bravo. Gedreven door dit dilemma tussen het mogelijk maken van langdurige gebruikssessies en de privacy van gebruikers bedacht en ontwikkelde Berners-Lee’s collega Lou Montulli de welbekende cookie. Dat verklaart ook meteen de naam: communicatie tussen gebruikers en het web werd vormgegeven als een “fortune cookie”, een omhulsel met een onzichtbare kern. Kort door de bocht hield dat in dat het vanaf dat moment mogelijk was om als gebruiker (gevoelige) gegevens uit te wisselen met 1 website, terwijl dat voor andere websites afgeschermd bleef. En zo werd het geheugenprobleem van het internet opgelost, met de cookie als prachtige technologische uitvinding om privacy te waarborgen.

Fijn, maar toen was er opeens het surveillance-kapitalisme en werd Trump president

Fast forward zo’n 25 jaar naar vandaag – 7 februari 2023, toevallig de Safer Internet Day – en de cookie is uitgegroeid tot hét wapen waarmee nietsvermoedende burgers slachtoffer worden gemaakt van de scherpschutters van commerciële bedrijven, die met ads en clickbait onze digitale autonomie om zeep helpen. De privacy-beschermende cookie nu als het boegbeeld van het surveillance-kapitalisme. Huh, hoe dan?

Reclamebureaus, in het bijzonder de in 1996 opgerichte start-up DoubleClick (in 2007 gekocht door – je raadt het al – ons aller Google, en omgedoopt tot DDM), ontdekten een manier om het cookie-model uit te buiten. Op zichzelf waren cookies nog steeds heel veilig. Maar omdat het internet zo in schaal groeide ontstond er een manier voor grote corporaties om tóch informatie (lees: reclame) tot specifieke internetgebruikers te richten. Et voilá, vanwege onvoorziene ontwikkelingen (de wilde groei van het internet) werd uit een maatchappelijk goede technologie het online surveillance kapitalisme zoals we dat nu kennen geboren. Montulli, de ontwikkelaar van de cookie met het hart op de juiste plek, reageerde destijds natuurlijk geshockeerd door deze commercieel gemotiveerde exploit van zijn privacy-beschermende uitvinding:

“My first thought was: Holy shit, that shouldn’t be possible—we tried to design cookies so that would not be possible”
 
(bron: https://hiddenheroes.netguru.com/lou-montulli)

Ethiek is iets voor de ethici? Nee, ethiek is iets dat de gehele organisatie structureel moet borgen

Het is een tegelijkertijd verontrustend maar ook heel waardevol voorbeeld dat het belang van het borgen van ethiek in organisaties onderstreept. Bovendien raakt het aan twee uitdagingen die we bij onze werkzaamheden rond verantwoorde inzet van technologie, data en AI vaak tegenkomen, namelijk:

  1. waar moet je ethiek beleggen in een organisatie, en wie is daarvoor verantwoordelijk?
  2. het is moeilijk om aan de voorkant in te schatten tot welke maatschappelijke impact een technologie gaat leiden, dus hoe kunnen we daar ethiek in meenemen?

Deze casus laat zien dat die verantwoordelijkheid in ieder geval niet alleen ligt “bij de ethicus”, zoals we vaak horen. Lou Montulli werd er als informaticus mee geconfronteerd, en er zijn talloze voorbeelden te verzinnen waarbij mensen zonder expertise in ethiek tegen complexe morele uitdagingen aanlopen. In tegendeel: de meerwaarde van ethiek is pas echt zichtbaar als het cultiveren van ethische vaardigheden en bewustzijn een integraal onderdeel is van de gehele organisatie. Dan voelt de organisatie als geheel zich verantwoordelijk, en is wat ons betreft wat goede borging van ethiek inhoudt. Daarnaast geeft het ook aan dat je ethiek niet even aan de voorkant kunt “afvinken”; juist omdat technologie en maatschappij voortdurend veranderen is het belangrijk om ethiek op een structurele manier in te bedden in organisaties, zodat op een meer continuë basis gereflecteerd kan worden op publieke waarden en maatschappelijke impact. Bij het toepassen van zelflerende algoritmes, waarbij je te maken hebt met een steeds veranderend beslismodel in een black box en met function creep, is dit met name cruciaal.

Reflecterend op de cookie-casus zei Lou Montulli het treffend:
 “I think it’s not possible to be imaginative enough to come up with all of the possibilities. [But I] do believe people should think long and hard about the consequences of what they are building.”

Voor een Safer Internet, maar vooral voor een betere digitale samenleving, moeten we zorgen dat organisaties in staat zijn dat lange, harde denken tijdens de levenscycli van beleid en technologie voldoende kunnen doen. Ethiek over de gehele breedte van de organisatie borgen is daarvoor een essentiële voorwaarde.

Geschreven door:

Mike Lensink

Mike heeft een PhD gedaan waarin hij keek naar de ethische utidagingen rond stamcelonderzoek. Hij houdt zich bezig met verantwoord gebruik van data en algoritmes.

Deel dit!

Constructieve reflectie toe te voegen? Dat lezen we graag!