Ik ben vandaag online te gast bij het Vista College, voor de 43ste saMBO-ICT conferentie. Op de tweede dag opent Jeroen van den Hoven met de keynote. Hij is hoogleraar Ethiek en Techniek aan de Universiteit Delft. Ik ben overigens blij dat we voor onze conferenties steeds vaker wegblijven van trendwatch-first, hype-only keynotes. In evaluaties kwam de behoefte aan aandacht voor “ethiek in combinatie met technologie” ook steeds terug.
Voor veel mensen is ethiek “iets dat ver weg staat” dus maakt Jeroen het concreet. In de maatschappij zien we veel ongenoegen over ‘het verbroken sociaal contract’ en kansongelijkheid. Los van de problemen-optelsom van klimaat, economie en BigTech. De belemmering in keuzevrijheid door technologie-monopolisten is ontzettend actueel. Hij tipt het boek: Evil Online (Engels).
Internet zorgt voor extra verwarring, omdat elk fenomeen wordt verdubbelt in definities: door voorvoegsels zoals cyber-, net-, e-, artificial-, online-, digital- etc. Daarmee komen we in een “conceptueel vacuüm” terecht, omdat we niet goed weten waar we het over hebben. Dat leidt tot een vacuüm in beleid, want wat spreek je af over wat je niet begrijpt? Vervolgens leidt het tot slecht werkende systemen. Als voorbeeld haalt hij de vraag aan of het juist is dat ouders door notificaties uit Leerlingvolgsystemen, eerder dan hun kind de cijfers weten.
Uiteindelijk voert alles terug op de vraag “Hoe ziet een goede digitale samenleving er uit?” en “Wat is onze visie op deze nieuwe technologie?”. Kijken we klakkeloos naar China of ontwikkelen we dit zelf? Hij schetst 2 aanpakken:
- Ontwerpen voor Waarden of waardegevoelig ontwerpen: Dit gaat er vanuit dat in een vroeg stadium van productontwerp nagedacht wordt hoe het bijdraagt of juist afbreuk doet aan wat we echt belangrijk vinden. Meer over Value Sensitive Design is hier te vinden.
- Verantwoord Innoveren: je maakt je waarden expliciet, vertaalt deze door naar eisen en je zoekt naar middelen om zoveel mogelijk van deze waarden te realiseren.
Jeroen legt ook uit hoe de waardenhiërarchie werkt. Vorig jaar heeft Kennisnet hier toevallig over gepubliceerd in het Rapport Waarden wegen (kennisnet.nl). Zelf kwam ik er in aanraking mee bij het thema “Eigen Dossier”, binnen het MBO brede programma “Doorpakken op Digitalisering”. Aanrader.
Het vertrekt vanuit waarden, daarna formuleer je normen die op hun beurt weer leiden tot ontwerp-principes en eisen. Dit stuurt dus sterk de inhoud van een technisch/functioneel ontwerp aan, in een Programma van Eisen voor aanbestedingen. Ethische eisen zelf zijn non-functional requirements. De praktische uitwerkingen ervan lijken mij wel degelijk functionele eisen.
Het helpt ook bij “morele overbelasting” door afwegingen helder te maken. Je kunt nu eenmaal niet altijd aan alle waarden voldoen die je bedenkt. Bijvoorbeeld: Veilig & Efficiënt. Zelf ervaar ik aan de lopende band trilemma’s. Zijn aanmoediging:
“Werk systematisch, transparant, voortdurend en in overleg met belanghebbenden aan de realisatie van onze waarden. Als we dit niet zelf doen, doen bedrijven het wel maar dan gedreven vanuit winstverwachting.”
Jeroen spreekt rustig en met veel inhoud. Hij weet zijn punt helder te illustreren. Daarnaast vermijdt hij het om over normen en waarden te praten vanuit een morele hoogvlakte, dus zonder wijzend vingertje. Zijn slotzin:
“Als je door vandaag te innoveren morgen aan meer van je verplichtingen (aan leerlingen, aan toekomstige generaties. leerkrachten, ouders en de samenleving als geheel) kunt voldoen, heb je de plicht om vandaag te innoveren.”