Tag Archives: Ethiek

The impact of technology on society: how to become a responsible designer of new technology

Ik ben vandaag op de Surf Onderwijsdagen in Den Bosch. Jo-An Kamp en John Walker maken de vraag “welke invloed heeft technologie op mens en maatschappij?” praktisch. Ze starten met een filmpje waarin een ‘slimme ring’ als een persoonlijke assistent met je meeloopt, voorziet van informatie en interfaces om er mee om te gaan. Ik kreeg er een heel sterk ‘Black Mirror‘ gevoel bij, terwijl de informatie die getoond wordt eigenlijk nu al beschikbaar is op onze smartphones. Maar wellicht zonder AI, daarom:

“The more Artificial Intelligence enters our lives, the more essential ethics and philosophy become.”

Jo-An moedigt haar studenten aan geen ‘tech regret’ te worden zoals deze, omdat je achteraf beseft dat je technologie dystopisch eindigt. Technologie-bouwers (in allerlei soorten denk ik) hebben de natuurlijke neiging om te kijken naar ‘interne waarden’ van hun product en de ‘externe waarden’ over het hoofd te zien. Die kunnen gaan over privacy, zelfbeschikking en publieke waarden. Dus de kans tech-regret te worden is dan groot.

Jo-An demonstreert vervolgens de door Fontys ontwikkelde TICT toolkit. Deze geeft niet zozeer antwoorden, maar helpt de juiste vragen te stellen op onderstaande categorieën.

Tijdens de ontwikkeling van de tool hanteerden ze als startpunt:

Technologie is multidisciplinair.
Ethiek kan een drijvende kracht voor innovatie zijn.
Probeer oordeel-vrij te zijn! In die zin: bij het antwoorden kun je zo “good /evil” zijn als je wilt. Ik vermoed om kritisch denken te bevorderen.
De tool moet onderdeel van het ontwerpproces kunnen zijn.
Context = king

Al met al heeft de Toolkit praktische en handige manieren om niet vaag te blijven bij het beschouwen van de invloed van technologie op onze maatschappij. Ze gebruiken het met hun eigen studenten tijdens de opleiding aan de Fontys Hogeschool voor ICT (met het motto “denken tijdens doen”).

Leestips:

Haar eigen publicatie “Techno Philosophy in Practice”, hier te downloaden.
Ethical OS en de toolkit, erg risico-gebaseerd (dus zonder oog voor kansen aldus Jo-An).
De toolkit die Fontys zelf ontwikkelde en de Technology Impact Cycle. Deze toolkit kun je zelf gebruiken door een account aan te maken en de methode te volgen.

Ik was prettig verbaasd over de hoeveelheid ‘cycles’ die ze al hebben in hun database, voordeel van de integratie in hun onderwijs denk ik. In elke cycle is hun toolkit toegepast op één app of één tool en ik denk dat ze er in geslaagd zijn om het praktisch te maken.

Digitale Transformatie – Keynote op saMBO-ICT

Ik ben vandaag online te gast op de 44ste en laatste saMBO-ICT Conferentie. De ‘laatste’ omdat vandaag de nieuwe naam van saMBO-ICT bekend wordt gemaakt. Ik neem aan dat we de nummering gewoon doortrekken, zoals we dat deden in 2007 ongeveer, na de ROC-i-Partners naamswijziging. ROC van Amsterdam is gastheer.

Rob Elsinga (National Technology Officer, Microsoft Nederland) heeft de keynote. De beschrijving van zijn onderdeel duidt direct de ‘hete aardappel’: Microsoft biedt veel voor onderwijs, maar wordt terecht ook steeds genoemd in de kritiek op onze afhankelijkheid van Big Tech. Hij vertelt dat zijn werkterrein ligt op het gebied van ‘ethiek versus kunstmatige intelligentie’ en duurzaamheid-strategie.

Artificial Intelligence

Voorlopig ontwikkelt dit nog erg door, maar we maken er ongemerkt al veel gebruik van. Sommige chatbots, het maken van klimaatmodellen en het realtime-vertalen van online overleg bijvoorbeeld wordt steeds meer aangestuurd door kunstmatige intelligentie. Hij waarschuwt wel voor de mogelijke ondermijning van mensenrechten, maar ziet ook weerstand die gebaseerd is op angst voor verlies van sociale status, verandering van rol of teloorgang van een bestaand bedrijf.

Digitale Transformatie

Over de digitale transformatie van Microsoft zelf:

Het startte met de 2005 whitepaper van Bill Gates “New World of Work” die ze in Nederland vertaald hebben naar “het nieuwe werken”.
In 2018 gingen ze een stap verder: voor 30% van de medewerkers zijn er werkplekken op kantoor, de rest is ontmoetingsplek.
Hun werkterrein is helemaal verlegd naar cloud-oplossingen en adoptie. Echter: het trage karakter van echte transformatie illustreert hij met het gebruik van koffie door de eeuwen heen. Nieuwe ontmoetingsplekken die bestaande verdrongen, zoals theehuizen die concurrentie kregen en zuivelindustrie die zich moest aanpassen.

Mijn conclusie is dat het jachtige innovatie-tempo in schril contrast staat met de slakkengang van echte digitale transformatie.

Over beroepen van de toekomst

Omdat ze eigenaar zijn van LinkedIn hebben zij veel data op het gebied van banen en toekomstige beroepen. Hun conclusies uit eigen onderzoek op basis daarvan:

65% van de kinderen zal later een baan hebben die nu nog niet bestaat.
47% van de huidige banen zal komende 2 decennia door machines uitgevoerd gaan worden.
Er zijn tegen 2024 65.000 banen nodig in cloud-technologie. Ik vermoed in Nederland alleen al.
Slechts 33% van de behoefte aan werkers met technologie vaardigheden, wordt wereldwijd ingevuld.
In minder dan 10 jaar zal 77% van de banen technologie vaardigheden vereisen.

Voorbeelden van de ‘nieuwe’ banen:

Over soevereiniteit & privacy

De Europese Unie heeft steeds meer kritiek op de afhankelijk van grote technologie-giganten. Hij geeft toe dat zij dat ook zijn, maar maakt zoals te verwachten een paar kanttekeningen:

Microsoft is vooral een platform leverancier, wat tot gevolg heeft dat ze de data niet hergebruiken voor marketing.
Ze zijn geen ‘gatekeeper’ zoals een Amazon dit kan zijn.
Er is een DPIA op een deel van hun omgeving uitgevoerd wat er toe geleid heeft dat ze het verzamelen van telemetrie-gegevens beperkt hebben.

Rob is een rustige spreker, die niet te lang blijft stilstaan bij wat ik “innovatieve open deuren” noem en mijn aandacht weet vast te houden. Hij is niet bang om zorgen over Big Tech te noemen en spreekt over een andere ‘verantwoordelijke’ houding van Microsoft. Wel zouden de praktische gevolgen voor hen als bedrijf (Wat doen ze nu anders?) concreter mogen voor mij. Aangezien er nog 15 minuten over waren, een gemiste kans.

Disclaimer: Mijn eigen organisatie gebruikt Azure / Office365 als cloudoplossing.

Jeroen van den Hoven – Verantwoord Digitaal Innoveren

Ik ben vandaag online te gast bij het Vista College, voor de 43ste saMBO-ICT conferentie. Op de tweede dag opent Jeroen van den Hoven met de keynote. Hij is hoogleraar Ethiek en Techniek aan de Universiteit Delft. Ik ben overigens blij dat we voor onze conferenties steeds vaker wegblijven van trendwatch-first, hype-only keynotes. In evaluaties kwam de behoefte aan aandacht voor “ethiek in combinatie met technologie” ook steeds terug.

Voor veel mensen is ethiek “iets dat ver weg staat” dus maakt Jeroen het concreet. In de maatschappij zien we veel ongenoegen over ‘het verbroken sociaal contract’ en kansongelijkheid. Los van de problemen-optelsom van klimaat, economie en BigTech. De belemmering in keuzevrijheid door technologie-monopolisten is ontzettend actueel. Hij tipt het boek: Evil Online (Engels).

Internet zorgt voor extra verwarring, omdat elk fenomeen wordt verdubbelt in definities: door voorvoegsels zoals cyber-, net-, e-, artificial-, online-, digital- etc. Daarmee komen we in een “conceptueel vacuüm” terecht, omdat we niet goed weten waar we het over hebben. Dat leidt tot een vacuüm in beleid, want wat spreek je af over wat je niet begrijpt? Vervolgens leidt het tot slecht werkende systemen. Als voorbeeld haalt hij de vraag aan of het juist is dat ouders door notificaties uit Leerlingvolgsystemen, eerder dan hun kind de cijfers weten.

Uiteindelijk voert alles terug op de vraag “Hoe ziet een goede digitale samenleving er uit?” en “Wat is onze visie op deze nieuwe technologie?”. Kijken we klakkeloos naar China of ontwikkelen we dit zelf? Hij schetst 2 aanpakken:

Ontwerpen voor Waarden of waardegevoelig ontwerpen: Dit gaat er vanuit dat in een vroeg stadium van productontwerp nagedacht wordt hoe het bijdraagt of juist afbreuk doet aan wat we echt belangrijk vinden. Meer over Value Sensitive Design is hier te vinden.
Verantwoord Innoveren: je maakt je waarden expliciet, vertaalt deze door naar eisen en je zoekt naar middelen om zoveel mogelijk van deze waarden te realiseren.

Jeroen legt ook uit hoe de waardenhiërarchie werkt. Vorig jaar heeft Kennisnet hier toevallig over gepubliceerd in het Rapport Waarden wegen (kennisnet.nl). Zelf kwam ik er in aanraking mee bij het thema “Eigen Dossier”, binnen het MBO brede programma “Doorpakken op Digitalisering”. Aanrader.

Het vertrekt vanuit waarden, daarna formuleer je normen die op hun beurt weer leiden tot ontwerp-principes en eisen. Dit stuurt dus sterk de inhoud van een technisch/functioneel ontwerp aan, in een Programma van Eisen voor aanbestedingen. Ethische eisen zelf zijn non-functional requirements. De praktische uitwerkingen ervan lijken mij wel degelijk functionele eisen.

Het helpt ook bij “morele overbelasting” door afwegingen helder te maken. Je kunt nu eenmaal niet altijd aan alle waarden voldoen die je bedenkt. Bijvoorbeeld: Veilig & Efficiënt. Zelf ervaar ik aan de lopende band trilemma’s. Zijn aanmoediging:

“Werk systematisch, transparant, voortdurend en in overleg met belanghebbenden aan de realisatie van onze waarden. Als we dit niet zelf doen, doen bedrijven het wel maar dan gedreven vanuit winstverwachting.”

Jeroen spreekt rustig en met veel inhoud. Hij weet zijn punt helder te illustreren. Daarnaast vermijdt hij het om over normen en waarden te praten vanuit een morele hoogvlakte, dus zonder wijzend vingertje. Zijn slotzin:

“Als je door vandaag te innoveren morgen aan meer van je verplichtingen (aan leerlingen, aan toekomstige generaties. leerkrachten, ouders en de samenleving als geheel) kunt voldoen, heb je de plicht om vandaag te innoveren.”

BlockChain: Ethisch verantwoord?

Sommigen vinden dat gereedschappen waardevrij zijn, met als argument dat een hamer er ook niets aan kan doen als je die gebruikt om iemands hoofd in te slaan. Behalve dat hier van alles op af te dingen en aan toe te voegen valt, heb ik zelf graag oog voor de hele context waarbinnen een instrument wordt toegepast. Zo ook voor BlockChain. Dan spelen er voor mij een paar gedachten:

Informeel is verdacht?

Ik houd trouwens hellend vlak en opmaat als drogreden nooit uit elkaar, maar dat terzijde. Zou de volgende opmaat mogelijk zijn?
Eerst gebruiken we waarmerken en ondertekenen van transacties van (sociaal) kapitaal met een hoge waarde. Met de komst van SmartContracts echter wordt het makkelijker om heel veel zaken te ondertekenen. Na een tijdje is de techniek zo rijp en alomtegenwoordig dat het meer inspanning vergt om te oordelen welke dingen ondertekening behoeven dan om ze gewoon standaard te waarmerken.
Als iedereen hier aan went dan worden zaken die niet gewaarmerkt zijn ineens ongewoon gevonden. Iets later zijn ze zelfs verdacht. Ik stel me zo voor dat sleepnetten zich gaan richten op zaken die ‘informeel’ plaatsvinden, aangezien daar bij voorbaat een luchtje aan hangt.
Wordt uiteindelijk de scheiding formeel en informeel dezelfde als legaal en illegaal? Lijkt me een leuk dystopisch thema voor Black Mirror.

Is het energieverbruik van cryptografie niet immoreel als het klimaat zo verandert?

Het verzegelen van blokken op het Bitcoin netwerk kost veel rekencapaciteit en dus energie. Op dit moment zelfs evenveel als Ecuador gebruikt. De rekencentra (miners genoemd) zitten vooral in China, omdat energie daar het goedkoopst is.
Nu kun je naast het Bitcoin netwerk ook andere BlockChains opstarten die niet dezelfde verzegeling vereisen, maar veel toepassingen laten hun waarmerken meeliften op Bitcoin transacties.
Zelf heb ik er moeite mee om sociaal kapitaal in het onderwijs zoals onderwijsovereenkomsten, leerresultaten en diploma’s te waarmerken op een BlockChain die zo’n beslag legt op onze energiebronnen. Kunnen we hier echt niet een andere BlockChain voor ontwerpen?
Als je over het verzegelen meer wilt weten kijk dan hier.

Hebben we de verantwoording om studenten duurzaam aantoonbare leerresultaten mee te geven?

Wij (onderwijs) niet alleen denk ik zelfs, aangezien een leven-lang-leren ook in het belang van werkgevers is. Met duurzaam aantoonbare leerresultaten geven we de studenten iets mee zonder dat ze ons later nog nodig hebben om te bewijzen dat het van hun is.
Beetje voorbarig nu hoor, maar ik verwacht dat, áls het waarmerken een vlucht gaat nemen, een school die hier niet aan meedoet op termijn vragen krijgt over de validiteit van uitgereikte diploma’s en micro-credentials.

In mijn volgende blog de bronvermeldingen. Dit is deel 8 in de serie toelichting op m’n presentatie op saMBO-ICT. De andere delen: