Examinering

Een itembank van vijf hogescholen op #T2D2016

Ik bezoek vandaag en morgen de Tweedaagse over Digitaal Toetsen. Surf organiseert het, waarvoor dank, in Eindhoven KennispoortSander Schenk (HR) praat ons bij over de ervaringen met het aanleggen van een itembank voor 5 hogescholen. Even de schaal: 5.492 studenten maakten 66.502 toetsen en beantwoorden 875.576 vragen …

Randvoorwaardelijk stelt Sander

  • Laagdrempelige toegang: De toegevoegde waarde, aangezien een itembank aanleggen nogal wat tijd kost, zit in hergebruik en analyse. Bijvoorbeeld welke vragen wel en niet goed lopen. Dat moet dan wel toegankelijk zijn.
  • Een enigszins doordachte inrichting: je kunt een jaar discussiëren, maar belangrijker is om te beginnen. Hoorde ik net ook al: metadata bijvoorbeeld wordt weinig gebruikt, terwijl je er aan de voorkant uren over kunt praten.
  • Enthousiaste auteurs (hier ook al): Laat voorbeelden zien, dwing niet en laat studenten er om vragen (“Bij docent X krijgen we wel oefenvragen uit de itembank … “).
  • Een goede ondersteuning.

Eigenlijk kom je daarna pas goed aan kwaliteit toe: zijn de vragen inhoudelijk juist, toetstechnisch in orde en hebben ze per stuk feedback? Het zegt denk ik wel iets over de cultuur als docenten in een team elkaar feedback hier op geven en constructief samen de kwaliteit verhogen. De balans tussen streng en soft is soms delicaat: leg je de lat te hoog dan werkt het ontmoedigend en sla je elk initiatief dood met een wijzende vinger, leg je de lat te laag dan krijg je slechte toetsen. Blijft natuurlijk mensenwerk. Vandaar dat Silvester Draaijer de nadruk legt op sociale innovatie (hoe werken onderwijzers samen).

Plug voor de leverancier: de vragen worden gemaakt en afgenomen met Remindo.

Sander zijn presentatie is hier terug te vinden.

Ervaringen met gezamenlijke toetsbanken op #T2D2016

Ik bezoek vandaag en morgen de Tweedaagse over Digitaal Toetsen. Surf organiseert het, waarvoor dank, in Eindhoven KennispoortHans Cuypers (TU/e) toont hoe zijn wiskunde vakgroep een itembank heeft opgezet.

De database bestaat uit ongeveer 1000 geparametriseerde vragen (daardoor kunnen vragen soms miljoenen varianten genereren). De items worden gegenereerd en nagekeken door Computer Algebra Software. De vragen zijn als Scorm-packages in toetsafname- of leersystemen te ‘hangen’.

Waarom wilde men een itembank en digitaal toetsen? Ze zochten naar nieuwe vormen van blended onderwijs en manieren om een goede aansluiting bij de moderne student te vinden, zijn voorkennis te verbeteren en deze gelijk te trekken. Tegelijkertijd kan het de werkdruk verlagen door items te delen en makkelijk toegankelijk te maken.

Is het de investering waard:

  • Ja: als er een duidelijk beeld is, de docenten enthousiast zijn, er ruimte is voor innovatie en als er voldoende technische ondersteuning is.
  • Nee: als er slechts kleine experimenten gepland zijn, als projectleden zelf geen onderwijs geven, als men bang is voor verandering en als de techniek dichtgetimmerd is.

De vakgroep Wiskunde sloot vervolgens aan bij een andere verandering: voor Calculus begon men met een nieuw blended onderwijsmodel. Deze bevatte Introductie (college en video), bestudering (boek en digitaal), samenwerking en discussie (tutorgroepen) en tot slot toetsing. Dit voor 2400 studenten organiseren was nogal een uitdaging, daarom hebben ze de aanleg van een itembank gelijk er in meegenomen.

Lessons learned voor het werken met dit blended onderwijsmodel: Er is korter maar intensiever contact, de ingangstoets is een goede indicatie voor slagingskans en feedback op huiswerk wordt gewaardeerd. Het aantal studenten dat in één keer het examen haalde nam toe van 39% naar 65%. Wat veel aandacht kostte was om de verschillende docenten ‘uit te lijnen’. Als je de studenten van 10 docenten op één manier toetst dan vergt dit afstemming op de inhoud van het onderwijs. Lijkt me dat als er hele sterke accentverschillen zijn, dit de standaardisatie van de toets tegenwerkt.

Volgens Hans is samenvattend belangrijk: Heb een duidelijk onderwijsplan, enthousiast team van docenten, een goede overdekking van de stof, vertrouwen in elkaars werk, een goede en flexibele technische infrastructuur en een open houding voor innovatie.

Knap, of typisch voor een wiskundevakgroep, vond ik dat ze ‘engine’ voor dit systeem zelf ontwikkeld hebben, o.a. op basis van Mathematica.

Itembanking, the ultimate battle? op #T2D2016

Ik bezoek vandaag de Tweedaagse over Digitaal Toetsen. Surf organiseert het, waarvoor dank, in Eindhoven Kennispoort. Silvester Draaijer praat over de moeizaamheid waarmee itembanken tot standkomen. Voor meer uitleg wat een itembank kan inhouden, klik hier. Makkelijk gezegd: een bak met gemetadateerde toetsvragen. Silvester stelt:

Itembanken is de grote belofte van digitale toetsing die niet is uitgekomen. De flower-power gedachte dat docenten fijn samenwerken aan toetsen en deze uitwisselen is geen werkelijkheid.

Itembanken zouden ontzettend veel voordelen bieden, maar er spelen allerlei barrières, psychologisch, sociologisch, organisatorisch of financieel. Concreter:

  • Er is een grote afstand tussen de productie van de toetsvragen en de ‘resultaten’ ervan.
  • De ‘opbrengst’ van toetsen met gesloten vragen is niet bijzonder groot.
  • Toetsvragen moeten na afname vrijgegeven worden (HO/WO).
  • Er is vaak wel geld voor de ontwikkeling van itembanken, maar niet voor de exploitatie ervan.
  • De itembank sluit net niet aan bij het specifieke onderwijs van de opleiding die ze nodig heeft (not invented here).
  • Veel oplossingen werden gezocht in de techniek en standaarden (QTI).

Wat werkt wel: wettelijk verplichten om een gedeelde kennisbasis te onderhouden of toetsing bij een externe instantie onderbrengen.

Zijn ideeën omtrent itembanken:

  • Het vraagt om sociale innovatie (hoe werken onderwijzers samen).
  • Het bereiken van de bestuurlijke professional (omdat standaardisatie soms botst met de autonomie op de werkvloer).
  • Het vormen van horizontale beroepsverbanden, over instellingen heen.

Zijn presentatie is hier te vinden.

Is jouw instelling klaar voor digitaal toetsen? Maturityscan op #T2D2016

Michiel van Geloven presenteert de beta-versie van de volwassenheidsmeter op het gebied van digitaal toetsen. Over het algemeen vind ik maturity-modellen praktisch omdat ze veel aanknopingspunten bieden om geleidelijk te groeien. Als een onderwerp complex en breed is om aan te pakken, dan werkt het wel eens ontmoedigend, zo’n gevoel dat je overladen wordt. Enfin, nu eentje voor digitaal toetsen dus.

Deze raakt 5 concrete gebieden en door hier systematisch naar te kijken krijg je inzicht in de huidige situatie (0-meting) en je zou kunnen bepalen waar je over 3 jaar wilt staan. ‘Basis-op-orde’ is dan het onderste niveau. Die zou je meestal direct willen bereiken natuurlijk. De 5 gebieden met hun indicatoren (deels eigen interpretatie):

  • Beleid en Visie: Is er zichtbaar leiderschap? Is er een gedragen visie op digitaal toetsen? Is er een (digitaal)toetsbeleid? Is er een heldere business case?
  • Organisatie: Is de tentamenorganisatie op orde? Loopt de logistiek, planning en roostering soepel? Zijn de beheersprocessen van de ICT afdeling voor dit onderwerp efficiënt? Is de afstemming van onderwijs en ICT volwassen? Voer je regie over je leveranciers van toetsen en toetssoftware? Hoe goed kun je met ze partneren? Denken ze mee?
  • Deskundigheid: Op managementniveau (motiverend, proactief of alleen risicomijdend reactief), kent de portefeuillehouder voldoende zijn onderdelen? Op docentenniveau (zijn ze toetsdeskundig en bewust van de veiligheidsaspecten en gaan ze daar verantwoordelijk mee om?). Op het niveau van de tentamenorganisatie en ondersteunende diensten etc.
  • Voorzieningen: Is de toetssoftware gekozen, ingekocht, geïmplementeerd? Zijn de faciliteiten voor toetsafname passend? Is de toetsveiligheid geborgd? Voldoet de archivering?
  • Implementatiestrategie: wat zijn de doelstellingen? Wat is de stijl en vorm van aansturing? Welke vorm van projectorganisatie kies je? Hoe goed is het plan van aanpak? Welk budget is er?

Per gebied vul je de maturity-waarde in, de scores worden bepaald door gesprekken met betrokkenen of door metingen, als indicatoren te kwantificeren zijn. Een opper-maturity-scan heeft doorgaans niveaus zoals ‘Greenfield’, ‘Ad-Hoc’, ‘Managed’ en ‘Optimized’. In deze variant werkt het met percentages waarbij 100% de gewenste situatie zou zijn.

We gingen daarna er zelf mee aan de slag. Door het ‘naar eer en geweten’ in te vullen. Volwassenheid meten is overigens geen exacte wetenschap, maar de dialoog er om heen kan heel waardevol zijn. Vooral een collectief beeld krijgen helpt later bij implementaties lijkt me. Ik zie het daarom als een praktisch hulpmiddel om met stakeholders het gesprek aan te gaan. Uit de zaal kwamen nog wat suggesties, o.a. om het dieper uit te werken, het is ook niet voor niets beta. Per indicator zou er een soort ‘bewijslast’ gedefinieerd kunnen worden, waaruit concreet blijkt dat je een bepaald niveau hebt.

De scan is hier terug te vinden.

maturity

De presentatie is hier terug te vinden.

Beleid voor digitaal toetsen op #T2D2016

Ik bezoek vandaag de Tweedaagse over Digitaal Toetsen. Surf organiseert het, waarvoor dank, in Eindhoven Kennispoort. Annette Peet opent dag twee met het onderdeel beleid. Veel instellingen worstelen er mee, als je links ergens aan trekt, komt er rechts een hele kluwen gedoe mee. Software? Grote toetszaal? Summatief of ook formatief? BYOD? Weet je wat het kost? Mag dat wel? Keurt de examencommissie dit wel goed? etc…. Dat vraagt dus om beleid.

Surf startte daarom een denktank om scholen hier handreikingen voor te bieden. Deze is samengevat in een Stappenplan Digitaal Toetsbeleid. De uitgebreidere versie “Beleid Digitaal Toetsen” is hier te vinden.

surf-2016-handreikingbeleid-voor-digitaal-toetsen_4b

 

 

Werkboek Veilig Toetsen op #t2d2016

Ik bezoek vandaag en morgen de Tweedaagse over Digitaal Toetsen. Surf organiseert het, waarvoor dank, in Eindhoven Kennispoort. Jenny de Werk introduceert het Werkboek Veilig Toetsen. Reden voor dit werkboek is de steeds grotere aandacht voor toetsveiligheid en de complexiteit ervan. Overigens de belangrijkste vraag blijft: Wie gaat er over toetsveiligheid?

Als uitgangspunt voor veilig toetsen geldt in ieder geval dat je ‘baseline informatiebeveiliging’ op orde moet zijn (zie MBO Normenkader).

Grofweg bestaat de ‘methodiek’ uit 5 stappen:

  • Benoem opdrachtgever en -nemer.
  • Analyser je toetsbeleid, proces en informatiebeveiliging.
  • Voer een gap-analyse uit.
  • Maak en voer een actieplan uit.
  • Laat tot slot een assesment uitvoeren.

surf-2016-werkboek-veilig-toetsen-webversie_13b

De presentatie is hier te downloaden.

Hans Frederik van de Hogeschool van Amsterdam vervolgt met zijn ervaringen met het werkboek Veilig Toetsen. Intrinsiek is hij voorstander van digitaal toetsen, alhoewel de problematiek wordt onderschat volgens hem. Het uit de grond stampen van grote centrale toetszalen gaat volgend hem in tegen alle huidige ontwikkelingen. Een greep uit z’n verhaal:

  • Examencommissies: zo mogen veel zeggen maar gaan uiteindelijk ‘nergens’ over.
  • Het CVB stimuleert digitalisering, maar de opleidingsmanager bepaalt zijn eigen ambitieniveau.

Overigens ben ik zelf niet principieel tegen grote toetszalen, maar ergens voelt het vreemd als je je onderwijs vormgeeft in individuele trajecten met kleine groepen en flexibiliteit zoekt en tegelijkertijd een ‘toetsfabriek’ uit de grond stampt. Qua kosten kan het denk ik soms niet anders.

Ludo van Meeuwen van TU/e herhaalt zijn motto: “Beveiliging is voorkomen, detecteren en reageren”. Hij toont de RACI tabel van hun examenproces. Het beantwoord dan wie er (eind)verantwoordelijk is, geraadpleegd en geïnformeerd wordt. Voorbeelden hiervan zijn in de Surf publicatie terug te vinden op bladzijde 38. Ook Ludo hamert op opdrachtgeverschap. Overigens gebruikten ze de gelegenheid om het analoge proces ook kritisch te bekijken op veiligheid. Het verplaatsen, vermenigvuldigen en overdragen van papier kent ook veel beveiligingsaspecten.

Monica Buijinck van Saxion vertelt over haar ervaringen met het project “Beveiligen van Toetsen”. Wat ik daar uit meeneem is dat er iemand moet zijn met het mandaat om in de hele keten zaken te controleren en mensen aan te spreken. Met (digitaal) toetsen loop je zo’n keten van examencommissies, ondersteunende diensten en ICT in, dat iemand een algeheel overzicht en regie moet hebben. In de ‘awareness’ campagne hebben ze overigens leuke filmpjes gemaakt.

Haar leerpunten:

  • Vertaal het werkboek naar je eigen situatie!
  • Zoek balans tussen veiligheid en tijdsinvestering!
  • Zoek de grootste risico’s en pak die aan!

Chromebooks voor Digitaal Toetsen op #T2D2016

Ik bezoek vandaag en morgen de Tweedaagse over Digitaal Toetsen. Surf organiseert het, waarvoor dank, in Eindhoven KennispoortGerdine Slot praat ons bij over 20 maanden ervaring met Chromebooks op de UU.

Even wat getallen om de schaal te illustreren: 24.000 individuele toetsafnames, 198 digitale toetsen, 480 centrale en 80 decentrale toetsplekken. De keus voor Chromebooks heeft vooral met accuduur (13 uur) en kosten te maken.

Ze hebben de volgende veiligheidsmaatregelen: een separaat wifi-netwerk, gebruik van “Chromebook Management Console” en een zelf ontwikkelde kiosk app voor beveiligde afname. De ruimte met de ‘karren’ (20x) is ook beveiligd.

Organisatorisch: De aanvraag en roostering sluit gewoon aan bij het reguliere roosterproces. Ze hebben een e-surveillantenpool van circa 25 studenten. Zij helpen bij op- en afbouw en assisteren bij technische problemen.

Lessons Learned

  • Van project naar lijnorganisatie is een uitdaging.
  • Geef aandacht aan lifecyle van Chromebooks. Na anderhalf jaar begaven ongeveer gelijktijdig 50 accu’s het. Dus ze worden nu proactief vervangen. Afschrijvingstermijn is nu ingekort.
  • De inzet van een e-surveillantenpool plannen en aansturen is veel werk, maar ontkom je bijna niet aan.
  • Ze willen nog voorzieningen doorontwikkelen voor blinden/slechtzienden en verder het aantal toetsplekken opschalen.

Overigens, goes without saying, Chromebooks werkt alleen voor webbased toetsafnames, niet voor andere toetssoftware.

Kosten

Wat kengetallen, gerekend per device: aanschaf Chromebook €280, €23 voor de management console, opslag €45. Dit schrijft af in 3 jaar.

De presentatie hier te vinden.

Open vragen sessie op #T2D2016

Ik bezoek vandaag en morgen de Tweedaagse over Digitaal Toetsen. Surf organiseert het, waarvoor dank, in Eindhoven Kennispoort. Er was apart ruimte voor vragen:

  • Wie is verantwoordelijk voor Digitaal Toetsen? Grofweg is steeds de IT afdeling verantwoordelijk voor de ondersteuning, maar anderen natuurlijk voor de inhoud. Lijkt me oud verhaal: IT kan alleen goed ondersteunen als andere stakeholders precies weten wat ze willen.
  • Zijn er ook oplossingen die werken met VDI in plaats van USB? Tot nu toe weinig, wel op instellings-PC’s maar niet in BYOD.
  • Kunnen er tablets gebruikt worden? Android en iOS doorgaands niet, Surface Pro met Windows en USB wel.
  • Kun je lock-down browsers gebruiken? Daar zijn wisselende ervaringen mee. Daarnaast is een lock-down browser alhoewel goed, nooit alleen voldoende.
  • Zijn er initiatieven om toetszalen in verbouwingen mee te nemen? Of juist het tegenovergestelde? Het inrichten van grote zalen met PC’s voor piektijden druist eigenlijk in tegen de ontwikkelingen met BYOD die zijn ingezet. Vaak stuurt men juist op een afname van het aantal PC’s.

 

BYOD, kan het veilig? op #T2D2016

Ik bezoek vandaag en morgen de Tweedaagse over Digitaal Toetsen. Surf organiseert het, waarvoor dank, in Eindhoven Kennispoort. Mike Baarslag (Fontys), Ludo van Meeuwen en Kees Goossens (TU/e), Martijn Meefout (Unteso) geven de presentaties over het toetsen met eigen devices. Inhoudelijk duikt het de techniek in.

Fontys: USB + Windows to Go = Digitale Toetsinfrastructuur

Het borgen van veiligheid gebeurt op verschillende niveaus: de computer moet een bekende zijn (authenticatie apparaat), de internetverbinding is beperkt (whitelist proxy), een monitorfunctie (virtueel opstarten vanaf USB stick met encryptie) en met policies worden zaken uitgeschakeld. Het daadwerkelijk inleveren is natuurlijk vanaf een inlog met juiste gebruikersnaam en wachtwoord (SSO). Het voorkomen van afkijken wordt o.a. gedaan door steeds in U-vorm de tafels op te stellen (in verder regulier lokaal).

Ze zijn voornemens om het gebruik van “Windows to Go” verder door te ontwikkelen, security audits te doen (interne ethical hacks bijv.)

Vragen uit de zaal:

  • Je mag overigens niet een student verplichten zijn eigen laptop te gebruiken voor een toets. Ze hebben voor die studenten die dat niet willen ‘leen-laptops’.
  • Als de student zijn gebruikersnaam en inlog kwijt is: Dan kan hij niet meedoen aan het examen.

TU/e

BYOD heeft een slechte reputatie voor het gebruik tijdens digitale examens. Ludo geeft aan dat 100% veiligheid een illusie is en dat je op drie niveaus maatregelen moet treffen: Prevent, Monitor en React.
Kees vertelt over de implementatie van een “Examinator Stick”. Een speciale USB stick met daarop, jawel, Ubuntu. Op eigen laptops worden deze gebruikt om een speciale omgeving op te starten, specifiek voor bepaalde examens. De toegang tot netwerk, andere computers, bluetooth etc wordt geblokkeerd. Daarnaast draait het een speciale browser.

Student-tevredenheid varieert: sommigen zijn er blij mee want er kan minder fout gaan. Of dat je per ongeluk programma’s op de achtergrond aan hebt staan, die als frauduleus gezien worden. Studenten die de stick niet willen gebruiken krijgen extra surveillance.

TU/e ‘trackt’ het gebruik, wie-heeft-welke-stick etc. Ze verliezen 1% van de sticks en ze worden door nieuwsgierige studenten ook gekopieerd om te proberen ze te hacken. 😉

Unteso

Martijn toont hun oplossing, die bestaat uit een combinatie van een USB stick (linux) en BYOD. De stick is geen toetssoftware maar maakt van alle machines een ‘managed werkplek’.

  • In de toetszaal wordt bij de start en aan het einde de sticks gescand, zodat ze weten wie-welke-heeft of had. En dat dezelfde student dezelfde stick weer inlevert.
  • Toegang tot overige USB, bluetooth en het netwerk wordt geblokkeerd. Al het verkeer gaat door een centrale proxy die bronnen whitelist in een gesloten subnet. Mocht er iets doorheen komen, dan is het in ieder geval gemonitord en achteraf is fraude aan te tonen.
  • Voorsprong wordt voorkomen door bij elke toets een verse image op de stick te zetten. Praktisch: hier zit een bureaublad achtergrond in die wisselt per toets. Als je de zaal rondkijkt zie je direct wie er een stick zou hebben van een ‘vorige’ toets.
  • Toegang tot specifieke zaken is beperkt in de tijd.
  • Ze monitoren voortdurend dat het aantal laptops dat ‘meedoet’ klopt met de aanwezigen in de zaal.
  • Er is een apart traject voor de surveillanten om ze in dit alles wegwijs te maken.
  • Het ‘securitytheater’ element is ook nuttig om iedereen een veilig gevoel te geven en fraude te ontmoedigen.

Toetsafnamerevue op #t2d2016

Ik bezoek vandaag en morgen de Tweedaagse over Digitaal Toetsen. Surf organiseert het, waarvoor dank, in Eindhoven Kennispoort. Michiel van Geloven opent met een overzicht van verschillende manieren om digitale toetsafname te organiseren. Overigens meer vragen dan antwoorden. Doet recht aan de diversiteit denk ik en de afwezigheid van één ei van Columbus voor digitaal toetsen.

Het aantal vragen over “Hoe kunnen we grootschalig digitaal toetsen” neemt nog niet af. Vaak wordt de oplossing gezocht in grote digitale toetszalen. Het aantal instellingen dat grootschalige digitale toetszalen heeft ingericht is niet meer aan het groeien. Het aantal plekken wat deze in totaal aanbieden wel. Daarnaast is er nergens één ideale oplossing. Grofweg zijn er de volgende varianten:

  • Oplossingen in meubels: Standaardtafels met desktop-pc’s, varianten van meubels die PC’s verzinkt of opgeborgen kunnen bewaren. Soms vaste toetszalen maar ook tijdelijk aangelegde zalen met overal kabelgoten enzo.
  • Laptops op laptopkarren of Chromebooks (zie verderop in het programma).
  • BYOD in combinatie met een speciale USB stick.
  • Surveillance op afstand (online proctoring).

Wat te kiezen?

Er zijn allerlei afwegingen, Michiel neemt ons er in mee:

  • Is er binnen je school überhaupt een grote tentamenzaal? Is er toevallig een verbouwing waarin je dit kunt meenemen? Ga je over een paar jaar verbouwen en moet je ‘even’ improviseren? Is het erg als studenten moeten reisen voor een toets? Of is het niet bespreekbaar dat ze naar een andere plek in de stad gaan?
  • Organiseer je afname op 4 piekmomenten? Of wil je voortdurend afnemen? Hoeveel studenten tegelijk doen de afname?
  • Wil je naast digitaal ook schriftelijke afnames in dezelfde ruimte?
  • Welke toetsvormen moeten mogelijk zijn? Zijn er daardoor hoge resolutie schermen nodig of andere speciale hardware? Te denken valt aan technische tekeningen of simulaties.

Samengevat: Er zijn 2 uitersten aan flexibiliteit. Wil je op elk moment overal kunnen toetsen met elk apparaat… of wil je specifieke inrichtingen hebben voor bepaalde examenvormen?

Hoe zit het met de kosten?

Afhankelijk van de examenvorm kan dit ontzettend uiteenlopen. Bouwkundige kosten, hardware en beheerslast kun ontzettend divers zijn. Overigens los van de kosten van de examenorganisatie die je toch al hebt.

Michiel sluit met wat adviezen:

  • Regel ondersteuning goed in!
  • Test alles goed door!
  • Blijft alert op veiligheidsissues.
  • Denk na over fallback-scenario’s.

De presentatie is hier te downloaden.