Dat Smartschool artificiële intelligentie gebruikt, is niet de intrede van big brother in het onderwijs

Smartschool, het alomtegenwoordige onlineplatform voor schoolgaande kinderen en hun ouders, lanceert een functie met artificiële intelligentie (AI) om leerachterstand te detecteren. Wie vreest voor big-brothertoestanden in het Vlaamse onderwijs, heeft het mis.

Het onlineschoolplatform Smartschool, een onderdeel van het IT-bedrijf Cegeka, onthulde deze week een AI-model om leerachterstand en schooluitval bij leerlingen vroegtijdig te detecteren. Volgens sceptici is het een zoveelste voorbeeld van hoe de gehypete technologie nog meer grip krijgt op de samenleving en de mensen, in dit geval schoolgaande kinderen. Het verhaal achter de ontwikkeling van de nieuwe Smartschool-functie neemt de scepsis weg.

“We zijn twee jaar geleden gestart met het project. Toen was er nog geen AI-hype of ChatGPT. De privacyschandalen rond Cambridge Analytica zinderden wel nog na. We hebben dit plan dus tegen een heel andere achtergrond aangevat”, zegt Jan Schuer, de CEO van Smartschool. “Daarom zagen we er heel streng op toe dat er een voldoende groot maatschappelijk draagvlak was voor wat we wilden ontwikkelen en dat we duidelijke ethische richtlijnen volgden.”

Uitgebreid advies

Smartschool betrok daarom bij de ontwikkeling van de AI-functie een brede groep van belanghebbenden, zoals scholen, leerkrachten, leerlingen en ouders. Het ethische kader kwam er met behulp van een onafhankelijke adviesraad met vertegenwoordigers uit het onderwijsveld, pedagogen, juristen, ethici en onderzoekers. “Smartschool was daarmee heel vooruitziend. Dat is bij sommige grote technologiebedrijven wel anders”, zegt Jo Pierson, professor verantwoorde digitalisering van de School voor Sociale Wetenschappen aan de Universiteit Hasselt en de VUB, en de voorzitter van de adviesraad.

Die publiceerde twee jaar geleden een uitgebreid advies over het project, met een aantal hoofdpunten. “Dat ging over de waarden waar het project aan tegemoet moet komen, wie er allemaal bij betrokken moet worden, welke positieve en negatieve kanten het kan hebben, en hoe je de positieve effecten kunt stimuleren en de negatieve kunt opvangen”, vertelt Pierson. “Dat advies en de inhoud van dit project staan al twee jaar op onze website, maar nu we een volgende testfase ingaan, lijkt de pers wakker geschud”, zegt Schuer.

Hij legt de algemene opzet uit. “We hebben een AI-model ontwikkeld en getraind met data uit Smartschool om signalen van mogelijke leerachterstand zo snel mogelijk op te vangen en daar de school van op de hoogte te brengen.” De komende maanden wordt het AI-model verder getest en getraind in een tiental scholen.
Het is aan elke school om te beslissen of en hoe ze de functie gebruikt. “We willen de school of de leerkrachten niet vervangen. Ze krijgen er met de functie, die gratis zal zijn, een assistent bij om problemen nog vroeger op te merken”, zegt Schuer. “In sommige scholen met weinig verloop onder de leerkrachten en weinig leerlingen zal dat misschien niet nodig zijn. Zij zullen problemen tijdig opmerken en onder controle hebben. Maar er zijn ook scholen waar de informatie zo verspreid zit over verschillende leerkrachten die elk een paar honderd leerlingen hebben en daarmee niet alles zien. Dan kunnen de gecentraliseerde data in Smartschool helpen bepaalde alarmbellen vroeger te laten afgaan. Soms zal dat vals alarm zijn, maar sommige leerlingen glippen door de mazen van het net. Dat hopen we hiermee te voorkomen.”

Geen big brother

Het algoritme achter de AI kijkt naar drie zaken: het aanmeldgedrag op Smartschool, de punten van een leerling en de afwezigheden op school. “Stel dat een leerling voor alle vakken plots veel slechtere resultaten haalt en zij of hij logt minder in op het platform, dan kan Smartschool dat signaleren aan de school. Het model gebruikt enkel data die al op het platform aanwezig zijn, het voegt er geen nieuwe toe. Let wel, het AI-model schrijft niets voor, het signaleert enkel en zal uitvoerig uitleggen welk signaal het opvangt en wat dat kan betekenen”, zegt Jan Schuer. “Die mate van transparantie en die zogenoemde explainable AI is zeker aan te moedigen”, zegt Pierson nog.

Het staat de scholen vrij te kiezen hoe ze de functie gebruiken en invullen. “De scholen in onze stakeholdergroep hebben een uitgebreide handleiding gemaakt. Alle mogelijkheden om de functie in te zetten, zijn uitgebreid onderzocht. De scholen kunnen bijvoorbeeld kiezen bij wie de alarmsignalen terechtkomen. Dat zal niet bij de ouders of de leerlingen zijn”, zegt Schuer.

Het is dus niet de intrede van big brother in het onderwijs. Daar waren de adviesraad en de stakeholdergroep niet voor te vinden. “Die hebben heel duidelijk de contouren gezet waarbinnen we het AI-model konden ontwikkelen. Technologisch zou het bijvoorbeeld perfect mogelijk zijn een sentimentsanalyse te maken van de berichten die leerlingen naar elkaar sturen, om een nog beter zicht te krijgen op hun gemoedstoestand, maar daar was absoluut geen draagvlak voor. Het is niet omdat iets kunt doen, dat je het moet doen.”

Verantwoorde digitalisering

Verder volgt het AI-model de meest strikte richtlijnen over privacy en technologische ontwikkelingen. “Het model is getraind met geanonimiseerde data en het is ook ontwikkeld in lijn met wat achteraf de Europese AI Act is geworden”, zegt Schuer.

Volgens Pierson is het een mooi voorbeeld van verantwoorde digitalisering. “Er is vaak morele paniek over zulke technologische ontwikkelingen, maar we kunnen die niet tegenhouden. Ze zullen veel voordelen opleveren, maar we kunnen er als samenleving wel op toezien dat ze op een verantwoorde manier gebeuren, volgens de regels, en dat ze rekening houden met alle betrokkenen. Het debat focust te vaak op de technologie zelf en te weinig op hoe we die gebruiken”, legt hij uit. “Het is ook een voorbeeld van hoe je zulke technologie op een gedragen manier kunt ontwikkelen in andere contexten, zoals die tussen werknemers en werkgevers.”