De classificatie van educatieve AI-systemen in de categorie “hoog risico” door de Europese AI-verordening (verordening EU 2024/1689) herdefinieert de ontwerpeisen voor elk adaptief leerplatform, geautomatiseerde evaluatie of algoritmische begeleiding. Deze classificatie verplicht ontwerpers om de architectuur van hun tools opnieuw te overdenken, veel verder dan een simpele toevoeging van conformiteitsfunctionaliteiten. Technologisch ontwerp in het onderwijs is niet langer alleen een kwestie van gebruikerservaring, het is een wettelijke verplichting.
Regelgevende vereisten van de AI Act voor het ontwerp van onderwijstools
De AI-systemen die worden gebruikt voor toelating, begeleiding, evaluatie en monitoring van leerlingen vallen onder het “hoog risico” regime van de AI Act. We zien dat de meeste uitgevers van edtech-oplossingen deze realiteit nog niet hebben geïntegreerd in hun productontwerpproces, terwijl de meeste verplichtingen van toepassing zullen zijn in december 2027 voor de onderwijssector, na een uitstel dat aanvankelijk was voorzien voor augustus 2026 via het “Digital Omnibus” pakket (verordening EU 2026/1744).
De praktijken die al verboden zijn sinds februari 2025 omvatten de herkenning van emoties in een schoolcontext, sociale scoring toegepast op leerlingen en manipulatieve technieken. De integratie van de naleving van dit kader in de programma’s uitgegeven door mitxdesigntech.org getuigt van een vroege afweging van deze vereisten in het onderzoek naar educatief ontwerp.
Concreet moet elk hulpmiddel dat een leerling beoordeelt, classificeert of begeleidt via een algoritme voorzien in gedetailleerde technische documentatie, een risicobeheersysteem en mechanismen voor menselijke supervisie. Voor een productontwerper betekent dit dat de interfaces de algoritmische beslissingen expliciet moeten maken, en deze niet mogen verbergen onder een laag van gamificatie.
AI-geletterdheid: een vereiste die het pedagogisch ontwerp verandert
Sinds 2 februari 2025 verplicht de AI Act organisaties die AI-systemen implementeren om hun personeel op te leiden in de kritische beheersing van kunstmatige intelligentie. In de onderwijssector raakt deze verplichting de docenten, het administratief personeel en, bij uitbreiding, de leerlingen zelf.
We raden aan om deze vereiste direct in het ontwerp van de platforms te integreren. Een LMS dat adaptief leren aanbiedt zonder een verklarende module over de werking van zijn aanbevelingen, voldoet niet aan de vereiste van geletterdheid. Het ontwerp moet algorithmische transparantie als een native component omvatten, niet als aanvullende documentatie.
De implicaties voor ontwerpers zijn structureel:
- Elke algorithmische aanbeveling die aan de leerling wordt gepresenteerd, moet vergezeld gaan van een toegankelijke uitleg over de gebruikte criteria, zonder overmatige technische jargon
- Docenten moeten beschikken over een leesbaar dashboard dat de logica van scoring of groepering blootlegt, met de mogelijkheid voor handmatige correctie
- De interne opleidingsprogramma’s van de instellingen moeten modules bevatten over de werking van de AI-tools die zij dagelijks gebruiken
Een goed ontworpen tool maakt AI-geletterdheid natuurlijk. Een slecht ontworpen tool maakt het onmogelijk, ongeacht het bijbehorende opleidingsprogramma.
Ervaringsontwerp en systemen voor adaptieve evaluatie
Adaptieve evaluatie concentreert de spanningen tussen pedagogische innovatie en wettelijke naleving. De platforms die de moeilijkheidsgraad van oefeningen in realtime aanpassen, gebruiken voorspellende modellen die, volgens de AI Act, als hoog risico worden beschouwd zodra ze het schooltraject van de leerling beïnvloeden.
Het UX-ontwerp van deze systemen moet het besluitvormingsproces zichtbaar maken zonder de leerervaring te verzwaren. We zien twee dominante benaderingen in recente platforms. De eerste is om een indicator van algoritmisch vertrouwen naast elke evaluatie weer te geven, zodat de docent de aanbeveling kan wegen. De tweede integreert verplichte menselijke validatiepunten voordat een begeleidingsbeslissing wordt genomen.
De tweede benadering is te verkiezen in de huidige regelgevende context. Het garandeert de menselijke supervisie die door de AI Act wordt vereist, terwijl het de soepelheid van het leertraject behoudt. De valkuil om te vermijden: het ontwerpen van menselijke interventie als een simpel vinkje. De supervisie moet goed uitgerust zijn, niet cosmetisch.
Financiering edtech in Europa en ontwikkelingsprioriteiten
De Europese edtech-markt ondergaat een fase van herschikking. De investeringen concentreren zich op oplossingen die hun naleving van het opkomende regelgevingskader kunnen aantonen, wat de ontwikkelingsprioriteiten richt op algorithmische documentatie en de controleerbaarheid van systemen.
Deze trend verandert de hiërarchie van de gevraagde vaardigheden binnen productteams. Profielen die expertise in interactieontwerp, begrip van AI-architecturen en kennis van het Europese digitale recht combineren, worden het meest gevraagd. Edtech-startups die uitsluitend ML-ingenieurs aannemen zonder gespecialiseerde ontwerpers in naleving lopen een meetbaar regelgevingsrisico.
Innovatie in educatieve technologie draait nu om gegevensbeheer, niet alleen om de verfijning van algoritmen. De instellingen die hun digitale tools selecteren, evalueren steeds meer de kwaliteit van de nalevingsdocumentatie die door de uitgever wordt verstrekt, net zozeer als de pedagogische functionaliteiten.
Wat dit verandert voor ontwerpteams
De specificaties voor edtech bevatten nu vereisten voor traceerbaarheid vanaf de specificatiefase. Een prototype dat geen auditlogboek van de algoritmische beslissingen voorziet, zal al vóór de gebruikerstests worden afgewezen. Design thinking toegepast op onderwijs moet de regelgever als volwaardige belanghebbende in het ontwerpproces integreren.
Het Europese regelgevende kader, ondanks de uitstel tot december 2027, structureert al de technische keuzes en ontwerpbepalingen van educatieve platforms. Teams die wachten op de deadline om hun tools aan te passen, accumuleren een nalevingsschuld die kostbaar zal zijn om in te lossen. Ontwerpen voor transparantie vanaf het begin is goedkoper dan het achteraf toevoegen.
