Die Einstufung von Bildung KI-Systemen als “hohes Risiko” durch die europäische KI-Verordnung (Verordnung EU 2024/1689) definiert die Entwurfsanforderungen für jede adaptive Lernplattform, automatisierte Bewertung oder algorithmische Orientierung neu. Diese Klassifizierung zwingt die Designer dazu, die Architektur ihrer Werkzeuge grundlegend zu überdenken, weit über eine bloße Ergänzung von Compliance-Funktionen hinaus. Technologisches Design in der Bildung ist nicht mehr nur eine Frage der Benutzererfahrung, sondern eine regulatorische Verpflichtung.
Regulatorische Anforderungen des AI Acts an das Design von Lehrmitteln
Die KI-Systeme, die für die Aufnahme, Orientierung, Bewertung und Nachverfolgung von Schülern verwendet werden, fallen unter das “hohes Risiko”-Regime des AI Acts. Wir beobachten, dass die meisten Anbieter von Edtech-Lösungen diese Realität noch nicht in ihren Produktdesignzyklus integriert haben, während der Großteil der Verpflichtungen im Dezember 2027 für den Bildungssektor gelten wird, nach einer ursprünglich für August 2026 vorgesehenen Verschiebung durch das “Digital Omnibus”-Paket (Verordnung EU 2026/1744).
Die seit Februar 2025 bereits verbotenen Praktiken umfassen die Emotionserkennung im schulischen Kontext, das soziale Scoring von Schülern und manipulative Techniken. Die Integration der Compliance mit diesem Rahmen in die von mitxdesigntech.org veröffentlichten Programme zeigt eine frühe Berücksichtigung dieser Anforderungen in der Bildungsdesignforschung.
Konkrete bedeutet, dass jedes Werkzeug, das einen Lernenden über einen Algorithmus bewertet, einstuft oder orientiert, eine detaillierte technische Dokumentation, ein Risikomanagementsystem und Mechanismen für menschliche Aufsicht vorsehen muss. Für einen Produktdesigner bedeutet dies, dass die Schnittstellen die algorithmischen Entscheidungen explizit machen müssen, anstatt sie unter einer Schicht von Gamification zu verbergen.
KI-Literacy: eine Voraussetzung, die das pädagogische Design verändert
Seit dem 2. Februar 2025 verpflichtet der AI Act Organisationen, die KI-Systeme einsetzen, dazu, ihr Personal in der kritischen Beherrschung von Künstlicher Intelligenz zu schulen. Im Bildungssektor betrifft diese Verpflichtung die Lehrkräfte, das Verwaltungspersonal und, in der Folge, die Lernenden selbst.
Wir empfehlen, diese Anforderung direkt in das Design der Plattformen zu integrieren. Ein LMS, das adaptives Lernen bereitstellt, ohne ein erklärendes Modul über die Funktionsweise seiner Empfehlungen anzubieten, erfüllt nicht die Anforderungen an die Literacy. Das Design muss algorithmische Transparenz als native Komponente einbeziehen, nicht als ergänzende Dokumentation.
Die Implikationen für die Designer sind strukturell:
- Jede algorithmische Empfehlung, die dem Lernenden angezeigt wird, muss von einer zugänglichen Erklärung der verwendeten Kriterien begleitet sein, ohne übermäßigen technischen Jargon
- Die Lehrkräfte müssen über ein lesbares Dashboard verfügen, das die Logik der Bewertung oder Gruppierung darstellt, mit der Möglichkeit zur manuellen Korrektur
- Die internen Schulungsprogramme der Einrichtungen müssen Module über die Funktionsweise der KI-Tools, die sie täglich verwenden, enthalten
Ein gut gestaltetes Werkzeug macht die KI-Literacy natürlich. Ein schlecht gestaltetes Werkzeug macht sie unmöglich, unabhängig vom zugehörigen Ausbildungsprogramm.
Erfahrungsdesign und adaptive Bewertungssysteme
Die adaptive Bewertung konzentriert die Spannungen zwischen pädagogischer Innovation und regulatorischer Compliance. Die Plattformen, die die Schwierigkeit der Übungen in Echtzeit anpassen, verwenden prädiktive Modelle, die laut AI Act als hochriskant gelten, sobald sie den Bildungsweg des Lernenden beeinflussen.
Das UX-Design dieser Systeme muss den Entscheidungsprozess sichtbar machen, ohne das Lernen zu belasten. Wir beobachten zwei dominante Ansätze in den aktuellen Plattformen. Der erste besteht darin, einen algorithmischen Vertrauensindikator neben jeder Bewertung anzuzeigen, der es dem Lehrer ermöglicht, die Empfehlung zu gewichten. Der zweite integriert obligatorische menschliche Validierungspunkte vor jeder Orientierungsentscheidung.
Der zweite Ansatz ist im aktuellen regulatorischen Kontext vorzuziehen. Er gewährleistet die menschliche Aufsicht, die der AI Act verlangt, während er gleichzeitig die Fluidität des Lernwegs bewahrt. Die Falle, die es zu vermeiden gilt: die menschliche Intervention als bloßes Abhaken eines Kästchens zu gestalten. Die Aufsicht muss gut ausgestattet sein, nicht kosmetisch.
Edtech-Finanzierung in Europa und Entwicklungsprioritäten
Der europäische Edtech-Markt durchläuft eine Phase der Umstrukturierung. Die Investitionen konzentrieren sich auf Lösungen, die ihre Konformität mit dem aufkommenden regulatorischen Rahmen nachweisen können, was die Entwicklungsprioritäten in Richtung algorithmische Dokumentation und Auditierbarkeit der Systeme lenkt.
Dieser Trend verändert die Hierarchie der gesuchten Kompetenzen in den Produktteams. Profile, die Expertise im Interaktionsdesign, Verständnis für KI-Architekturen und Kenntnisse des europäischen Digitalrechts kombinieren, werden am meisten nachgefragt. Edtech-Startups, die ausschließlich ML-Ingenieure ohne spezialisierte Compliance-Designer einstellen, gehen ein messbares regulatorisches Risiko ein.
Innovation in der Bildungstechnologie spielt sich jetzt auf der Datenverwaltung ab, nicht nur auf der Raffinesse der Algorithmen. Die Einrichtungen, die ihre digitalen Werkzeuge auswählen, bewerten zunehmend die Qualität der von den Anbietern bereitgestellten Compliance-Dokumentation, ebenso wie die pädagogischen Funktionen.
Was sich für die Designteams ändert
Die Lastenhefte für Edtech integrieren jetzt Anforderungen an die Nachverfolgbarkeit bereits in der Spezifikationsphase. Ein Prototyp, der kein Auditprotokoll für algorithmische Entscheidungen vorsieht, wird bereits vor den Benutzer-Tests ausgeschlossen. Das Design Thinking, das auf die Bildung angewendet wird, muss den Regulierer als vollwertigen Stakeholder im Designprozess einbeziehen.
Der europäische regulatorische Rahmen, trotz der Verschiebung auf Dezember 2027, strukturiert bereits die technischen Entscheidungen und Designabwägungen der Bildungsplattformen. Die Teams, die bis zur Frist warten, um ihre Werkzeuge anzupassen, häufen eine Compliance-Schuld an, die kostspielig abzubauen sein wird. Von Anfang an für Transparenz zu entwerfen, ist günstiger, als sie nachträglich hinzuzufügen.
