La clasificación de los sistemas de IA educativos en la categoría de “alto riesgo” por el reglamento europeo sobre la IA (reglamento UE 2024/1689) redefine las restricciones de diseño para cualquier plataforma de aprendizaje adaptativo, evaluación automatizada u orientación algorítmica. Esta clasificación obliga a los diseñadores a repensar la arquitectura misma de sus herramientas, mucho más allá de un simple añadido de funcionalidades de cumplimiento. El diseño tecnológico en educación ya no es solo una cuestión de experiencia del usuario, es una obligación regulatoria.
Restricciones regulatorias de la AI Act sobre el diseño de herramientas pedagógicas
Los sistemas de IA utilizados para la admisión, orientación, evaluación y seguimiento de los estudiantes están sujetos al régimen de “alto riesgo” de la AI Act. Observamos que la mayoría de los editores de soluciones edtech aún no han integrado esta realidad en su ciclo de diseño de producto, mientras que la mayor parte de las obligaciones se aplicará en diciembre de 2027 para el sector educativo, tras un aplazamiento inicialmente previsto para agosto de 2026 a través del paquete “Digital Omnibus” (reglamento UE 2026/1744).
Las prácticas que ya están prohibidas desde febrero de 2025 incluyen el reconocimiento de emociones en el contexto escolar, el scoring social aplicado a los estudiantes y las técnicas manipulativas. La integración de la conformidad a este marco en los programas editados por mitxdesigntech.org demuestra una consideración temprana de estos requisitos en la investigación en diseño educativo.
Concretamente, cualquier herramienta que califique, clasifique u orienta a un aprendiz a través de un algoritmo debe prever una documentación técnica detallada, un sistema de gestión de riesgos y mecanismos de supervisión humana. Para un diseñador de producto, esto significa que las interfaces deben hacer explícitas las decisiones algorítmicas, no ocultarlas bajo una capa de gamificación.
Literacidad en IA: un requisito que modifica el diseño pedagógico
Desde el 2 de febrero de 2025, la AI Act impone a las organizaciones que despliegan sistemas de IA formar a su personal en el dominio crítico de la inteligencia artificial. En el sector educativo, esta obligación afecta a los docentes, al personal administrativo y, por extensión, a los propios aprendices.
Recomendamos integrar esta restricción directamente en el diseño de las plataformas. Un LMS que despliega aprendizaje adaptativo sin proporcionar un módulo explicativo sobre el funcionamiento de sus recomendaciones no cumple con la obligación de literacidad. El diseño debe incorporar la transparencia algorítmica como componente nativa, no como documentación adicional.
Las implicaciones para los diseñadores son estructurantes:
- Cada recomendación algorítmica mostrada al aprendiz debe ir acompañada de una explicación accesible sobre los criterios utilizados, sin jerga técnica excesiva
- Los docentes deben disponer de un panel de control legible que exponga la lógica de scoring o agrupamiento, con posibilidad de corrección manual
- Los recorridos de formación internos a los establecimientos deben incluir módulos sobre el funcionamiento de las herramientas de IA que utilizan a diario
Una herramienta bien diseñada hace que la literacidad en IA sea natural. Una herramienta mal diseñada la hace imposible, independientemente del programa de formación asociado.
Diseño de experiencia y sistemas de evaluación adaptativa
La evaluación adaptativa concentra las tensiones entre innovación pedagógica y cumplimiento regulatorio. Las plataformas que ajustan la dificultad de los ejercicios en tiempo real utilizan modelos predictivos que, según la AI Act, están sujetos a alto riesgo en la medida en que influyen en el recorrido escolar del aprendiz.
El diseño UX de estos sistemas debe hacer visible el proceso de toma de decisiones sin sobrecargar la experiencia de aprendizaje. Observamos dos enfoques dominantes en las plataformas recientes. El primero consiste en mostrar un indicador de confianza algorítmica junto a cada evaluación, permitiendo al docente ponderar la recomendación. El segundo integra puntos de validación humana obligatorios antes de cualquier decisión de orientación.
El segundo enfoque es preferible en el contexto regulatorio actual. Garantiza la supervisión humana exigida por la AI Act mientras preserva la fluidez del recorrido del aprendiz. La trampa a evitar: concebir la intervención humana como una simple casilla para marcar. La supervisión debe estar dotada de herramientas, no ser cosmética.
Financiación edtech en Europa y prioridades de desarrollo
El mercado europeo de edtech atraviesa una fase de recomposición. Las inversiones se concentran en soluciones capaces de demostrar su conformidad con el marco regulatorio emergente, lo que orienta las prioridades de desarrollo hacia la documentación algorítmica y la auditabilidad de los sistemas.
Esta tendencia modifica la jerarquía de competencias buscadas en los equipos de producto. Los perfiles que combinan experiencia en diseño de interacción, comprensión de arquitecturas de IA y conocimiento del derecho europeo digital se vuelven los más demandados. Las startups edtech que reclutan únicamente ingenieros de ML sin diseñadores especializados en cumplimiento asumen un riesgo regulatorio medible.
La innovación en tecnología educativa se juega ahora en la gobernanza de los datos, no solo en la sofisticación de los algoritmos. Las instituciones que seleccionan sus herramientas digitales evalúan cada vez más la calidad de la documentación de cumplimiento proporcionada por el editor, al igual que las funcionalidades pedagógicas.
Lo que esto cambia para los equipos de diseño
Los pliegos de condiciones edtech ahora integran requisitos de trazabilidad desde la fase de especificación. Un prototipo que no prevea un registro de auditoría de las decisiones algorítmicas será descartado incluso antes de las pruebas de usuario. El design thinking aplicado a la educación debe integrar al regulador como parte interesada a pleno derecho del proceso de diseño.
El marco regulatorio europeo, a pesar del aplazamiento a diciembre de 2027, ya estructura las elecciones técnicas y los arbitrajes de diseño de las plataformas educativas. Los equipos que esperan la fecha límite para adaptar sus herramientas acumulan una deuda de cumplimiento que será costosa de saldar. Diseñar para la transparencia desde el principio cuesta menos que añadirla después.
