–¿Es posible implementar sistemas o herramientas de inteligencia artificial (IA) en nuestros centros garantizando que cumplimos con la ley y no cometemos discriminaciones?
–La integración de sistemas de inteligencia artificial (IA) en el ámbito educativo puede representar una oportunidad para mejorar la calidad de la educación digital, fomentar el pensamiento crítico, personalizar el aprendizaje o realizar análisis predictivos para mejorar los resultados. Sin embargo, cuando interviene en procesos decisorios –como admisiones, evaluación del aprendizaje o supervisión de conductas– exige un análisis riguroso desde el marco legal, constitucional y ético.
- WHATSAPP: Sigue nuestro canal para recibir gratis la mejor información
- Regístrate en el boletín gratuito y recibe un avance de los contenidos
El marco normativo europeo ha establecido una regulación estricta para los sistemas de inteligencia artificial (IA) aplicados al sector educativo. La Ley DOUE 1689/2024 disponible en el ‘Diario Oficial de la Unión Europea’, clasifica expresamente como “de alto riesgo” aquellos sistemas de IA que determinan el acceso o admisión a centros educativos, distribuyen al alumnado entre instituciones o programas, evalúan resultados de aprendizaje o supervisan conductas durante exámenes. Esta calificación se fundamenta en el potencial impacto que estas tecnologías pueden tener en la trayectoria formativa y profesional de las personas.
Junto a ello, nos recuerdan en Europa que, en cooperación con las partes interesadas pertinentes, la Comisión y los Estados miembros deben facilitar la elaboración de códigos de conducta para promover la alfabetización en materia de IA entre las personas que se ocupan del desarrollo, manejo y uso de la IA, entendiendo por ello las habilidades, conocimientos y comprensión para su uso y el aumento de la conciencia sobre oportunidades, riesgos y posibles daños que pueden presentar los sistemas de IA.
En España, la ‘Estrategia Nacional de Inteligencia Artificial 2020-2025’ establece un conjunto de medidas para fomentar el desarrollo de la IA asegurando que se haga de manera responsable y alineada con estas políticas de la Unión Europea.
En relación a la protección de datos, los centros educativos deben tener muy en cuenta el artículo 83 de la Ley Orgánica 3/2018 de Protección de Datos, que señala que el sistema educativo “garantizará la plena inserción del alumnado en la sociedad digital y el aprendizaje de un consumo responsable y un uso crítico y seguro de los medios digitales y respetuoso con la dignidad humana, la justicia social y la sostenibilidad medioambiental, los valores constitucionales, los derechos fundamentales y, particularmente, con el respeto y la garantía de la intimidad personal y familiar y la protección de datos personales”.
Uso ético y seguro
Por otra parte, el papel de La Agencia Española de Supervisión de Inteligencia Artificial (AESIA) es, asimismo, el de garantizar el uso ético y seguro de la IA en España, asegurando que tanto entidades públicas como privadas cumplan con la normativa vigente, protegiendo la privacidad, así como la igualdad de trato y los derechos fundamentales.
Ampliando este marco jurídico, debemos referirnos también al claro mensaje de la UNESCO en su ‘Recomendación sobre Ética de la IA’ (2021), en la que habla de las tecnologías digitales y la IA al servicio del bien común, estableciendo principios éticos fundamentales que garanticen la no discriminación y permitan una supervisión humana significativa.
El análisis de estas fuentes normativas revela un consenso claro: la implementación de sistemas de IA en educación debe equilibrar cuidadosamente la innovación tecnológica con la protección de derechos fundamentales. Los centros educativos que adopten estas tecnologías están obligados a establecer mecanismos de transparencia, auditoría periódica y supervisión humana efectiva, en particular cuando estos sistemas puedan afectar a colectivos vulnerables o determinar el futuro académico del alumnado.
La cifra
El 73% de los profesores y el 69% de los padres han utilizado herramientas de IA en el contexto educativo, según el informe ‘El impacto de la IA en la educación en España’, elaborado por GAD3 para Empantallados
Puede enviar sus preguntas a: [email protected]
Un servicio ofrecido por:
