Implicaciones en el ámbito educativo
En la primera parte de este artículo hablamos de la necesidad de que el sector sindical de América Latina se comprometa con la defensa de los derechos humanos en la era digital, así como de algunos de los conceptos básicos para entender el rol que puede jugar en la demanda de políticas de autoría, regulación y transparencia del uso de la Inteligencia Artificial (IA).
Sin embargo, más allá de las políticas públicas más generales, desde los sindicatos de educación se debe tener claridad de las principales implicaciones que estos desarrollos tecnológicos tienen en los sistemas de educación.
Entre las principales preocupaciones están los vacíos en gestión y regulación, así como los riesgos de sesgos, control, vigilancia, desigualdad en el acceso y el desarrollo centrado en la corporación.
En mayo de 2019, se organizó la Conferencia internacional sobre la Inteligencia Artificial de la UNESCO bajo el lema “Planificar la educación en la era de la IA: un paso más hacia adelante” y se aprobó el llamado Consenso de Beijing sobre la inteligencia artificial y la educación.
Según este, algunos sectores del gobierno educativo, consideran que la tecnología de la IA puede hacer la vida del personal docente más sencilla y “revolucionar las aulas de clase” y que vienen tiempos en que se debe avanzar en la “alfabetización en Inteligencia Artificial” (UNESCO, 2019).
La UNESCO también ha señalado que con la IA se esperan cambios en el mercado de trabajo, por lo que se deben responder con cambios en el diseño curricular y en las prácticas docentes.
En general, la tecnología no es un problema si está regulada y si esta regulación responde a debates amplios, inclusivos y con claras nociones de derechos humanos y de política pública. No obstante, como se ha dicho previamente, hay un vacío en política pública sobre IA y en normativa y regulación.
El otro sesgo tiene que ver con el acceso a la IA, las posibilidades de compra, consumo y uso de bienes y experiencias de IA. Para el sector educativo, este tipo de sesgos puede darse en el proceso mismo de planificación y diseño de tecnología para el acompañamiento de ejercicios en las clases y el desarrollo curricular.
La tecnología educativa para la primera infancia, por ejemplo, ofrece programas interactivos. Las niñas y los niños deben ir seleccionando opciones en una pantalla, que les va permitiendo avanzar en el desarrollo del contenido.
A partir de los datos obtenidos en esta interacción, un programa de cómputo puede recoger la información de cuáles son los temas que las niñas y los niños logran resolver y cuáles requieren más tiempo o no obtienen buenas respuestas, y a partir de esto re-diseñar el currículum y los contenidos. Dicho de otra manera, los programas de computadoras pueden definir eliminar ciertos contenidos del currículo, como una decisión “intuitiva” de la IA.
En esta misma línea, es clave proteger los puestos de trabajo del sector educativo y resguardar el derecho al diálogo social. Los sindicatos de Educación de la Internacional de la Educación para América Latina (IEAL), han defendido la importancia de avanzar en el diseño de tecnologías educativas de producción nacional o regional, con la participación de docentes, universidades públicas, ministerios de educación, de ciencia y de tecnología, entre otros.
En el caso de la tecnología educativa, debe haber claridad sobre cómo se está recogiendo, almacenando y distribuyendo información y, principalmente, claridad en el manejo de la data sensible. Una política de seguridad y privacidad en la tecnología educativa debe contar con estructuras de información para la protección de datos e informar a las personas estudiantes, docentes y sus familias.
Desafíos generales en la protección de derechos humanos en la era digital
El avance de tecnología como esta es especialmente importante para el sector de la educación. Algunos de los elementos que deben tomarse en cuenta para resguardar los derechos humanos y derechos laborales en la era digital, pueden incluir:
-
Exigir el avance en política pública que garantice la transparencia algorítmica, es decir, que se muestre la forma en que se enseña a las máquinas a procesar información y especialmente, a favorecer algunos datos y discriminar otros en el momento de tomar decisiones.
-
Exigir regulación a las grandes firmas tecnológicas internacionales que desarrollan esta tecnología, pues aunque son inversiones privadas, los resultados de esta tecnología tienen grandes implicaciones en la vida pública.
-
Exigir que las bases de datos globales que alimentan los sistemas de Inteligencia Artificial agreguen y visibilicen poblaciones hasta ahora sub representadas como mujeres, indígenas, poblaciones campesinas, poblaciones negras, etc.
-
Promover mecanismos y presupuestos para auditar y mejorar el uso de la ciencia de datos, y todos los desarrollos digitales para minimizar la reproducción de sesgos culturales, de género, de clase, etc.
-
Exigir mecanismos y presupuestos para la auditoría permanente del uso de la sobre la forma en que se programan los algoritmos.
-
Exigir espacios de participación para el movimiento sindical y los movimientos sociales en los espacios de discusión sobre AI.
-
Promover la organización sindical de los sectores de personas trabajadoras de la industria de inteligencia artificial, que es un sector altamente informal, joven y deslocalizado.
-
Exigir y defender la participación de universidades públicas en el desarrollo de tecnologías de AI con carácter público.
-
Avanzar en la tipificación de formas de violencia política digital y violencia digital de género, de manera que se puedan llevar adelante acciones para la prevención, la denuncia y la penalización de este tipo de violencias.
-
Promover el fortalecimiento de legislaciones para la protección de los datos, el derecho a la privacidad y la prevención de la vigilancia digital con fines de control de las personas.
-
Exigir herramientas digitales para la traducción a lenguas indígenas.
Para la protección del derecho a la educación pública en la era digital
Por otro lado, nuestras iniciativas por la defensa del derecho a la educación pública deben actualizarse y tomar en cuenta aspectos como:
-
Defender el derecho a la educación pública como un proceso de encuentro y de construcción de saberes en el que la tecnología es un complemento y una herramienta al servicio de la comunidad educativa.
-
Establecer procesos de diálogo y reflexión sobre IA en los ámbitos de toma de decisión en educación pública en todos los niveles.
-
Garantizar la participación de docentes y sindicatos en los procesos de elaboración de marcos regulatorios de la AI en política educativa.
-
Avanzar en la elaboración de propuestas sobre estrategias y prácticas para la auditoría de los usos de IA en Educación y en la disminución permanente de sesgos en IA.
-
Promover procesos de rendición de cuentas de transparencia algorítmica por parte de las empresas tecnológicas que producen tecnologías educativas usando inteligencia artificial generativa.
-
Avanzar en la regulación sobre el uso de la IA en el diseño curricular.
-
Avanzar en el establecimiento de un marco regulatorio de formas de colaboración institucional pública en procesos de investigación y desarrollo de IA para el sector educativo.
-
Resguardar la participación pública, principalmente de universidades, en los procesos de investigación y desarrollo de tecnología.
-
Avanzar en criterios de regulación de política educativa con respecto a la forma en que se va a utilizar la IA para diseñar contenido educativo y la forma en que IA se va integrar a los proceso de aula.
-
Avanzar en la regulación de la participación de corporaciones privadas en proyectos pilotos con estudiantes y centros educativos públicos.
-
Avanzar en la definición sobre el uso de la IA en los procesos de contratación docente.
-
Se requieren criterios de políticas públicas en IA en lo que se refiere a regulación de la tecnología, regulación del mercado de trabajo y regulación del alcance de la interacción de la experiencia humana con AI.
-
Resguardar las condiciones de trabajo docente en la era de la AI.
-
Garantizar programas de formación brindados por el Estado para que el personal educativo pueda trabajar de manera efectiva con la IA.
-
Definir cómo se van a evaluar los aprendizajes en IA y cómo se va a evitar la generación de perfiles de comportamientos que estigmaticen escuelas, docentes y comunidades educativas.
-
Garantizar el acceso a información pública y gratuita para que la juventud de América Latina tenga participación en el mercado de trabajo en IA, garantizando espacios para mujeres jóvenes, juventudes rurales, negras e indígenas.
-
Liderar el debate actualizado sobre la ética en IA y en el internet de las cosas.
-
Promover la creación de programas universitarios que preparen personas profesionales que manejen la IA.
-
Promover políticas de visibilización y educación sobre los riesgos de manejo y almacenamiento de datos.
Para la gestión de datos personales en educación
La organización de defensa de los derechos humanos en la era digital “ Digital Defenders Partnership” (DDP) establece algunos pasos mínimos requeridos para una gestión responsable de los datos de las personas. Esto mismo se puede aplicar para trabajadoras y trabajadores de la educación, así para las personas estudiantes y sus familias:
-
Comunicar a la persona usuaria qué tipo de datos se están generando cuando utiliza una plataforma o navega la web, etc.
-
Informar cómo se recogen esos datos.
-
Informar cómo se guardan o almacenan esos datos (storage).
-
Informar qué mantenimiento se brinda a las herramientas de almacenamiento.
-
Informar si los datos se destruyen o se eliminan del almacenamiento.
-
Informar sobre la infraestructura de acceso: quiénes tienen acceso a ver los datos almacenados.
Fuentes
Fox, Christie (2017), The ethical dilemma we face on AI and Autonomous tech. TED MID Atlantic https://www.youtube.com/watch?v=3oE88_6jAwc&t=553s
González, Luz Elena et al (2023) https://www.policylab.tech/_files/ugd/0e03be_ae485a754e814676ab4b4228ea4157b8.pdf
O´Neill, Cathy (2017) Weapons of Math Destruction. How big data increases inequality and threatens democracy.
UNESCO (2019) Beijing Consensus on artificial intelligence and education https://unesdoc.unesco.org/ark:/48223/pf0000368303
Face Recognition & AI Based Smart Attendance Monitoring System (2022) https://pythonawesome.com/face-recognition-ai-based-smart-attendance-monitoring-system/