Los padres y estudiantes están preocupados por el creciente uso de tecnologías de inteligencia artificial en el aula, según una encuesta del Centro para la Democracia y la Tecnología.
Los expertos en privacidad advierten que las tecnologías tienen como objetivo “manipular y controlar el comportamiento infundiendo miedo” en los niños.
El informe CDT, publicado el 12 de diciembre, encontró que más de la mitad de los padres y estudiantes encuestados estaban preocupados por el uso del reconocimiento facial y otras tecnologías de inteligencia artificial , incluidos los sistemas de seguimiento de ubicación, en las escuelas.
Los docentes, que también fueron encuestados, mostraron un mayor grado de aceptación de las tecnologías.
Según el informe, un número creciente de escuelas han implementado este tipo de herramientas.
Los defensores de la privacidad argumentan que las tecnologías representan un riesgo para la privacidad y los datos personales de los estudiantes.
‘Profunda desconexión entre escuelas, padres y estudiantes’
Según CDT, “se están utilizando herramientas de seguridad experimentales y potencialmente dañinas independientemente de las preocupaciones de los estudiantes y los padres”, incluidas tecnologías que “anteriormente pensábamos que eran ‘demasiado extravagantes’”.
Estos incluyen análisis predictivos , supervisión remota , reconocimiento facial , intercambio de datos policiales , sistemas de detección de armas y seguimiento de la ubicación de los estudiantes .
Impulsadas por la IA, estas tecnologías presentan una tendencia “alarmante” que las escuelas continúan implementando. de tales tecnologías a pesar de los “altos niveles de preocupación” de padres y estudiantes.
Estos “altos niveles de preocupación” fueron evidentes en los resultados de la encuesta que mostraron:
- El 58% de los padres y el 55% de los estudiantes (y el 33% de los profesores) estaban preocupados por el uso de cámaras de reconocimiento facial para comprobar a quién se le debe permitir entrar en un edificio escolar o quién está autorizado a estar allí.
- El 71% de los padres y el 74% de los estudiantes (y el 36% de los profesores) expresaron su preocupación por el uso de este tipo de tecnologías para rastrear la ubicación física de los estudiantes.
- El 60% de los padres y el 58% de los estudiantes (y el 31% de los profesores) estaban preocupados por el uso de cámaras de IA «para notar movimientos físicos inusuales o irregulares».
- Al 69% de los estudiantes y padres (y al 36% de los maestros) les preocupaba que los datos de los estudiantes se estuvieran analizando para predecir qué estudiantes individuales tendrían más probabilidades de cometer un delito, un acto violento o un acto de autolesión.
- El 66% de los padres y el 65% de los estudiantes (y el 38% de los maestros) expresaron su preocupación por la posibilidad de que la información académica de los estudiantes, como sus calificaciones y registros de asistencia, pueda compartirse con las autoridades.
- El 68% de los padres y el 71% de los estudiantes (y el 37% de los profesores) estaban preocupados por el uso de dichas tecnologías para monitorear las cuentas de redes sociales de los estudiantes.
Estos resultados muestran “una profunda desconexión entre las escuelas, los padres y los estudiantes en sus prioridades cuando se trata de decisiones de adquisición de tecnología educativa [datos y tecnología educativos]”, escribió CDT.
Escuelas que utilizan fondos de recuperación de COVID para comprar tecnologías de vigilancia
La encuesta se basa en un informe CDT sobre herramientas de tecnología educativa que realizan filtrado y bloqueo de contenidos, seguimiento de la actividad de los estudiantes o que utilizan IA generativa.
Según ese informe, la pandemia de COVID-19 ayudó a acelerar la adopción de este tipo de tecnologías en los entornos escolares, una implementación que CDT considera críticamente.
“El uso de software de seguimiento de la actividad de los estudiantes se expandió rápidamente durante el aprendizaje remoto y ha mantenido una presencia significativa en la vida de los estudiantes. Desafortunadamente, continúa perjudicando a los estudiantes a los que pretende ayudar”, dice el informe.
Según el informe, esos daños van desde acciones disciplinarias hasta sacar a los estudiantes a la calle sin su consentimiento e iniciar contacto con las autoridades.
El informe también incluyó datos que indican que el 88% de los maestros informaron que sus escuelas usan software de monitoreo de la actividad estudiantil, el 40% de los maestros reportaron que sus escuelas monitorean los dispositivos personales de los estudiantes y el 38% de los maestros reportaron que su escuela monitorea a los estudiantes fuera del horario escolar.
Las escuelas han estado utilizando los fondos de recuperación de COVID para comprar equipos y hardware de seguridad. Las empresas de tecnología han «amplificado» la comercialización de estos productos en los distritos escolares en los últimos años.
En un ejemplo del Reino Unido, Sky News informó en octubre de 2021 que 27 escuelas habían comenzado a utilizar un sistema de reconocimiento facial para servir el almuerzo a los estudiantes y 15 más estaban listas para implementar la tecnología, una medida supuestamente destinada a reducir el riesgo de transmisión del COVID-19.
Sky News informó que los padres «advirtieron que esto normalizaba la exposición de los niños a la vigilancia biométrica y se quejaron de que no estaban seguros de que los estudiantes estuvieran adecuadamente informados sobre el riesgo a la privacidad».
Tales quejas llevaron a la Oficina del Comisionado de Información , el organismo de control de datos del Reino Unido, a investigar. El Consejo de North Ayrshire de Escocia detuvo el lanzamiento de la tecnología, mientras que la Cámara de los Lores británica debatió la cuestión en noviembre de 2021.
Greg Glaser , un litigante con sede en California para las iniciativas de privacidad dijo que “Durante la era Covidiana de máscarillas y encierros, los padres presenciaron una normalización forzada de las aulas de Zoom, pero Zoom no fue la única tecnología que se normalizó entre los jóvenes. .”
Glaser añadió: “Esto no es sorprendente para las escuelas públicas. La burocracia no está organizada para remediar los problemas de raíz de la sociedad, sino para tratar los síntomas. Nada mejorará realmente en las escuelas públicas hasta que la sociedad decida aprender la lección más profunda: por qué los niños fracasan en un sistema diseñado para fracasar. ¿Por qué el sistema fue diseñado para dañar a los niños?
Preocupaciones por los ‘efectos escalofriantes’ de las tecnologías de reconocimiento facial en las escuelas
Según CDT , las tecnologías utilizadas “en nombre de la seguridad de los estudiantes” plantean capacidades por las que los líderes educativos y los formuladores de políticas deberían preocuparse. Estos incluyen una falta de eficacia y precisión, como limitaciones técnicas, “falsos positivos” que podrían dar lugar a “medidas disciplinarias sin fundamento” dirigidas a los estudiantes y dificultades para auditar dichos sistemas.
Otro conjunto de preocupaciones, dijo CDT, son los “efectos paralizadores”. Según CDT, “Tener varias herramientas de tecnología de seguridad invasiva como parte habitual del entorno de aprendizaje de un estudiante puede hacer que los estudiantes se sientan menos seguros en el aula. “Un seguimiento y vigilancia excesivos pueden paralizar el discurso, las asociaciones, el movimiento y el acceso a recursos vitales”, dijo CDT.
Estas preocupaciones se reflejaron en un artículo de 2020 publicado en Learning, Media and Technology por Mark Andrejevic, Ph.D. y Neil Selwyn, Ph.D. de la Universidad de Monash en Australia, según la cual dicha tecnología puede alterar “la naturaleza de las escuelas y la escolarización siguiendo líneas divisorias, autoritarias y opresivas”. “El desafío clave que enfrentan ahora los educadores es si existe o no una perspectiva futura realista de remodelar de alguna manera estas tecnologías para propósitos más beneficiosos y/o benignos. Alternativamente, ¿es esta una forma de tecnología digital que no debería aplicarse ‘educativamente’ de ninguna forma? escribieron los autores.
«El reconocimiento facial en las escuelas consiste en manipular el comportamiento y normaliza la vigilancia total desde una edad temprana». “En el aula, el reconocimiento facial les enseña a los niños que no tienen privacidad y que cualquier cosa que digan o hagan puede usarse y será usado en su contra. ¡Esto hace que sea más fácil para los gobiernos y las corporaciones controlar a las generaciones futuras porque se les está educando con la noción de que la privacidad no existe y que es mejor que hagan lo que les dicen o si no!
«A escala macro, una población que sabe que está siendo vigilada cambiará su comportamiento para ajustarse a las normas, y sus ciudadanos se controlarán a sí mismos«, dijo Hinchliffe.
Irene Knapp, directora de tecnología de Internet Safety Labs, una organización sin fines de lucro , dijo a Education Week que las escuelas deben considerar cuidadosamente si desean asumir la responsabilidad de manejar y proteger los datos biométricos de los estudiantes . Knapp dijo que es difícil saber si los datos recopilados por dichas tecnologías se comparten con terceros.
Según Education Week, «también existe el riesgo real de que la misión se desvíe», ya que resulta «tentador» para las escuelas utilizar tecnología de vigilancia como el reconocimiento facial en formas para las que no estaba prevista originalmente, «como rastrear y multar a los padres que llegan tarde». recoger a sus hijos de la escuela”.