Une nouvelle loi obligeant les écoles en Floride de collecter des données étudiantes fait beaucoup jaser. La parution d’un rapport du Aspen Institute remet en question les mesures mises en place par le gouvernement de l’état pour prédire une nouvelle tuerie de masse, comme celle qui s’est produite à l’école Marjory Stoneman Douglas High School en 2018. C’est à l’aide de l’analyse de données extraites de différents systèmes tels que les enregistrements de caméras de surveillance et l’historique disciplinaire des élèves ainsi que les résultats scolaires et les dossiers étudiants annotés par les enseignants que les responsables tentent de minimiser les probabilités qu’une autre tragédie du même type se produise.
La chercheure Ora Tanner doute fortement que cette collecte puisse être efficace, compte tenu du manque de transparence relatif au design de l’algorithme utilisé pour analyser les données ainsi que les biais associés aux données collectées:
She told CNBC she will work on further research on how the law is applied. “There’s a massive amount of data going into this database, but they still haven’t been transparent about what algorithm they are using. Using administrative data to predict future behavior, it’s not evidence-based.”
Tanner also said researchers are concerned that the records will disproportionately affect students with disabilities and African American males, two groups that have traditionally received disproportionately higher disciplinary actions than other students. There’s also no evidence, she said, that students who have discipline problems in school go on to become school shooters. [nos emphases]
Tanner et son équipe propose donc une initiative pour aborder le problème selon une approche collaborative, où des experts seraient mis à contribution pour concevoir un modèle et définir les processus pour s’assurer la validité des données et de l’interprétation que les responsables pourraient en faire:
However, preventing school shootings through data is fraught with ethical and technical risks, including a lack of data quality and the potential for biases across multiple levels of predictive algorithms. This project recommends that procedures be established to prevent prejudices against student groups that are disproportionately impacted by digital surveillance technologies and increased policing, and guidelines be developed that will maintain transparency and accountability to the public as to how the FSSP will operate.
Source: Fazzini, Kate. Researchers Concerned by Florida’s Amassing of Student Data to Predict School Shootings. CNBC, 10 octobre 2019.
