Lorsque la pandémie a frappé, de nombreuses écoles aux États-Unis ont généreusement fourni des ordinateurs portables aux élèves pour faciliter l’apprentissage à distance. Noble geste en apparence. Cependant, ces mêmes écoles ont utilisé ces appareils pour espionner les élèves, prétendument pour leur propre bien. Selon une étude du Center for Democracy and Technology, plus de 80% des enseignants et 77% des élèves du secondaire ont déclaré que leurs écoles utilisaient des logiciels de surveillance sur ces appareils.
Certains administrateurs scolaires justifient cette surveillance en disant qu’elle permet de détecter des signes de suicide ou d’automutilation chez les élèves. Si un élève envoie un e-mail ou discute avec un autre élève en disant qu’il pense à se faire du mal, un bot IA ou un modérateur humain peut envoyer une alerte à un enseignant ou à un administrateur.
Ces programmes de surveillance, tels que Bark, Gnosis IQ, Gaggle et Lightspeed, peuvent coûter des dizaines de milliers de dollars aux écoles. Ils sont configurés pour rechercher des signes de tendances violentes, d’idéation suicidaire, de consommation de drogues, de consommation de pornographie ou de troubles de l’alimentation.
Les élèves issus de milieux défavorisés sont moins susceptibles d’avoir des appareils électroniques privés non soumis à la surveillance. Ces élèves auront donc moins d’intimité pour faire les choses embarrassantes que tous les adolescents font. Et si les références des élèves à la consommation de drogues ou à la pornographie sont transmises à la police, ce seront, comme d’habitude, les enfants déjà soumis à un plus grand nombre d’interactions avec la police et d’autres formes de surveillance qui subiront l’attention accrue.
Les adolescents méritent-ils d’être constamment surveillés, même dans l’intimité de leur propre maison ? Ou devrions-nous leur accorder un peu d’intimité, leur permettre de grandir, de faire des erreurs et d’apprendre d’eux-mêmes ? Une IA fouineuse n’est pas un substitut à un adulte de confiance.
Nos écoles ont succombé à la séduction de la technologie, mettant en péril la confidentialité de leurs élèves au nom d’une prétendue sécurité. Et pendant qu’on en parle, il serait peut-être temps pour chacun d’entre nous d’examiner nos dispositifs et de se poser la question : « Qui nous observe à cet instant précis ? »
