En lien avec l'actualitéLes élèves ne sont pas des sources de données
Un article à retrouver, en anglais, sur le site du comité syndical européen de l’éducation ici.
Un texte du Conseil de l’UE récemment divulgué, élaboré sous la présidence irlandaise, propose l’introduction de l’article 88 bis dans le Réglement général de protection des données (RGPD) dans le cadre des négociations sur le paquet « Digital Omnibus », une directive européenne en cours de discussion.
L’article proposé reconnaît explicitement l’« intérêt légitime » comme base juridique permettant aux responsables du traitement et aux exploitants d’utiliser des données à caractère personnel pour le développement et l’exploitation de systèmes et de modèles d’IA. Cela aura pour effet de sacrifier davantage les droits des citoyens au profit des entités commerciales. En outre, d’importantes garanties contenues dans la proposition de la Commission européenne ont été supprimées dans la proposition du Conseil, notamment une exclusion concernant les enfants et des protections liées à la minimisation des données, à la transparence et au droit d’opposition.
Si l’exception concernant les enfants prévue à l’article 6, paragraphe 1, point f), reste formellement inchangée, elle n’est pas suffisante pour protéger l’ensemble des apprenants dans le cadre de l’éducation. En effet, le critère général de mise en balance de l’intérêt légitime prévu à l’article 6, paragraphe 1, point f), ne comprend pas de garanties spécifiques à l’éducation et n’offre pas une couverture harmonisée, car l’interprétation du RGPD varie d’un État membre à l’autre, ce qui entraîne des différences en matière de conformité, d’interprétation et de contrôle. Par ailleurs, le projet de « Digital Omnibus » ne remédie pas au manque de clarté quant à ce qui constitue exactement un « intérêt légitime » ou un « intérêt public ». En reconnaissant un intérêt légitime large pour le développement et l’exploitation de l’IA, l’article 88 bis proposé risque de créer une présomption législative selon laquelle ce traitement présente une valeur sociétale significative, ce qui ferait systématiquement pencher la balance au détriment des élèves et du personnel éducatif, au lieu de limiter ce traitement aux cas où il est strictement nécessaire et soumis à des garanties solides.
Dans la pratique, cela signifie que les entreprises EdTech, y compris les géants de la technologie, pourront exploiter les données à caractère personnel des élèves et des enseignants pour le développement de systèmes d’IA motivés par leurs intérêts commerciaux. La proposition permettra l’utilisation de données à caractère personnel bien au-delà des finalités éducatives pour lesquelles elles ont été initialement collectées, tout en privant les élèves et les enseignants de la possibilité d’exercer un contrôle effectif sur leurs informations.
Chaque jour, les écoles, les universités et autres établissements d’enseignement collectent et traitent des données à caractère personnel pour favoriser l’apprentissage, le bien-être, l’inclusion et la réussite scolaire. Les apprenants partagent des informations avec leurs enseignants. Les parents confient aux établissements d’enseignement des informations sensibles concernant leurs enfants. Les enseignants utilisent des outils numériques en partant du principe que les données à caractère personnel ne seront utilisées qu’à des fins éducatives clairement définies. L’article 88 bis proposé trahira cette confiance.
« Cette proposition scandaleuse, présentée sous l’égide de la présidence irlandaise, constitue une trahison profonde et inacceptable envers les enfants et envers la confiance que les familles accordent chaque jour à nos systèmes éducatifs. Permettre à des intérêts commerciaux, motivés par la soif de parts de marché et de profits accrus, d’obtenir un accès plus large aux données personnelles des enfants pour le développement de l’IA revient à hypothéquer leur avenir au profit de gains à court terme pour les entreprises.
Cette proposition témoigne d’un mépris flagrant pour les droits des citoyens et, si elle est adoptée, elle érodera encore davantage la confiance du public dans les institutions démocratiques.
Les gouvernements européens doivent rejeter cette proposition dangereuse et se ranger fermement du côté des droits des enfants. En tant qu’enseignants et syndicats de l’éducation, nous avons pour mission de protéger les enfants et nous nous y engageons.
« Les syndicats de l’éducation de toute l’Europe s’opposeront d’une seule voix à cette proposition lâche et cynique », a expliqué John MacGabhann, président de l’ETUCE, qui représente des millions de travailleurs de l’éducation dans tous les États membres de l’UE. « Brader nos enfants n’est pas une option », a-t-il ajouté.
Les droits des élèves doivent primer sur les intérêts commerciaux
Les élèves comptent parmi les utilisateurs les plus vulnérables des technologies numériques. Les données éducatives peuvent révéler des informations extrêmement sensibles concernant les habitudes d’apprentissage, le niveau scolaire, les besoins éducatifs particuliers, le milieu socio-économique, les antécédents comportementaux, le bien-être et le développement personnel. Ces informations accompagnent les apprenants pendant une grande partie de leur vie et peuvent avoir des conséquences à long terme si elles sont utilisées à mauvais escient. Un cadre autorisant la réutilisation des données à caractère personnel pour le développement de l’IA transformera les données collectées dans le milieu éducatif en une ressource destinée à l’exploitation commerciale. Les données éducatives ne doivent en aucun cas être collectées pour servir de matière première à l’entraînement des systèmes d’IA.
L’Europe s’est toujours engagée en faveur de la protection des élèves dans les environnements numériques. À l’heure où les décideurs politiques appellent à une IA digne de confiance, l’Europe doit joindre le geste à la parole : les garanties relatives à l’utilisation des données des enfants et des données à caractère personnel doivent être renforcées, et non supprimées. Une IA digne de confiance ne peut se construire sur une réduction des protections accordées aux enfants.
« Je suis consterné par la mesure dans laquelle cette proposition ouvre la voie à l’exploitation, par les géants de la technologie, des données de nos élèves et de nos établissements scolaires. Cela soulève une question fondamentale concernant les valeurs que l’Europe prétend défendre : l’Union européenne et les gouvernements nationaux se rangent-ils du côté des citoyens, ou du côté des riches et des puissants ? », a déclaré Jelmer Evers, directeur européen de l’ETUCE.
Les États membres ont le devoir de garantir la sécurité des environnements d’apprentissage. Les élèves doivent pouvoir participer pleinement à la vie scolaire sans craindre que les informations générées par ces activités puissent être réutilisées ultérieurement à des fins non liées à l’éducation. La confiance n’est pas un détail technique. C’est une condition préalable à l’apprentissage. Si les apprenants et les familles perdent confiance dans la manière dont les données éducatives sont traitées, les conséquences iront bien au-delà des simples préoccupations liées à la vie privée. Cela brisera la confiance et le pacte social qui sont au cœur de l’éducation.
Les éducateurs ont également un intérêt dans ce débat.
Les modifications proposées suscitent de sérieuses inquiétudes chez les enseignants, les universitaires et les autres membres du personnel éducatif.
Les établissements d’enseignement s’appuient de plus en plus sur des systèmes numériques qui traitent des informations relatives aux activités pédagogiques, aux performances professionnelles, aux communications et aux pratiques sur le lieu de travail. La suppression des garanties du RGPD exposera les travailleurs de l’éducation à des risques accrus liés à la surveillance sur le lieu de travail, au profilage, à la gestion algorithmique et à la prise de décision automatisée. L’affaiblissement des garanties du RGPD réduirait la protection contre la collecte et l’utilisation des données professionnelles dans les systèmes d’IA et porterait atteinte à la capacité des travailleurs à exercer leur droit fondamental à la protection des données.
Le CSEE souligne que l’avenir numérique de l’Europe ne peut se construire en abaissant les normes qui protègent les apprenants et les enseignants.
Le CSEE exhorte donc les États membres à rejeter l’article 88 bis proposé dans sa forme actuelle et à s’opposer à tout amendement similaire qui affaiblirait les garanties existantes en matière de protection des données. En particulier, nous appelons le gouvernement à veiller à ce que toute disposition future relative à l’IA et au traitement des données à caractère personnel :
– ne crée pas d’autorisation générale ou globale pour le traitement des données des élèves et des personnels éducatifs aux fins du développement ou de l’exploitation de systèmes d’IA ;
– garantisse que les données des élèves et des enseignants ne soient jamais utilisées pour développer et exploiter des systèmes et des modèles d’IA sans leur consentement explicite et, le cas échéant, celui des parents ;
– préserve des garanties significatives, notamment l’exclusion des élèves, la minimisation des données, la transparence, la responsabilité et un droit d’opposition effectif ;
– empêche l’utilisation des données relatives à l’éducation et au lieu de travail à des fins sans rapport avec celles pour lesquelles elles ont été initialement collectées ;
– préserve la confiance du public dans le déploiement de l’IA dans l’éducation ; et reste pleinement conforme au cadre des droits fondamentaux qui sous-tend la législation européenne en matière de protection des données.
Les écoles sont des lieux d’apprentissage, de confiance et d’épanouissement. Elles ne doivent pas devenir des réservoirs de données au service du développement commercial de l’IA. L’éducation est un droit humain fondamental, un bien public, une responsabilité publique et l’un des outils les plus puissants pour bâtir des sociétés démocratiques, pacifiques et justes.
Par ailleurs, le CSEE, en collaboration avec le Bureau d’organisation des unions d’élèves des écoles européennes (OBESSU) et l’Association européenne des chefs d’établissement (ESHA), a adressé une lettre conjointe aux représentations permanentes des États membres de l’UE, exprimant les profondes préoccupations du secteur de l’éducation concernant le projet d’article 88 bis. Cette lettre, jointe ci-dessous, appelle les États membres à rejeter la proposition et à préserver des garanties solides pour les élèves, les enseignants et les établissements d’enseignement. Les syndicats de l’éducation ne peuvent rester silencieux lorsque les droits des enfants sont menacés.
Les élèves ne sont pas des sources de données : le CSEE exhorte les États membres de l’UE à rejeter la proposition de la présidence irlandaise qui permet aux géants de la technologie d’exploiter les données des élèves et des enseignants pour entraîner l’intelligence artificielle
