Guide d'utilisation pédagogique, éthique et légale de l'IA générative PDF 2024-2025

L’utilisation pédagogique, éthique et légale de l’intelligence artificielle générative GUIDE DESTINÉ AU PERSONNEL ENSEIGNANT 2024-2025 Coordination et rédaction Direction du développement de la culture numérique Sous-ministériat du numérique et de l’information Merci à l’Observatoire internationa...

L’utilisation pédagogique, éthique et légale de l’intelligence artificielle générative GUIDE DESTINÉ AU PERSONNEL ENSEIGNANT 2024-2025 Coordination et rédaction Direction du développement de la culture numérique Sous-ministériat du numérique et de l’information Merci à l’Observatoire international sur les impacts sociétaux de l’intelligence artificielle et du numérique (Obvia) et au Groupe de recherche interétablissement sur l’intégration pédagogique des technologies de l’information et de la communication (GRIIPTIC) pour leur contribution à la rédaction de ce guide. Pour information Renseignements généraux Ministère de l’Éducation 1035, rue De La Chevrotière, 27e étage Québec (Québec) G1R 5A5 Téléphone : 418 643-7095 Ligne sans frais : 1 866 747-6626 © Gouvernement du Québec Ministère de l’Éducation ISBN 978-2-550-99030-7 (PDF) Dépôt légal – Bibliothèque et Archives nationales du Québec, 2024 24-105-05_w2 Table des matières Introduction......................................................................................................................................1 Intelligence artificielle générative au service de l’humain en éducation............................................. 1 Réflexions déjà entamées.............................................................................................................. 2 Pourquoi ce guide?........................................................................................................................ 2 Guide complémentaire aux référentiels québécois existants.......................................................... 2 Critères pour l’utilisation de l’IAG en contexte pédagogique...............................................................4 1 Pertinence pédagogique de l’IAG............................................................................................. 4 1.1 Réflexion pédagogique en trois temps..............................................................................4 1.2 Assistance de l’IAG dans l’évaluation des apprentissages..................................................7 2 Réflexion éthique sur l’utilisation de l’IAG...............................................................................10 2.1 Sobriété numérique....................................................................................................... 10 2.2 Qualité.......................................................................................................................... 11 2.3 Équité et inclusion......................................................................................................... 12 2.4 Transparence et explicabilité......................................................................................... 13 2.5 Agentivité...................................................................................................................... 14 3 Certaines obligations légales relatives à l’usage de l’IAG..........................................................17 3.1 Sécurité de l’information............................................................................................... 17 3.2 Protection des renseignements personnels.................................................................... 18 3.3 Droits d’auteur.............................................................................................................. 19 Conclusion....................................................................................................................................... 21 Bibliographie................................................................................................................................... 22 Introduction Le présent document s’inscrit en cohérence avec une réalité nouvelle, qui a pris une ampleur sans précédent en éducation : le développement de l’intelligence artificielle (IA). C’est dans cette perspective qu’est proposé le Guide destiné au personnel enseignant, qui contribue à préciser les critères pour une utilisation pédagogique, éthique et légale de l’intelligence artificielle générative (IAG). Ce guide fournit en outre des pistes de réflexion et d’action quant à l’utilisation responsable de l’IAG, tant pour le personnel enseignant que pour les personnes apprenantes. Il peut également guider les autres actrices et acteurs du milieu éducatif. Qu’est-ce que l’intelligence artificielle générative? Intelligence artificielle générative (IAG) : Système informatique qui utilise des modèles d’intelligence artificielle probabilistes pour générer automatiquement des contenus variés (texte, image, voix, musique, vidéo, présentation, etc.) en réponse à une requête faite par une personne utilisatrice. Intelligence artificielle générative au service de l’humain en éducation Dans le milieu de l’éducation, l’IAG soulève tout à la fois enthousiasme et préoccupations. D’un côté, elle offre plusieurs occasions d’innover en enseignement et de bonifier les pratiques pédagogiques actuelles. En effet, l’IAG peut assister le personnel enseignant dans diverses tâches; elle peut générer un remue-méninges, ébaucher un courriel ou un texte, reformuler des phrases ou vulgariser un concept complexe, par exemple. L’IAG peut aussi accompagner le personnel enseignant dans la préparation du matériel pédagogique, l’assister dans l’acquisition de compétences fondamentales, à son rythme, ou faciliter l’apprentissage par enquête ou par projet. Elle peut aussi soutenir les personnes apprenantes ayant des besoins particuliers (Organisation des Nations Unies pour l’éducation, la science et la culture [UNESCO], 2024. Orientations pour l’intelligence artificielle générative dans l’éducation et la recherche). D’un autre côté, l’IAG apporte son lot de questionnements en ce qui a trait à la place souhaitée du numérique en enseignement et en apprentissage, aux compétences nécessaires à développer pour l’utiliser, à la préservation de l’intégrité intellectuelle et de l’autonomie professionnelle ainsi qu’en matière d’enjeux relatifs aux droits d’auteur et à l’environnement (UNESCO 2024. Orientations pour l’intelligence artificielle générative dans l’éducation et la recherche). C’est pourquoi il importe que le développement et l’utilisation de l’IAG en éducation soient toujours mis au service de l’humain dans le but de promouvoir la mission fondamentale de l’école québécoise, qui consiste à instruire, à socialiser et à qualifier les personnes apprenantes (Loi sur l’instruction publique, RLRQ, c. I-13.3, art. 36, al. 2). Une conception ainsi qu’une utilisation de l’IAG centrées sur l’humain et ses besoins sont donc cruciales pour assurer la mission éducative de l’école. Pour le personnel enseignant, il est alors pertinent de se demander comment saisir les possibilités qu’offre l’IAG, tout en minimisant les risques qui y sont associés, et comment préparer les personnes apprenantes aux nouvelles réalités que cette technologie peut engendrer. Il est donc fondamental d’encourager le personnel enseignant à exercer son jugement critique à ce sujet et à conserver son autonomie professionnelle. 1 Ministère de l’Éducation Réflexions déjà entamées Plusieurs organismes ont déjà contribué aux réflexions visant une utilisation responsable de l’IA et de l’IAG. Par souci de parcimonie, et pour permettre une réelle appropriation par les milieux, ce guide ne se consacre qu’aux aspects essentiels pour le milieu de l’éducation. Pour celles et ceux qui voudraient en savoir plus, voici quelques documents utilisés en appui à ce guide, qui pourront susciter des réflexions complémentaires : ▪ Comment répondre au défi du développement et du déploiement responsables de l’IA au Québec? Rapport Prêt pour l’IA (Conseil de l’innovation du Québec, 2024); ▪ Comment les organismes publics du Québec peuvent-ils utiliser de façon responsable l’IA? Énoncé de principes pour une utilisation responsable de l’intelligence artificielle par les organismes publics (ministère de la Cybersécurité et du Numérique [MCN], 2024); ▪ Quelles sont les bonnes pratiques d’utilisation de l’IAG dans les ministères et organismes de l’administration publique québécoise? Guide des bonnes pratiques d’utilisation de l’IAG (MCN) (à paraître); ▪ Comment soutenir l’élaboration de réglementations, de politiques et de programmes de développement des capacités humaines pour que l’IAG devienne un outil qui profite aux actrices et acteurs du milieu éducatif? Orientations pour l’intelligence artificielle générative dans l’éducation et la recherche (UNESCO, 2024); ▪ Quelles sont les compétences pour une utilisation de l’intelligence artificielle en éducation? AI competency framework for teachers (UNESCO, 2024). Pourquoi ce guide? En complémentarité à ces précédents documents, ce guide propose des pistes de réflexion et des critères liés à l’utilisation pédagogique, éthique et légale de l’IAG pour orienter le personnel enseignant appartenant aux ordres d’enseignement préscolaire, primaire et secondaire ainsi qu’à ceux de la formation professionnelle et de la formation générale des adultes. Ainsi, il s’adresse principalement au personnel enseignant, mais peut également guider les autres actrices et acteurs du milieu éducatif. Guide complémentaire aux référentiels québécois existants L’utilisation responsable de l’IAG par le personnel enseignant doit être complémentaire au développement des compétences professionnelles et de la compétence numérique. C’est pourquoi une attention particulière doit être portée à la formation du personnel enseignant à l’IAG. Le présent guide, le Référentiel de compétences professionnelles de la profession enseignante et le Cadre de référence de la compétence numérique sont des outils conçus en ce sens. 2 Ministère de l’Éducation D’une part, le développement des compétences professionnelles du personnel enseignant permet de guider ses réflexions pour s’assurer d’un usage pédagogique adéquat au regard des 13 compétences professionnelles. En retour, il peut être pertinent d’envisager la façon dont l’IAG constitue un moyen de développer ces compétences. Pour ce faire, il est suggéré d’explorer les potentiels et les limites de l’IAG pour soutenir le développement des dimensions de chacune des compétences du Référentiel, en cohérence avec l’autonomie professionnelle. D’autre part, se familiariser avec l’IAG fait partie intégrante du développement de la compétence numérique. Le Cadre de référence de la compétence numérique propose 12 dimensions qui sont étroitement liées entre elles et qui supportent implicitement une littératie de l’IA pour le personnel enseignant. Ces dimensions abordent des aspects tels que les habiletés technologiques, la communication et la collaboration avec le numérique, la résolution de problèmes ou le développement de la pensée critique à l’égard du numérique. Il est donc nécessaire de développer cette compétence tant chez les personnes qui enseignent que chez celles qui apprennent, ce qui permettra d’accroître les habiletés, l’autonomie et le sens critique en matière d’IAG dans divers contextes, qu’ils soient pédagogiques, professionnels ou de la vie quotidienne. Effectivement, la place grandissante de l’IAG en éducation, comme en société, peut faire émerger à la fois curiosité et enthousiasme, mais elle suscite aussi des préoccupations et des questions. À ce propos, ce guide propose des critères et fournit pour chacun d’eux des réflexions pour orienter le développement de la compétence numérique à l’ère de l’IAG. Il est suggéré que le personnel enseignant, lorsqu’il aborde le sujet avec les personnes apprenantes, le fasse avec cette considération, en concertation avec les autres membres du personnel de l’établissement scolaire. Il est essentiel que cela se fasse en soutien au développement de compétences disciplinaires et de la compétence numérique. Ce guide propose donc trois critères qui pourront orienter les décisions au regard de l’IAG en contexte éducatif : la pertinence pédagogique, les principes éthiques et les obligations légales. Pour chaque critère, il explicite différents enjeux et suggère une liste de questions pour soutenir les réflexions. Chaque section traite des implications au regard de la compétence numérique. Le contenu de ce document sera adapté selon l’évolution des lois, des règlements et des nouvelles connaissances au regard de l’intelligence artificielle, dont l’IAG. 3 Ministère de l’Éducation Critères pour l’utilisation de l’IAG en contexte pédagogique 1 Pertinence pédagogique de l’IAG 1.1 Réflexion pédagogique en trois temps Le personnel enseignant est invité à s’engager dans un processus réflexif sur la valeur pédagogique de l’IAG pour son propre profit ou pour celui des personnes apprenantes. Dans les deux cas, cette réflexion préalable vise à ce que l’utilisation de l’IAG soutienne bel et bien le développement des compétences et l’acquisition de connaissances. Inspirée du Guide d’intégration de l’IA pour les écoles du ministère de l’Éducation et du Développement de la petite enfance du Nouveau-Brunswick (2024), une réflexion en trois étapes est proposée – avant, pendant et après l’utilisation de l’IAG. Étape 1 : Avant l’utilisation de l’IAG D’abord, le personnel enseignant qui souhaite utiliser l’IAG, pour son propre bénéfice ou pour celui des personnes apprenantes, est invité à identifier les objectifs poursuivis et la façon dont l’IAG pourrait l’assister. Entre autres, le recours à l’IAG pourrait permettre la différenciation pédagogique auprès des élèves en situation de handicap ou en difficulté d’adaptation ou d’apprentissage (EHDAA). Par exemple, le personnel enseignant pourrait adapter le contenu du matériel pédagogique en fonction des besoins de personnes apprenantes qui rencontrent des difficultés d’apprentissage afin de soutenir leur réussite éducative, ou recourir à l’IAG pour sa planification. Par exemple, il pourrait générer des situations ou des séquences d’enseignement et d’apprentissage, une planification annuelle, des présentations, des mises en situation, des exemples et des contre-exemples, des textes ou des images. Le personnel enseignant pourrait aussi accompagner les personnes apprenantes dans l’utilisation responsable d’un système d’IAG pour répondre à des questions en dehors de la classe, comme système de tutorat virtuel. Pour y arriver, cela implique que, de part et d’autre, une littératie de l’IA soit développée. En ce qui concerne les personnes apprenantes, le recours à l’IAG pourrait être utile dans divers contextes : les soutenir dans leur appropriation de concepts moins bien compris, les inspirer dans l’écriture de travaux ou favoriser une prise de conscience quant aux enjeux éthiques de l’IA. Le personnel enseignant est invité à explorer ces possibilités de façon individuelle, avec des collègues ou en communauté de pratique. Si nécessaire, il peut suivre des formations adaptées à ses objectifs pédagogiques. 4 Ministère de l’Éducation Dans le cas où le personnel enseignant désire aborder la question de l’IA avec les personnes apprenantes, il doit s’assurer que le recours à cet outil représente un moyen pertinent de soutenir la motivation et les apprentissages. De plus, avant de laisser les personnes apprenantes y recourir, le personnel enseignant doit s’assurer de sa compréhension des enjeux pédagogiques, éthiques et légaux que soulève cette technologie. Les principes éthiques et les obligations légales représentent des pistes à aborder. C’est pourquoi il est recommandé que tout membre du personnel enseignant qui prévoit aborder la question de l’utilisation de l’IAG avec les personnes apprenantes le fasse en concertation avec l’équipe-école. Une fois le besoin et le moyen pour y répondre établis, le personnel enseignant peut identifier le système d’IAG le plus adéquat pour le faire. Dans le cas où ce système serait utilisé par des personnes apprenantes, le personnel enseignant doit vérifier la conformité de ce recours sur le plan de l’âge minimal requis, selon les conditions d’utilisation du système d’IAG. Il est également préférable de recourir à des systèmes d’IAG qui ont été développés à des fins pédagogiques, pour éviter que son utilisation ne devienne une « béquille » aux apprentissages. Lors de ce choix, le personnel enseignant doit également établir si les personnes apprenantes ont la compétence numérique nécessaire pour en faire usage de façon critique. Au besoin, il peut trouver une formation ou une personne-ressource pour l’accompagner dans son usage pédagogique. Il peut être pertinent à ce moment d’anticiper des risques à la lumière des principes éthiques et des obligations légales ainsi que les moyens de les minimiser, notamment quant au choix du système d’IAG. Questions à se poser pour soutenir la réflexion sur la pertinence pédagogique de l’utilisation de l’IAG à l’étape 1 : ▪ Pourquoi est-ce que je souhaite que l’IAG soit utilisée par les personnes apprenantes? À quelles fins (p. ex. : remue-méninges, création de contenus, recherche d’informations)? ▪ À quels moments l’IAG pourrait-elle appuyer mon enseignement (planification, mise en œuvre, évaluation, différenciation pédagogique, gestion de classe, etc.)? ▪ Ai-je les compétences nécessaires pour choisir et utiliser l’IAG de façon responsable, ou ai-je besoin de suivre une formation ou que l’on m’accompagne dans mon utilisation? ▪ Ai-je les compétences nécessaires pour aborder la question de l’IAG avec les personnes apprenantes de façon ouverte et critique? ▪ Comment pourrais-je contribuer à une utilisation responsable de l’IAG par les personnes apprenantes? ▪ Est-ce que l’on recourt à l’IAG au sein de mon équipe-école? Est-ce que sa pertinence pédagogique a été discutée? 5 Ministère de l’Éducation Étape 2 : Pendant l’utilisation de l’IAG Ensuite, une fois le contexte établi, le personnel enseignant peut poursuivre ses réflexions pendant son utilisation de l’IAG, de façon individuelle ou avec des personnes apprenantes. Cette réflexion peut se faire par une analyse critique des contenus générés par l’IAG : répondent-ils aux objectifs? Augmentent-ils la valeur pédagogique de l’enseignement? Suscitent-ils l’engagement et la motivation? Si, pendant cette utilisation, le personnel enseignant remarque divers enjeux (qualité de l’information, présence de biais, non-atteinte des objectifs pédagogiques, etc.), des ajustements peuvent alors se faire en modifiant le contenu généré ou la requête, en changeant de système d’IAG ou même en recourant à un autre outil numérique, plus approprié. Questions à se poser pour soutenir la réflexion sur la pertinence pédagogique de l’utilisation de l’IAG à l’étape 2 : ▪ Est-ce que mon utilisation de l’IAG me permet d’atteindre mon objectif? ▪ Qu’en est-il de l’engagement et de la motivation des personnes apprenantes? ▪ Des ajustements sont-ils nécessaires? Étape 3 : Après l’utilisation de l’IAG Enfin, le personnel enseignant est invité à faire un retour réflexif sur le processus vécu. À l’aide de son expérience, des contenus qui ont été générés et des résultats de cette utilisation, il peut vérifier si son objectif a été atteint ou non. Serait-il pertinent de modifier ou de partager cette utilisation, de recourir à un autre système d’IAG, de chercher des formations supplémentaires ou encore, tout simplement, de recourir à une solution qui n’implique pas d’IAG? Questions à se poser pour soutenir la réflexion sur la pertinence pédagogique de l’utilisation de l’IAG à l’étape 3 : ▪ Est-ce que les résultats d’apprentissage et les objectifs sont atteints grâce à mon utilisation de l’IAG? ▪ Quels ont été les réussites et les défis rencontrés? ▪ Est-ce que mon utilisation de l’IAG pourrait être transférée à d’autres contextes pour qu’il me soit possible d’atteindre d’autres intentions pédagogiques? ▪ Est-ce que les expériences vécues peuvent être partagées avec d’autres personnes pour améliorer l’intégration de l’IAG dans l’enseignement et l’apprentissage? 6 Ministère de l’Éducation 1.2 Assistance de l’IAG dans l’évaluation des apprentissages Le personnel enseignant développe, choisit et utilise diverses modalités pour évaluer l’acquisition des connaissances et le développement des compétences chez les personnes apprenantes. L’IAG a le potentiel de soutenir ses pratiques évaluatives, tant sur le plan formatif que sur le plan sommatif, mais elle ne doit en aucun cas remplacer son jugement professionnel, tant dans la conception d’outils d’évaluation que dans le soutien à l’évaluation des personnes apprenantes. Parmi les applications possibles de l’IAG en évaluation, il y a la production d’outils d’évaluation générés en fonction des intentions pédagogiques (par exemple, des grilles d’évaluation ou des exercices), les rétroactions spécifiques et constructives ainsi que l’évaluation des travaux des personnes apprenantes. Lorsqu’utilisées adéquatement, ces diverses applications permettent un gain de temps pour le personnel enseignant. Cependant, l’IAG présente des limites et des risques qu’il convient de prendre en compte lors de son intégration aux pratiques évaluatives. En premier lieu, lorsqu’il s’agit de générer des évaluations pour les personnes apprenantes, il est essentiel que le personnel enseignant utilise son jugement professionnel pour évaluer la forme et le contenu par rapport à ses intentions pédagogiques. Il est donc crucial qu’il suive une formation appropriée quant aux capacités et aux limites de l’IAG en ce qui concerne le processus d’évaluation, formation qui lui permettra d’apporter, le cas échéant, les ajustements nécessaires. En deuxième lieu, les systèmes d’IAG ne visent pas l’exactitude ou la qualité des réponses, ce qui peut conduire à des évaluations ou à des rétroactions incomplètes, ou même inadéquates. C’est pourquoi le personnel enseignant doit revoir les évaluations ou les rétroactions générées par l’IAG afin d’en valider la justesse et la pertinence. En troisième lieu, dans le cas où le personnel enseignant voudrait utiliser un système d’IAG pour évaluer les travaux des personnes apprenantes, il est recommandé qu’il s’assure que celui-ci a été validé par les autorités de son organisme scolaire. Il importe de veiller, en effet, à ce que le système d’IA respecte les exigences de sécurité. Dans le cas où le système d’IAG a été validé, le personnel enseignant doit s’assurer que les travaux des personnes apprenantes traités par le système d’IAG ne présentent pas de renseignements personnels. Il faut aussi se rappeler que la propriété intellectuelle d’un travail appartient à la personne apprenante d’abord et avant tout. Modalités d’évaluation Que le personnel enseignant ait recours à l’IAG ou non, il pourrait être amené à repenser ses méthodes d’évaluation, notamment en diversifiant les sources d’évaluation des apprentissages et en triangulant la collecte des preuves d’apprentissage. Cette compétence « Évaluer les apprentissages » mérite d’être particulièrement développée et partagée dans les contextes où l’IAG est utilisée comme aide à l’apprentissage et à la reconnaissance des compétences. Il incombe au personnel enseignant de valider le contenu et la forme des évaluations formatives générées par l’IAG, ainsi que d’évaluer de manière sommative les personnes apprenantes, conformément à la Loi sur l’instruction publique. 7 Ministère de l’Éducation Intégrité intellectuelle L’arrivée de l’IAG soulève plusieurs préoccupations relatives à l’évaluation des personnes apprenantes. Pour pallier ces préoccupations, il est recommandé de les amener à développer une intégrité intellectuelle, c’est-à-dire de leur inculquer les notions de ce principe pouvant les guider dans la réalisation de travaux de manière honnête et éthique. Pour ce faire, le personnel enseignant peut leur présenter les usages acceptables et non acceptables de l’IAG sous forme de règles et de procédures adaptées aux activités d’apprentissage ou d’évaluation proposées. Encourager les échanges à propos d’une utilisation intègre, efficace et critique de l’IAG est également conseillé, tout en maintenant une relation de confiance et d’ouverture. Malgré toutes ces mesures préventives, il est essentiel que le personnel enseignant reste vigilant et veille à ce que le processus d’évaluation des apprentissages demeure juste, transparent et équitable, sans compromettre la capacité des personnes apprenantes à démontrer leur compréhension et leurs compétences. Questions à se poser pour l’intégration de l’IAG en évaluation : ▪ En quoi l’IAG permet-elle de soutenir l’évaluation de mon objet d’apprentissage? ▪ Ai-je vérifié la pertinence et la qualité de la rétroaction ou de l’évaluation générée par l’IAG? ▪ Est-ce que le recours à l’IAG me permet de maintenir ou d’approfondir ma compétence à évaluer? ▪ Est-il nécessaire de revoir les modalités et les objets d’évaluation? 8 Ministère de l’Éducation LA COMPÉTENCE NUMÉRIQUE AU REGARD DE L’ENSEIGNEMENT ET DE L’APPRENTISSAGE AVEC L’IAG Amorces de réflexion : ▪ Est-ce que ma compétence numérique me permet d’évaluer correctement la valeur pédagogique de mon utilisation de l’IAG en classe? ▪ Est-ce que ma compétence numérique me permet d’expliquer le fonctionnement de base de l’IAG aux personnes apprenantes? ▪ Est-ce que la compétence numérique des personnes apprenantes est suffisamment développée pour qu’elles puissent réaliser l’activité pédagogique? ▪ Est-ce que l’activité mise en œuvre au moyen de l’IAG vise le développement de la compétence numérique des personnes apprenantes? ▪ Est-ce que l’IAG peut m’aider à adapter l’activité aux besoins diversifiés des personnes apprenantes? 9 Ministère de l’Éducation 2 Réflexion éthique sur l’utilisation de l’IAG L’arrivée de l’IAG en éducation, tout comme dans d’autres domaines et secteurs, pose de nombreux enjeux éthiques. Il est essentiel que le personnel enseignant fasse preuve d’une posture éthique telle que décrite dans le Référentiel de compétences professionnelles (compétence 13 : agir en accord avec les principes éthiques de la profession). Pour ce faire, le personnel enseignant doit s’engager dans un processus réflexif guidé par ces principes éthiques : la qualité, la sobriété numérique, l’équité et l’inclusion, la transparence et l’explicabilité et l’agentivité. Ces principes s’inspirent de l’Énoncé de principes pour une utilisation responsable de l’intelligence artificielle par les organismes publics, publié par le ministère de la Cybersécurité et du Numérique (2024). 2.1 Sobriété numérique Devant la quantité de données et de calculs algorithmiques que nécessitent les systèmes d’IA, particulièrement les systèmes d’IAG, il est recommandé de faire preuve de sobriété numérique, c’est-à- dire de réfléchir de façon critique à son propre usage du numérique, incluant le recours à l’IA, et ce, en considérant les limites de notre planète (Obvia, 2024). Par exemple, pour une seule requête faite à un système d’IAG, la quantité d’énergie demandée est l’équivalent d’une recharge d’un téléphone intelligent (Luccioni et al., 2024). Ainsi, faire preuve de sobriété numérique, c’est s’inscrire dans la recherche d’un développement durable par une utilisation limitée et un respect collectif de l’environnement (Énoncé de principes pour une utilisation responsable de l’intelligence artificielle par les organismes publics, MCN, 2024). La sobriété numérique s’inscrit non seulement dans une logique de développement durable, mais elle cherche également à maintenir le bien-être de ses usagères et de ses usagers de manière à limiter leur utilisation et à les protéger ainsi d’une surutilisation qui pourrait avoir des effets délétères sur leur santé mentale et physique. Pour ce faire, il peut être pertinent de déterminer si des ressources ou des outils n’utilisant pas l’IA, ou même le numérique, permettent d’atteindre les objectifs pédagogiques fixés. Si l’utilisation de l’IAG optimise l’enseignement et l’apprentissage, il faut prendre le temps de bien formuler les requêtes et de limiter leur nombre. D’ailleurs, si c’est possible, il est recommandé de recourir entre autres à des systèmes d’IAG qui utilisent des données locales, ou à des modèles d’IAG plus petits, puisqu’ils ont une empreinte écologique moindre. À noter qu’actuellement, il est difficile de déterminer précisément le niveau de consommation énergétique des systèmes d’IAG, c’est pourquoi il est préférable de limiter leur utilisation. 10 Ministère de l’Éducation  Questions à se poser au regard du principe éthique de la sobriété numérique ▪ Est-ce que je prends en considération l’impact environnemental lors de l’utilisation de l’IAG? ▪ Est-ce que je peux recourir à un outil ou à une ressource n’utilisant pas le numérique ou l’IAG pour atteindre mon intention pédagogique? ▪ Ai-je révisé ma requête avant de l’envoyer dans le système d’IAG? ▪ Est-ce que les personnes apprenantes sont conscientes des enjeux environnementaux des systèmes d’IAG? ▪ Comment pourrais-je aborder les enjeux de sobriété numérique dans l’utilisation de l’IAG avec des personnes apprenantes? 2.2 Qualité La qualité des réponses générées par l’IAG n’est pas garantie et nécessite d’être validée. Entre autres, l’IAG est sujette à des fabulations pouvant occasionner d’importantes erreurs factuelles. Une fabulation, anciennement connue sous le nom d’« hallucination », peut être comprise comme des « réponses incorrectes qui ne sont pas directement fondées sur le matériel présent dans les données d’entraînement de l’IA générative » (Intelligence artificielle générative en enseignement supérieur : enjeux pédagogiques et éthiques, Conseil supérieur de l’éducation et Commission de l’éthique en science et en technologie, 2024, p. 59). En outre, l’IAG ne constitue pas un moteur de recherche, bien qu’elle puisse être intégrée à un tel moteur, et il apparaît difficile, voire impossible de connaître les données qui ont permis de générer le contenu. Il est donc responsable de le traiter comme un support à la réflexion. Le contenu peut nécessiter des vérifications supplémentaires et ne doit pas être considéré comme une information définitive. Ainsi, si le personnel enseignant choisit d’utiliser l’IAG, la qualité de l’information générée doit être vérifiée de façon critique au préalable ou avec les personnes apprenantes, pour assurer sa fiabilité et sa pertinence. Dans le cas d’images générées par l’IAG, celles-ci peuvent être utilisées à des fins esthétiques (p. ex. : générer une image pour illustrer une histoire fictive), mais, lorsqu’il s’agit de représenter des phénomènes ou des concepts complexes (p. ex. : un événement historique, un phénomène scientifique ou l’anatomie d’un être vivant), il est d’autant plus important de vérifier la validité des images générées. 11 Ministère de l’Éducation  Questions à se poser au regard du principe éthique de la qualité ▪ Ai-je validé la qualité du contenu généré par l’IAG? ▪ Ai-je parlé de l’importance de vérifier la qualité du contenu généré par l’IAG avec les personnes apprenantes? ▪ Est-ce que les personnes apprenantes ont les connaissances et les compétences pour valider la qualité du contenu généré par l’IAG? ▪ Comment pourrais-je aborder les enjeux de qualité de l’IAG avec des personnes apprenantes? 2.3 Équité et inclusion Le recours à l’IAG en éducation doit se faire dans le but de permettre au milieu d’être équitable et inclusif. En éducation, l’inclusion est principalement comprise comme celle des élèves en situation de handicap, en difficulté d’apprentissage ou en difficulté d’adaptation. Avec l’IAG, cette compréhension de l’inclusion et de l’équité se fait sur le plan de la représentativité des données et des risques de biais dans les contenus générés. D’une part, les IAG ont été entraînées à l’aide d’une grande quantité de données, dont plusieurs peuvent provenir d’Internet. Toutefois, certains groupes (communautés autochtones, minorité linguistique, etc.) ne sont pas systématiquement représentés par ces données, ce qui implique que le contenu généré prend peu en compte leurs perspectives, réalités, contextes, particularités culturelles, etc. En d’autres mots, les réponses générées par l’IAG ne représentent que certaines visions du monde « au moment où ces données d’entraînement ont été produites » (Orientations pour l’intelligence artificielle générative dans l’éducation et la recherche, UNESCO, 2024, p. 17). D’autre part, les données au moyen desquelles s’entraînent les IAG peuvent être « problématiques ou biaisées (p. ex. : la représentation stéréotypée du rôle respectif des hommes et des femmes) » (Orientations pour l’intelligence artificielle générative dans l’éducation et la recherche, UNESCO, 2024, p. 17). Il est donc possible que les réponses générées comportent des biais à l’égard de groupes qui ont été discriminés par le passé, ce qui risque de les marginaliser davantage. C’est pourquoi le personnel enseignant devrait toujours poser un regard critique sur son utilisation de l’IAG en considérant l’enjeu de représentativité des voix minoritaires et la présence de biais dans les requêtes faites ou les réponses générées. Dans de tels cas, il peut apporter les modifications nécessaires à la réponse générée, reformuler la requête ou encore saisir cette occasion pédagogique d’aborder ces enjeux avec les personnes apprenantes. 12 Ministère de l’Éducation  Questions à se poser au regard des principes éthiques de l’équité et de l’inclusion ▪ Ai-je conscience de l’enjeu de la représentativité de certains groupes et des biais possiblement générés par l’IAG? ▪ Est-ce que le contenu généré par l’IAG concerne un ou des groupes sous-représentés? Si oui, puis-je valider le contenu auprès d’une autre ressource pertinente? ▪ Est-ce qu’un biais se trouve dans le contenu généré par l’IAG? Est-ce que je peux modifier le contenu ou reformuler la requête pour éviter que des biais apparaissent dans le contenu généré par l’IAG? ▪ Est-ce que les personnes apprenantes sont conscientes du manque de représentativité de certains groupes ou de la présence possible de biais dans les contenus générés par l’IAG? ▪ Comment pourrais-je aborder les enjeux d’équité et d’inclusion de l’IAG avec des personnes apprenantes? 2.4 Transparence et explicabilité Le personnel enseignant doit recourir à l’IAG avec transparence et en gardant en tête ses limites en matière d’explicabilité. D’une part, il est invité à réfléchir sur la transparence quant à l’intégration de l’IAG dans sa pratique lorsque les contenus sont présentés à un auditoire (p. ex. : image générée par un système d’IAG) et à inviter les personnes apprenantes à faire de même lorsque le recours à l’IAG est permis. Étant donné que l’IAG ne constitue pas un auteur en soi, il est préférable de mentionner son utilisation en indiquant le nom du système d’IAG et la façon dont il a été utilisé (p. ex. : « Image générée par le système d’IAG X »). D’autre part, l’IAG possède une explicabilité relativement limitée, c’est-à-dire qu’il est difficile de savoir comment et avec quelles données elle a pu générer du contenu. C’est pourquoi l’usagère ou l’usager doit garder en tête ce genre de limite et rester vigilant lors de son utilisation, particulièrement lorsque de l’information est générée par l’IAG. Dans de tels cas, il est préférable de recourir à un moteur de recherche ou de valider le contenu avec d’autres sources. 13 Ministère de l’Éducation  Questions à se poser au regard des principes éthiques de la transparence et de l’explicabilité : ▪ Est-ce que je juge pertinent de mentionner le recours à un système d’IAG lorsque des contenus générés sont présentés à un auditoire? ▪ Est-ce que le contenu généré par l’IAG contient de l’information? Si oui, comment puis-je assurer la validité de ces contenus? ▪ Comment pourrais-je aborder les enjeux d’explicabilité et de transparence de l’IAG avec des personnes apprenantes? 2.5 Agentivité L’agentivité peut être comprise comme « le pouvoir d’une personne à agir sur les autres et son environnement ». L’IAG représente à la fois un tremplin, mais aussi un écueil à l’agentivité du personnel enseignant. D’un côté, l’IAG peut l’assister dans la réalisation de certaines tâches, ce qui peut réduire sa charge de travail et lui permettre d’avoir plus de temps pour se consacrer à d’autres tâches plus signifiantes. D’un autre côté, l’IAG peut limiter cette agentivité lorsque le personnel enseignant se fait assister dans des tâches qui sont signifiantes à sa pratique ou à son développement professionnel. D’autant plus que le recours à l’IAG peut créer une dépendance technologique, c’est-à-dire le fait de rencontrer des difficultés à réaliser des tâches sans être assisté par l’IAG. Pour toutes ces raisons, le personnel enseignant est invité à s’engager dans un processus réflexif en sélectionnant les tâches pour lesquelles il désire être assisté et en évaluant en continu si l’IAG lui permet d’avoir une plus grande agentivité dans sa pratique. Il en va de même pour les personnes apprenantes qui requièrent un accompagnement du personnel enseignant lors de leur usage de l’IAG pour s’assurer de préserver et de soutenir leur agentivité. De plus, il existe un risque d’« anthropomorphiser » l’IAG, c’est-à-dire de lui attribuer des qualités humaines et de développer une sympathie à son égard, étant donné que l’IAG traite des requêtes et génère des contenus en langage humain. Or, l’IAG constitue un système technique traitant de façon statistique un ensemble de données pouvant assister le personnel enseignant dans son travail; elle ne possède pas de conscience ni de jugement et ne peut donc pas réfléchir à sa place. C’est pour cette raison qu’il est aussi recommandé de recourir à un langage technique lors de l’usage de l’IAG. Par exemple, au lieu de dire : « L’IAG a compris ma requête et a créé du contenu », il est préférable de dire : « L’IAG a traité ma requête et généré du contenu. ». 14 Ministère de l’Éducation Questions à se poser au regard du principe éthique de l’agentivité ▪ Quelles sont les tâches pour lesquelles l’IAG pourrait m’assister dans ma pratique? ▪ Est-ce qu’une assistance de l’IAG dans mes tâches me permet d’avoir plus de temps à consacrer à d’autres tâches plus signifiantes? ▪ Est-ce que le fait de bénéficier de l’assistance de l’IAG dans ces tâches me permet de conserver mon agentivité dans ma pratique? Sinon, puis-je modifier mon utilisation de l’IAG pour me permettre de conserver mon agentivité? ▪ Si j’aborde le sujet de l’IAG avec des personnes apprenantes, est-ce que je les invite à se questionner sur la façon de conserver leur agentivité lors de leur utilisation de l’IAG? ▪ Est-ce que le vocabulaire que j’utilise pour aborder la question de l’IAG évite que je lui attribue des qualités humaines? Sinon, comment puis-je modifier mon vocabulaire? ▪ Quand j’aborde la question de l’IAG avec des personnes apprenantes, puis-je les accompagner dans une utilisation du vocabulaire qui évite de l’anthropomorphiser? ▪ Comment pourrais-je aborder la question des enjeux d’agentivité de l’IAG avec des personnes apprenantes? 15 Ministère de l’Éducation LA COMPÉTENCE NUMÉRIQUE AU REGARD DE L’ENSEIGNEMENT ET DE L’APPRENTISSAGE AVEC L’IAG Le personnel enseignant est encouragé à développer sa compétence numérique et celle des personnes apprenantes au regard des enjeux éthiques. Ceux-ci sont complexes et multiples, en reflet à la tâche enseignante et des responsabilités qui incombent aux membres du personnel éducatif. Ainsi, ceux-ci doivent se former aux éléments qui ont trait à la sobriété numérique, à la qualité, à l’équité et à l’inclusion, à la transparence et à l’explicabilité ainsi qu’à l’agentivité. Le Cadre de référence prévoit aussi des dimensions qui s’y rattachent : Amorces de réflexion : ▪ Est-ce que ma compétence numérique me permet de comprendre les enjeux éthiques de l’IAG et de les expliquer aux personnes apprenantes? ▪ Ai-je prévu un moment pour expliquer aux personnes apprenantes le système d’IAG qui sera utilisé durant l’activité? 16 Ministère de l’Éducation 3 Certaines obligations légales relatives à l’usage de l’IAG Au-delà de la pertinence pédagogique possible de l’IAG et des considérations éthiques, un autre angle doit être adopté quant à l’utilisation de cette technologie : le cadre légal. Tandis que l’éthique permet de réfléchir au respect des principes lors de l’utilisation de l’IAG, le droit établit des règles et des normes auxquelles il faut se conformer. Or, bien que l’arrivée de l’IAG soit relativement récente et, pour l’instant, peu régulée, le personnel enseignant a des obligations légales à respecter, dont certaines s’appliquent à l’IAG, notamment la sécurité de l’information, la protection des renseignements personnels et les droits d’auteur. 3.1 Sécurité de l’information Le contenu utilisé dans une requête faite à une IAG n’est généralement pas confidentiel par défaut. Par exemple, l’information donnée au système pour qu’il génère du contenu pourrait être utilisée à d’autres fins, ou même partagée avec une tierce partie. En absence d’une connaissance approfondie des conditions d’utilisation, l’information transmise à l’IAG doit être considérée comme publique. Il est suggéré d’appliquer la même bonne pratique que sur les réseaux sociaux : il ne faut pas fournir d’information sensible1, confidentielle2 ou personnelle3 à un système d’IAG. Bien que des fournisseurs d’IAG offrent différents niveaux de sécurité, il y a plusieurs éléments à analyser pour en assurer une utilisation sécuritaire. Selon la Loi sur la gouvernance et la gestion des ressources informationnelles des organismes publics et des entreprises du gouvernement (RLRQ, c. G-1.03), tout organisme public doit assurer la sécurité des ressources informationnelles et de l’information sous sa responsabilité. Si cela s’avère nécessaire d’utiliser de l’information sensible ou confidentielle avec une IAG, le système doit être analysé et approuvé par le répondant de la sécurité de l’information de l’organisme en question. 1 Selon le Grand dictionnaire terminologique, une information sensible est une « [i]information confidentielle dont la divulgation, l’altération, la perte ou la destruction sont susceptibles de porter préjudice à la personne ou à l’organisation qu’elle concerne ». Office québécois de la langue française (2020), page consultée le 20 octobre 2024, à l’adresse : Information sensible sur le site vitrinelinguistique.oqlf.gouv.qc.ca. 2 Selon le Grand dictionnaire terminologique, une donnée confidentielle est une « [i]nformation qui ne doit être communiquée ou rendue accessible qu’aux personnes et aux entités autorisées ». Office québécois de la langue française (2019), page consultée le 20 octobre 2024, à l’adresse : Information confidentielle sur le site vitrinelinguistique.oqlf.gouv.qc.ca. 3 Selon la Commission d’accès à l’information (CAI), un renseignement personnel « est un renseignement qui permet d’identifier une personne physique, directement ou indirectement. Les renseignements personnels sont confidentiels. Leur confidentialité découle du droit à la vie privée, permettant à toute personne d’exercer un contrôle sur l’utilisation et la circulation de ses renseignements ». Commission d’accès à l’information (2023), page consultée le 20 octobre 2024, à l’adresse : Qu’est-ce qu’un renseignement personnel? Sur le site cai.gouv.qc.ca. 17 Ministère de l’Éducation  À retenir Il est de la responsabilité de chaque utilisateur de faire valider l’outil d’IAG par son organisme scolaire avant d’en faire l’utilisation. 3.2 Protection des renseignements personnels Un renseignement personnel est une information qui permet d’identifier une personne physique, directement ou indirectement. Les renseignements personnels sont confidentiels et les façons dont on en dispose sont encadrées par la Loi sur l’accès aux documents des organismes publics et sur la protection des renseignements personnels (RLRQ, c. A-2.1). Cette loi prévoit qu’un organisme public est responsable de la protection des renseignements personnels qu’il détient. La Loi inclut également des obligations précises qui doivent être respectées, telles que le consentement ou encore la durée de conservation des données. Il ne faut pas utiliser de renseignements personnels dans un système d’IAG à moins qu’une utilisation spécifique soit approuvée par le responsable de la protection des renseignements personnels de l’organisme. Il peut être difficile de déterminer si une information se définit comme un renseignement personnel, puisque l’identification indirecte dépend de plusieurs facteurs. Par exemple, une réponse d’un élève à une évaluation peut l’identifier indirectement. Pour que de tels renseignements ne puissent être utilisés avec un système d’IAG, il est conseillé de vérifier avec le responsable de la protection des renseignements personnels de l’organisme. À retenir Ne pas saisir d’informations sensibles, confidentielles ou personnelles dans un système d’IAG à moins d’avis contraire des responsables de l’organisme. 18 Ministère de l’Éducation 3.3 Droits d’auteur Depuis l’arrivée de l’IAG, plusieurs questions complexes émergent en ce qui concerne les droits d’auteur. Quoique des flous persistent, il reste que, lorsque le personnel enseignant utilise un système d’IAG, les mêmes règles de droits d’auteur s’appliquent. En effet, à l’heure actuelle, le manque d’explicabilité des systèmes d’IAG4 rend difficile de garantir que les données qui leur sont envoyées ne seront pas reproduites; un risque persiste que des informations soient réutilisées. En fait, si la personne utilisatrice transmet à l’IAG une œuvre protégée par les droits d’auteur, elle doit s’assurer de détenir ces droits qui lui permettent de reproduire l’œuvre, considérant que l’IA pourrait la reproduire sans l’autorisation. À retenir Respecter les droits d’auteur relativement aux informations que je fournis à l’IAG. 4 Les systèmes d’IAG peuvent être munis de composantes de collecte de données servant à des fins d’analyse et même de réutilisation pour améliorer l’apprentissage et les performances. Ces données saisies pourraient être conservées dans le système, pour des fins d’entraînement, et ensuite divulguées en réponse à la demande d’un autre utilisateur. 19 Ministère de l’Éducation LA COMPÉTENCE NUMÉRIQUE AU REGARD DE L’ENSEIGNEMENT ET DE L’APPRENTISSAGE AVEC L’IAG Dans le contexte éducatif, le personnel enseignant a la responsabilité d’assurer un environnement d’apprentissage sécuritaire, inclusif et propice au développement des compétences des élèves. À l’ère du numérique, cela implique non seulement de transmettre des savoirs, savoir-faire et savoir-être aux élèves, mais aussi de respecter les normes juridiques en matière de protection des données, de respect de la vie privée et de droits d’auteur, tout en formant les élèves à ces mêmes obligations. Le Cadre de référence prévoit aussi des dimensions qui se rattachent à ces questions. Amorces de réflexion : ▪ Est-ce que ma compétence numérique me permet de comprendre les enjeux légaux de l’IAG et de les expliquer aux personnes apprenantes? ▪ Est-ce que ma compétence numérique me permet d’utiliser les systèmes d’IAG de façon sécuritaire et de sensibiliser les personnes apprenantes à la sécurité de l’information? ▪ Ai-je identifié la personne responsable de l’IA dans mon établissement ou mon organisation, qui pourrait me soutenir en cas de questionnements sur les conditions d’utilisation du système choisi? 20 Ministère de l’Éducation Conclusion Il est pertinent de rappeler que, bien que l’IAG bouleverse la société et, par ricochet, le monde de l’éducation, l’IA n’est pas nouvelle et que de nombreuses personnes expertes ont déjà souligné ses potentialités et ses enjeux. Cela étant dit, un guide sur l’utilisation pédagogique, éthique et légale apparaît comme un incontournable pour le réseau de l’éducation. Rappelons que l’humain doit rester au centre de toutes les décisions et que l’intégration de l’IAG ne peut se faire sans une réelle réflexion et une appropriation de cette innovation. Pour que les milieux y parviennent, de nombreuses ressources, telles que celles qui ont été présentées dans ce document, peuvent soutenir leurs réflexions, en lien avec les compétences professionnelles du personnel enseignant, qui incluent la compétence numérique. Ce guide, via ses trois critères (pédagogique, éthique et légal), se veut un levier pour soutenir le personnel enseignant dans l’adoption éclairée de l’IAG. Il s’inscrit dans une démarche d’amélioration continue, car même si des réflexions sont amorcées, les systèmes d’IAG sont en constante évolution. Il est essentiel d’adopter une posture vivante et flexible pour ne pas freiner l’innovation, tout en conservant l’humain au cœur des décisions. 21 Ministère de l’Éducation Bibliographie Commission d’accès à l’information (2024). Qu’est-ce qu’un renseignement personnel? Sur le site cai.gouv.qc.ca. Conseil de l’innovation du Québec (2024). Prêt pour l’IA – Rapport de recommandations sur l’encadrement de l’intelligence artificielle sur le site conseilinnovation.quebec. Conseil supérieur de l’éducation et Commission de l’éthique en science et en technologies. (2024). Intelligence artificielle générative en enseignement supérieur : enjeux pédagogiques et éthiques sur le site cse.gouv.qc.ca. Office québécois de la langue française (2019). Information confidentielle sur le site vitrinelinguistique. oqlf.gouv.qc.ca. Office québécois de la langue française (2020). Information sensible sur le site vitrinelinguistique. oqlf.gouv.qc.ca. Luccioni, S., Gamazaychikov, B., Hooker, S., Pierrard, R., Strubell, E., Jernite, Y., et Wu, C. J. (2024). Light bulbs have energy ratings – so why can’t AI chatbots? Nature, 632(8026), 736-738. Ministère de la Cybersécurité et du Numérique (2024). Énoncé de principes pour une utilisation responsable de l’intelligence artificielle par les organismes publics sur le site des Publications du Québec [publicationsduquebec.gouv.qc.ca]. Ministère de la Cybersécurité et du Numérique. Ce qu’est l’IAG et comment l’utiliser – Guide des bonnes pratiques d’utilisation de l’IAG (à paraître). Ministère de l’Éducation (2024). Encadrement éthique de l’intelligence artificielle en éducation (à paraître). Ministère de l’Éducation (2020). Référentiel de compétences professionnelles de la profession enseignante sur le site Québec.ca. Ministère de l’Éducation (2019). Cadre de référence de la compétence numérique sur le site Québec.ca. Ministère de l’Éducation et du Développement de la petite enfance (2024). Le guide d’intégration de l’IA pour les écoles. Observatoire international sur les impacts sociétaux de l’IA et du numérique (Obvia, 2024). Sobriété numérique et transition socio-écologique sur le site Obvia.ca. Organisation des Nations Unies pour l’éducation, la science et la culture (UNESCO, 2024). Orientations pour l’intelligence artificielle générative dans l’éducation et la recherche sur le site UNESCO.org. Organisation des Nations Unies pour l’éducation, la science et la culture (UNESCO, 2024). AI competency framework for teachers sur le site UNESCO.org. 22 Ministère de l’Éducation