Cadre d’usage de l’IA en éducation

Le document se concentre sur les services numériques basés sur des algorithmes probabilistes, entraînés sur de vastes ensembles de données pour produire des résultats comparables à l’activité cognitive humaine. Il s’intéresse aux usages de l’IA définie comme tout service numérique fondé sur des algorithmes probabilistes, s’appuyant sur le traitement statistique de vastes ensembles de données sur lesquels ils sont entraînés et capables de produire des résultats comparables à ceux obtenus par une activité cognitive humaine. Il distingue principalement deux types d’IA pertinentes pour l’éducation :

• L’IA Prédictive : Utilisée pour classifier des données ou anticiper des événements, tendances ou risques.
• L’IA Générative : Capable de produire du contenu (texte, image, son, vidéo). Elle fonctionne en étant interrogée en langage naturel via des “prompts”. Il est crucial de comprendre qu’elle détermine le mot le plus probable sur la base de ses données d’entraînement, sans conscience ni compréhension du contexte, et n’est donc pas “intelligente” au sens humain. Elle est principalement fondée sur une conception statistique du langage.

Les “systèmes experts”, qui existent depuis plusieurs décennies et reposent sur des algorithmes déterministes, ne sont pas concernés par ce cadre. Ils reposent en effet sur un ensemble de règles logiques décrites explicitement par l’humain pour aider à la décision et ne se fondent pas sur une logique probabiliste.

Potentiels et Opportunités pour l’Éducation

Le développement rapide des IA, particulièrement génératives, et leur simplicité d’usage, ouvrent de nombreuses perspectives. L’École a un rôle essentiel à jouer dans l’accompagnement de cette transformation. L’IA peut devenir un outil précieux pour :

• Les Élèves : Au-delà de la fraude potentielle, certains s’en emparent efficacement pour réviser, s’entraîner et approfondir leurs connaissances. L’École doit leur donner les clés pour comprendre cette technologie et développer un esprit critique. La maîtrise des services d’IA et leur usage critique se construisent progressivement à partir d’un socle de connaissances et de compétences scientifiques, culturelles et linguistiques dès l’école primaire.
• Les Enseignants : L’IA peut soutenir le “geste enseignant” en facilitant la préparation de cours, la conception d’évaluations, l’adaptation des contenus aux besoins spécifiques des élèves, et même l’aide à la correction et aux retours personnalisés.
• Les Personnels Administratifs et Cadres : L’IA peut simplifier des tâches comme la rédaction de notes, de courriers, la transcription de réunions, la synthèse de documents, la traduction, ou l’automatisation de tâches.

L’IA est un outil qui peut être mobilisé dans certaines situations pédagogiques ou professionnelles, en soutien de gestes professionnels des agents et enseignants. L’École doit donner aux élèves les clés pour comprendre cette technologie, en appréhender les opportunités comme les limites, et développer un esprit critique à son égard.

Défis et Risques à Considérer

Bien que l’IA offre un apport potentiel pour l’éducation, son usage doit être encadré et conscient, car les outils actuels sont majoritairement non souverains, non libres, opaques dans leur fonctionnement et leurs données d’entraînement, et fortement consommateurs en ressources et en énergie. L’utilisation de l’IA soulève de nombreuses interrogations :

• Impact sur la Construction Cognitive : L’IA peut remettre en question de façon profonde certains fondamentaux de l’École, comme le rapport à la connaissance, aux apprentissages, la construction des cours, la production de devoirs et leur évaluation, ainsi que le développement intellectuel et relationnel des élèves, et leur formation à la citoyenneté.
• Risques Éthiques : Potentiels de biais, de reproduction voire d’amplification des stéréotypes et discriminations.
• Fiabilité des Contenus : Risques d’inexactitudes et de réponses fausses (appelées “hallucinations”).
• Protection des Données Personnelles : Risque de divulgation de données personnelles ou sensibles.
• Propriété Intellectuelle : Risques liés à l’utilisation de données protégées pour l’entraînement des modèles.
• Impact Environnemental : L’IA est une technologie fortement consommatrice en ressources matérielles, en eau et en énergie. La production d’une réponse textuelle à un prompt est en moyenne 10 fois plus énergivore qu’une requête sur un moteur de recherche. Il existe également un risque social lié au travail humain nécessaire à l’entraînement des modèles (« travailleurs du clic »).

Un Cadre Strict pour un Usage Responsable

L’usage de l’IA à des fins professionnelles (administratives comme pédagogiques), et notamment des services d’IA générative, est autorisé, à condition d’un respect strict du cadre présenté dans ce document. L’usage de l’IA ne doit porter atteinte ni à la valeur fondamentale de la relation humaine, ni aux apprentissages des élèves, ni aux pratiques professionnelles des personnels, tout en garantissant l’inclusion, l’accessibilité et l’équité.

Principes Généraux :

• Respect des Valeurs de l’École de la République et du principe de liberté pédagogique.
• Utilisation responsable et réflexive, l’IA assistant l’expertise professionnelle du personnel, mais ne la remplaçant jamais.
• Usage frugal de l’IA pour limiter son impact environnemental. En particulier, l’IA ne doit être utilisée que si aucune autre solution moins coûteuse écologiquement ne répond de façon satisfaisante au besoin. Une sensibilisation à ces enjeux est à privilégier dans le contexte de l’éducation au développement durable.
• Privilégier les solutions libres.

Obligations Légales (Protection des Données & Transparence) :

• Protection des données : L’usage de l’IA doit respecter le RGPD, notamment le principe de minimisation.
• Données confidentielles : Aucune donnée confidentielle ou à caractère personnel ne doit être saisie dans les services d’IA grand public. Seules les données qui peuvent être rendues publiques (textes et programmes officiels, ressources éducatives libres, données statistiques anonymisées, œuvres du domaine public) sont autorisées. Renoncez aux IA grand public quand des données personnelles, confidentielles ou protégées par le droit d’auteur sont en jeu.
• Comptes élèves : Il est formellement interdit de demander aux élèves de créer un compte personnel auprès de services d’IA grand public.
• Transparence : L’usage de l’IA dans la prise de décision éducative, pédagogique ou administrative doit être exercé en toute transparence et responsabilité, avec une communication explicite sur son rôle et la façon dont elle a été utilisée.
• Supervision humaine : Toute décision s’appuyant sur l’IA, ayant un impact significatif sur l’évaluation des apprentissages, les parcours des élèves ou les parcours professionnels, doit faire l’objet d’une supervision humaine garantissant son usage équitable et son explicabilité, et d’une validation préalable par l’autorité compétente.

Exercer l’Esprit Critique et la Vigilance :

• Vérification systématique : Examinez d’un œil critique les propositions de l’IA et vérifiez toujours l’exactitude des réponses en les comparant avec d’autres sources.
• Conscience des biais : Soyez conscient des biais possibles de l’IA pour les corriger si nécessaire.
• Renoncez si non évaluable : N’utilisez pas l’IA si vous ne pouvez pas évaluer le résultat en termes d’exactitude factuelle, de pertinence des références citées ou d’impartialité.
• Ces règles de contrôle, d’esprit critique et de vigilance s’appliquent à l’ensemble des personnels exerçant dans un établissement scolaire, notamment pour les tâches administratives.

L’IA en Pédagogie : Recommandations Clés

Formation et Pratiques Professionnelles :

• L’usage de l’IA doit être accompagné d’une réflexion continue, nécessitant la formation de tous les personnels, en y associant le monde de la recherche. L’usage et l’enseignement de l’IA doivent être éclairés et progressifs en tenant compte des apports et avantages potentiels, des risques et impacts associés (biais, fiabilité des contenus et risques de manipulation des informations, protection des données, respect du droit de la propriété intellectuelle, impact environnemental, etc.).
• Diverses modalités de formation sont proposées par des organismes comme l’EAFC, les Drane, Réseau Canopé, le Clémi, le Mooc AI4T, et les groupes thématiques numériques.
• Dans le cadre pédagogique, l’usage de l’IA, en assistance et non en substitution des apprentissages et de l’effort intellectuel, doit être encadré et accompagné par l’enseignant.
• Pour ses tâches pédagogiques (assistance à la préparation de cours, à l’évaluation, à la correction, etc.), tout enseignant peut utiliser des IA accessibles au grand public, sous sa responsabilité sachant que, comme toute donnée ou information utilisée à des fins d’enseignement, les productions générées par l’IA doivent être vérifiées et croisées avec d’autres sources.

Sensibilisation et Usage par les Élèves (par niveaux) :

• Dès le premier degré : Les élèves sont sensibilisés aux connaissances de base sur l’IA, mais sans manipulation directe de services d’IA générative.
• À partir de la 4e : L’utilisation pédagogique des IA génératives par les élèves, limitée, encadrée, expliquée et accompagnée par l’enseignant, est autorisée en classe, en lien avec les objectifs des programmes scolaires et du CRCN.
• Au lycée : Les élèves peuvent utiliser les IA génératives de manière autonome dans un cadre d’apprentissage et de formation explicitement défini par l’enseignant.
• Formation obligatoire : Une formation obligatoire aux IA et à leurs enjeux est prévue pour les élèves, au moins en 4e, 2de (voies générales, technologiques et professionnelles), et en première année de CAP sur la plateforme Pix.
• L’enseignant est encouragé à sensibiliser les élèves aux enjeux éthiques et environnementaux des IA et à proposer des séquences pédagogiques intégrant l’IA, en développant leur esprit critique sur ces technologies.

Devoirs et Évaluations :

• Les établissements doivent adapter et diversifier leur politique en matière de devoirs et d’évaluation, en mettant au premier plan le raisonnement et la résolution de problème. Au lycée, il est conseillé de tenir compte de ces usages dans le projet d’évaluation pour conserver une parfaite équité dans l’évaluation des élèves et leur orientation.
• Fraude : L’utilisation d’une IA générative pour réaliser tout ou partie d’un devoir scolaire, sans autorisation explicite de l’enseignant et sans travail personnel d’appropriation, constitue une fraude. Elle est assimilée, à ce titre, à l’intervention d’une tierce personne ou à la reproduction non signalée de contenus existants.
• Détection d’IA : L’utilisation de logiciels de détection de contenus générés par l’IA n’est pas recommandée en raison de leur manque de fiabilité, qui pourrait pénaliser à tort un élève.
• Plus-value pédagogique : N’utilisez l’IA que si une plus-value pédagogique est avérée.

À Retenir (Synthèse) :

• Soyez vigilant sur les données : Ne saisissez AUCUNE donnée confidentielle ou à caractère personnel dans les outils d’IA grand public. Ne demandez en aucun cas aux élèves de se créer un compte personnel.
• Impact environnemental : Utilisez l’IA de manière raisonnée et responsable, en étant conscient de son coût écologique. Renoncez à l’IA si une autre solution moins coûteuse écologiquement peut répondre à votre besoin.
• Transparence : Signalez toujours l’utilisation de l’IA dans la prise de décision, en indiquant clairement la façon dont elle a été utilisée et, dans la mesure du possible, en précisant le type d’outil utilisé.
• Esprit critique : Vérifiez toujours l’exactitude des réponses générées par l’IA et soyez conscient de ses biais. Renoncez à l’IA si vous ne pouvez pas évaluer le résultat en matière d’exactitude factuelle, de pertinence des références citées et d’impartialité du point de vue.
• Privilégiez les solutions libres qui permettent un contrôle des corpus utilisés ainsi que des procédures de traitement.
• En pédagogie :
  • Adaptez les devoirs et les modalités d’évaluation pour privilégier le raisonnement et la résolution de problème.
  • Expliquez aux élèves la fraude liée à l’IA et évitez les logiciels de détection d’IA.
  • Adaptez les usages de l’IA générative en fonction du niveau des élèves.
  • N’utilisez l’IA que lorsqu’une plus-value pédagogique est avérée.