L’Intelligence artificielle générative : une révolution pour l'éducation et la recherche – Un guide complet selon les orientations de l’UNESCO

Introduction

L’intelligence artificielle générative (IA générative ou GenAI) est aujourd’hui au cœur de nombreux débats dans le domaine de l’éducation et de la recherche. Cette technologie innovante, qui permet de créer du contenu sous forme de textes, d'images, de vidéos ou même de musique, a le potentiel de transformer la manière dont les enseignants, les chercheurs et les apprenants interagissent avec la connaissance et l'apprentissage. Face à cette révolution technologique, l’UNESCO a publié en 2024 un guide intitulé Orientations pour l’intelligence artificielle générative dans l’éducation et la recherche, pour aider les pays à comprendre les implications de ces outils et à définir des cadres éthiques, pédagogiques et légaux.

Ce guide s'inscrit dans le cadre des efforts de l'UNESCO pour promouvoir l'accès universel à une éducation de qualité, tel que prévu dans l'Agenda Éducation 2030, qui constitue une pierre angulaire du développement durable. L'UNESCO, en tant qu'agence spécialisée dans l'éducation, a un rôle moteur dans l'adaptation des systèmes éducatifs aux nouvelles technologies comme l'IA générative, tout en s'assurant que ces innovations restent centrées sur l'humain et favorisent l'inclusion, l'équité et l'égalité des genres.

IA générative : définition et fonctionnement

L'intelligence artificielle générative est un type d’IA capable de produire du contenu nouveau en se basant sur des modèles de données massives. Contrairement aux IA traditionnelles qui se contentent de répondre à des questions préprogrammées ou d'analyser des données existantes, l'IA générative peut créer des textes, des images, des vidéos et d’autres formes de contenu en réponse à des prompts (ou requêtes) données en langage naturel.

Par exemple, les outils tels que ChatGPT, basés sur des grands modèles de langage (GML), sont capables de générer des textes cohérents à partir de simples instructions. De même, des IA génératives d'images comme DALL·E peuvent créer des œuvres visuelles à partir de descriptions verbales. Ces technologies sont alimentées par des réseaux de neurones, qui apprennent à partir de grandes quantités de données textuelles, visuelles ou sonores, afin de reconnaître des modèles et produire des résultats plausibles.

Cependant, bien que ces systèmes puissent produire des résultats impressionnants, ils ont aussi des limites. Les modèles comme GPT (Generative Pre-trained Transformer) ne comprennent pas véritablement les données qu'ils manipulent ; ils imitent des schémas observés dans leurs ensembles d'entraînement sans saisir le sens réel des concepts qu'ils manipulent. Cela peut conduire à des erreurs, des hallucinations (génération d’informations incorrectes), ou même à la perpétuation de biais présents dans les données d’entraînement.

Les enjeux de l’IA générative dans l’éducation

L’intégration de l’IA générative dans l’éducation pose de nombreuses questions éthiques, pédagogiques et politiques. Si cette technologie promet d’apporter des bénéfices importants, comme l’automatisation de tâches administratives répétitives, la personnalisation des contenus pédagogiques et la création de nouvelles méthodes d’apprentissage interactives, elle présente aussi des risques significatifs.

1. Automatisation et accessibilité

L’IA générative peut automatiser la création de supports pédagogiques (tels que des quiz, des présentations ou des plans de cours) et faciliter la recherche en permettant de synthétiser rapidement de grandes quantités de données. Elle peut également fournir une aide précieuse pour les enseignants en générant des idées pour des activités de classe ou en fournissant des explications supplémentaires aux élèves qui ont des difficultés.

Cependant, il est crucial que ces outils soient accessibles à tous. L'une des principales préoccupations soulevées par l'UNESCO est la persistance de la "fracture numérique". De nombreux pays, notamment dans le Sud global, ne disposent pas des infrastructures nécessaires pour accéder à ces technologies. De plus, la concentration des données et des capacités de calcul dans les mains de quelques grandes entreprises technologiques mondiales accentue cette inégalité. Pour l'UNESCO, il est impératif que l'IA générative soit utilisée pour réduire ces écarts, plutôt que de les accentuer.

2. Éthique et régulation

L’IA générative soulève aussi des préoccupations éthiques importantes, notamment en ce qui concerne la confidentialité des données, la transparence des algorithmes et les droits d'auteur. Les systèmes de GenAI sont souvent entraînés à partir de données collectées sur Internet sans le consentement explicite des utilisateurs. Cela pose des problèmes majeurs quant au respect de la vie privée et à la protection des données personnelles.

De plus, ces systèmes peuvent reproduire des biais présents dans leurs ensembles de données d'entraînement, ce qui peut conduire à des résultats discriminatoires ou inappropriés. Par exemple, des études ont montré que certains modèles de langage reproduisent des stéréotypes de genre ou des préjugés raciaux.

C'est pourquoi l'UNESCO recommande aux gouvernements de mettre en place des cadres réglementaires clairs pour encadrer l'utilisation de ces technologies dans l'éducation et la recherche. Ces cadres doivent inclure des mesures de protection des données, la mise en place de garde-fous pour éviter la génération de contenus nuisibles ou discriminatoires, et des mécanismes de surveillance pour garantir que les systèmes d'IA restent alignés avec les valeurs éthiques et pédagogiques.

3. Réinvention des méthodes pédagogiques

L'IA générative ne doit pas simplement être utilisée pour automatiser des processus existants, mais plutôt pour repenser la manière dont nous enseignons et apprenons. Par exemple, elle peut permettre de personnaliser les parcours d'apprentissage en fonction des besoins spécifiques de chaque élève, en adaptant les contenus et les exercices à leur niveau de compréhension et à leur rythme de progression.

De plus, l'IA générative offre des opportunités uniques pour développer de nouvelles compétences chez les apprenants, telles que la pensée critique, la collaboration homme-machine et la capacité à utiliser des outils technologiques de manière éthique et responsable. Cependant, il est essentiel que l'IA ne se substitue pas à l'enseignement humain, mais qu'elle soit utilisée comme un complément pour enrichir l'expérience d'apprentissage.

Orientations de l'UNESCO pour une IA générative éthique et efficace dans l'éducation

Dans son guide, l'UNESCO propose plusieurs recommandations pour que l'IA générative puisse être utilisée de manière éthique, sécurisée et bénéfique dans l'éducation. Voici les principales orientations :

1. Approche centrée sur l'humain

L'UNESCO prône une utilisation de l'IA générative qui place l'humain au centre. Cela signifie que la technologie doit servir à renforcer les capacités humaines, et non à les remplacer. Il est essentiel que les élèves continuent à développer des compétences essentielles, comme la réflexion critique et la résolution de problèmes, sans dépendre entièrement des outils d'IA.

2. Protection des données et confidentialité

Les établissements éducatifs doivent mettre en place des mesures rigoureuses pour protéger la confidentialité des données des élèves et des enseignants. Cela inclut la mise en place de politiques de protection des données, la formation des enseignants et des élèves à l'utilisation responsable de l'IA et l'assurance que les fournisseurs d'IA respectent les normes éthiques et légales en matière de traitement des données.

3. Réglementation et cadres politiques

Les gouvernements doivent élaborer des cadres législatifs spécifiques pour encadrer l'utilisation de l'IA générative dans l'éducation. Ces cadres doivent inclure des lois sur la protection des données, des règlements sur l'utilisation éthique de l'IA et des politiques pour garantir que l'accès à ces technologies soit équitable et inclusif.

4. Renforcement des capacités des enseignants

Il est crucial que les enseignants soient formés à l'utilisation de l'IA générative afin de pouvoir l'intégrer de manière efficace et éthique dans leurs pratiques pédagogiques. Cela inclut des formations sur les aspects techniques de l'IA, mais aussi sur les implications éthiques et pédagogiques de son utilisation.

5. Encourager la recherche sur l'IA en éducation

Enfin, l'UNESCO encourage la recherche sur les impacts de l'IA générative dans le domaine de l'éducation. Il est essentiel de comprendre comment ces technologies peuvent être utilisées pour améliorer l'enseignement et l'apprentissage, tout en minimisant les risques éthiques et sociaux.

Conclusion : un avenir prometteur mais complexe

L’intelligence artificielle générative a un potentiel énorme pour transformer l’éducation et la recherche. Elle peut améliorer l'efficacité des enseignants, personnaliser les parcours d'apprentissage et ouvrir de nouvelles voies pour la créativité et l'innovation. Cependant, son utilisation soulève aussi des défis complexes, notamment en matière d’éthique, de confidentialité et d’équité.

Le guide de l'UNESCO fournit une feuille de route précieuse pour aider les gouvernements, les institutions éducatives et les chercheurs à naviguer dans cette nouvelle ère technologique, tout en assurant que les technologies d'IA générative soient utilisées de manière éthique et centrée sur l'humain.

Avis de Charles LARGEMENT CEO d'Ekole : " L'intelligence artificielle générative a ouvert de nouvelles perspectives pour l'éducation, mais elle pose aussi des défis inédits. Une approche équilibrée, centrée sur l'humain et éthique, est nécessaire pour tirer pleinement parti de cette révolution technologique, tout en garantissant que les inégalités et les risques associés soient correctement abordés. "

En complément, n'hésitez pas à consulter le lien suivant : Unesdoc.unesco