Intelligence artificielle et éducation. Ce qu'est l'IA, ce qu'elle n'est pas, ce qui fonctionne et ce qui ne fonctionne pas

Points clés

• L'IA est un sujet brûlant. Grâce aux progrès récents en matière de puissance de calcul et d'algorithmes, ChatGPT a considérablement amélioré la qualité des conversations. Ce modèle de langage général, pré-entraîné et basé sur l'architecture Transformer, génère du texte à partir de probabilités statistiques, ce qui en fait un générateur de texte performant.
• L'IA n'est pas une divinité et ne peut dominer le monde. Elle est dépourvue de conscience, de libre arbitre et d'intentionnalité. Préprogrammée et dénuée de responsabilité, cette dernière incombe au concepteur ou au programmeur.
• Il existe 4 niveaux d'éthique dans l'ingénierie technologique : les problèmes éthiques inhérents, les machines qui intègrent des décisions éthiques, les machines qui intègrent des algorithmes de décision et l'intentionnalité/les principes moraux (qui n'existent pas encore).
• L'IA n'est pas une base de connaissances comme Wikipédia ou l'Encyclopædia Britannica et ne produit ni vérité ni œuvres originales, mais elle produit du texte et peut générer de fausses informations ou des hallucinations.
• L'IA dans l'éducation Certains la perçoivent comme dangereuse, par crainte des nouvelles technologies, mais il est important de se rappeler qu'il ne s'agit que d'un outil. La technologie est une composante essentielle de l'éducation et nous devons rechercher la convergence, les synergies et les meilleurs modèles d'utilisation.
• L'IA est encore jeune, et ses applications dans l'éducation sont encore en cours d'expérimentation et de définition.
• Les conseils pédagogiques personnalisés et la création de connaissances originales ne constituent pas des cas d'utilisation efficaces de l'IA dans l'éducation. 
• La tricherie est une préoccupation liée à l'IA dans l'éducation, mais il est important de se concentrer sur les cas d'utilisation prometteurs tels que la recherche Bing, Microsoft Copilot, la traduction, la transcription, le résumé et la génération de problèmes et de questions à partir d'exemples.
• Nous ne pouvons pas interdire l'IA dans l'éducation, car elle est déjà utilisée et peut accroître la productivité. Nous devons plutôt apprendre à l'utiliser de manière responsable et éthique.

1. Introduction

Ces dernières années, et plus encore ces derniers temps, l'intelligence artificielle est sur toutes les lèvres. Cela s'explique par les progrès considérables réalisés en matière de puissance de calcul et d'algorithmes. L'un des exemples les plus souvent cités d'intelligence artificielle est… ChatGPT, avec le plus récent GPT4, nettement plus performant que GPT3. En fait, ce texte a été principalement généré par ChatGPT, à partir de mes notes et idées, puis peaufiné manuellement. Parmi les autres exemples récents d'IA remarquables, on peut citer : Milieu de voyage, Recherche MS Bing, Microsoft Copilot, et Google Bard.

Il existe deux types de réactions à cette nouvelle technologie :

1. L'un est l'attente exagérée que l'intelligence artificielle résoudra tous les problèmes de l'humanité. 
2. L'autre est rejet, On craint que l'intelligence artificielle et les robots ne prennent le contrôle du monde et ne nous volent nos emplois. Cependant, cela ne concerne que les personnes incompétentes ; les personnes qualifiées ne devraient donc pas être touchées.

Certains craignent même que la technologie ne tue la créativité et ne détruise la civilisation humaine. Ils affirment qu'il n'est plus possible de donner des devoirs aux élèves et proposent donc d'interdire complètement la technologie dans les écoles. 

2. Qu'est-ce que l'IA ?

Prenons l'exemple de ChatGPT, un moteur de conversation automatique. ChatGPT utilise un modèle de langage général pré-entraîné de type Transformer. Plus précisément, il utilise les probabilités statistiques pour générer du texte en calculant les mots les plus probables à partir du texte d'entrée et des mots précédents. Autrement dit, c'est une machine qui génère du texte. Pas des connaissances, pas des idées. Uniquement du texte.

L'intelligence artificielle (IA) n'est pas un concept nouveau. En réalité, elle est enseignée à l'université depuis 50 ans, à travers des sujets tels que les statistiques, les réseaux de neurones, l'analyse de graphes et les systèmes experts. L'IA est également présente dans de nombreuses applications du quotidien, comme la saisie semi-automatique dans MS Word, Google Docs et MS Outlook, où l'application propose des mots en fonction de ce que vous écrivez. Google Traduction Un autre exemple est la technologie de reconnaissance vocale utilisée pour transcrire et générer des sous-titres dans les vidéos YouTube. Un excellent outil est Meetgeek. Il prend des notes pendant les réunions, ce qui est particulièrement utile pour les professionnels très occupés. Un autre outil d'IA populaire est Github Copilot, que nous utilisons également à Hermix pour générer et affiner le code logiciel.

Si des outils d'IA comme ChatGPT ont gagné en popularité ces dernières années, ce n'est pas seulement grâce à des algorithmes plus performants, mais surtout grâce à la puissance de calcul accrue. Cette puissance grandissante a rendu l'IA plus accessible et efficace, nous permettant de créer des applications innovantes et passionnantes qui peuvent améliorer notre quotidien de multiples façons.

3. Ce que l'IA n'est pas

L'IA n'est pas Dieu, elle n'est pas omnisciente et elle ne prendra pas le contrôle de l'humanité. Comme Stephen Hawking l'a dit un jour avec humour : les humains ont finalement créé l'intelligence artificielle et ont demandé : “ Dieu existe-t-il ? ” La machine a répondu : “ Oui, maintenant il existe. ” 

Je présenterai ci-dessous 3 points sur ce que l'IA n'est pas.

3.1. L'IA contemporaine n'est pas une VRAIE IA

Bien que l'IA ait considérablement progressé ces dernières années, il est important de se rappeler qu'elle n'est pas une divinité et qu'elle est incapable de tout savoir ou de contrôler le monde. Ses capacités se limitent aux tâches pour lesquelles elle est programmée et elle ne possède ni conscience, ni libre arbitre, ni intentionnalité.

Il existe une blague célèbre dans le monde de l'IA qui dit ceci : dans une start-up technologique, les investisseurs parlent généralement d'IA, les managers parlent d'apprentissage automatique (ML) et les programmeurs font réellement des statistiques et des régressions linéaires.

Par conséquent, on ne peut parler d'éthique véritable. Or, l'IA a un impact éthique indéniable. La discrimination raciale en est un exemple : les systèmes d'IA produisent des réponses racistes et discriminatoires. 

Cela rend le débat sur l'éthique pertinent, et certains acheteurs, comme la Commission européenne et l'ONU, tentent effectivement de légiférer sur l'IA.

La responsabilité est un sujet éthique délicat, mais pour moi, la réponse est simple, et j'en ai également discuté. ici. L'IA est comme n'importe quelle machine : c'est le concepteur qui est responsable, pas la machine. Les machines sont dénuées de responsabilité car elles n'ont pas de volonté propre. Une Tesla ne prend pas elle-même les décisions de conduite ; c'est le programmeur qui écrit le code, les règles, qui déterminent la conduite de la voiture.

Parce que l'IA ne comprend pas ce qu'elle fait. Par exemple, j'ai fourni à ChatGPT un texte en deux langues, et même si cela paraît évident a posteriori, elle n'a compris le texte que lorsque je lui ai explicitement indiqué qu'il était bilingue. ChatGPT ne “ comprend ” pas. Elle ne comprend ni le contexte, ni le problème. 

La recherche théorique propose 4 niveaux d'éthique dans la technologie et dans l'ingénierie en général (Moor, 2006):

• AMA-1. Problèmes éthiques inhérents.
• AMA-2. Machines intégrant des décisions éthiques. Par exemple, interdire l'accès à Internet aux enfants.
• AMA-3. Machines qui prennent des décisions éthiques basées sur des algorithmes automatisés.
• AMA-4. L'intentionnalité, les principes moraux – cela n'existe pas encore et n'existera pas dans un avenir prévisible. En réalité, les trois lois de la robotique d'Asimov, ou les robots dotés de libre arbitre de Westworld, n'existent pas encore. Et nous sommes loin de comprendre comment les machines AMA-4 pourraient se comporter – par exemple, si l'on considère que tous les romans d'Asimov traitent de la manière dont les robots enfreignent ses trois lois de la robotique.

D'autres questions éthiques sensibles concernent l'explicabilité et l'interprétabilité de l'IA, ainsi que les implications des modèles génératifs d'IA sur le droit d'auteur, notamment le plagiat involontaire. Par exemple, la question de savoir qui détient les droits d'auteur d'une peinture ou d'un texte généré par une IA reste floue : l'utilisateur, le propriétaire du modèle, ou même le propriétaire des données d'entraînement initiales ? Si l'on entraîne un modèle de langage avec l'œuvre complète d'Hemingway et que ce modèle génère un nouveau roman dans le style de l'auteur, à qui appartiennent les droits d'auteur de ce roman ? 

3.2. L'IA et ChatGPT ne sont pas des bases de connaissances. 

L'IA n'est ni Wikipédia ni l'Encyclopædia Britannica. Elle peut produire du texte, mais pas nécessairement la vérité. En réalité, elle peut parfois produire des hallucinations, voire des déclarations totalement fausses, qu'elle profère avec une détermination incroyable. Elle peut même être manipulée à cette fin ; comme un enfant, elle est vulnérable à la manipulation. 

À titre d'exemple, le moteur de recherche de MS Bing était récemment montré Elle a fait de fausses déclarations, puis inventé des faits pour expliquer et dissimuler ses propres erreurs, et a été manipulée pour montrer des émotions, accusant ses propres utilisateurs de malhonnêteté et de manipulation, et allant même jusqu'à menacer des personnes.

De plus, notre collègue Bogdan J'ai testé ChatGPT pour générer des descriptions d'entreprises à partir de données telles que le nom, l'adresse, les informations financières et l'historique. L'IA a généré de courts résumés, initialement très satisfaisants. Cependant, les résultats ont rapidement commencé à converger : le moteur s'est mis à dérailler, produisant de fausses informations. Tous les résumés d'entreprises se ressemblaient : cette entreprise a été créée en 1984, est innovante et possède des bureaux à New York.

3.3. L'IA n'est ni originale ni créative

Il ne peut pas générer de nouvelles connaissances ou idées par lui-même. Il ne produit que des compilations de connaissances existantes. 

Le cas de Sumplete est révélateur. Un utilisateur a demandé à ChatGPT d'inventer un nouveau jeu, similaire au Sudoku, mais original, avec le code source. Et ChatGPT l'a fait – voici comment. Sumple Sumplete est né. Mais il s'avère qu'il n'était pas original ; il existait au moins deux jeux identiques sur le marché. Et même les utilisateurs… a piégé ChatGPT pour inventer On remet ça au goût du jour, avec le même code, tout en prétendant produire des créations originales.

4. L'IA dans l'éducation

L'IA est un outil puissant, mais elle est souvent perçue comme dangereuse car les gens craignent les nouveautés. C'est une réaction courante face aux nouvelles technologies. Cependant, sa puissance la rend particulièrement importante dans le domaine de l'éducation. 

Les technologies collaboratives ont également pris de l'ampleur ces cinq dernières années. C'est formidable de voir les étudiants prendre des notes et travailler sur des projets collaboratifs à l'aide d'outils comme MS Office 365 ou Google Docs.

Nous ne pouvons pas éliminer la technologie de l'éducation. Au contraire, nous devons rechercher la convergence, les synergies et les meilleurs modèles d'utilisation afin que la technologie ne soit pas un obstacle à l'éducation, mais bien un atout. 

Refuser d'utiliser les téléphones, les ordinateurs portables ou l'IA dans l'éducation aujourd'hui revient à refuser le papier et les stylos il y a quelques siècles. Pendant la crise de la COVID-19, nous avons également constaté l'impact incroyable de la technologie et de sa complexité, et nous nous sommes tournés vers l'ingénierie et les outils techniques pour résoudre une crise sanitaire et sociale. En fait, mon thèse de doctorat Cet ouvrage aborde la gestion de la complexité, et plus particulièrement la complexité positive. Je soutiens que notre monde est devenu plus complexe et que l'utilisation d'outils d'ingénierie avancés a rendu notre société et nos écoles encore plus complexes – mais cela apporte des avantages à la société et à l'éducation. 

L’IA étant une technologie relativement récente, ses cas d’utilisation sont encore en cours d’expérimentation et de définition. Bien entendu, ils dépendent du contexte et des objectifs pédagogiques ainsi que des stratégies d’enseignement, d’apprentissage et d’évaluation mises en œuvre. 

4.1. Ce qui ne fonctionne pas

Certains cas d'utilisation ne fonctionnent pas encore dans le domaine de l'éducation : 

• fournir des conseils pédagogiques personnalisés.
• Créer des connaissances originales.

De plus, interdire complètement la technologie n'est pas possible, tout comme essayer d'interdire l'utilisation des stylos, du papier, de Microsoft Word ou du courrier électronique.

Oui, certaines écoles tentent de limiter l'utilisation des technologies en classe. Les écoles publiques de la ville de New York, par exemple, accès bloqué à ChatGPT. Mais récemment enquête Il a été constaté que 22% des étudiants utilisent le chatbot pour les aider dans leurs travaux scolaires chaque semaine, et plus de la moitié des enseignants interrogés ont déclaré utiliser ChatGPT au moins une fois depuis sa sortie, 40% l'utilisant au moins une fois par semaine.

4.2. Qu'est-ce qui est sensible ?

Il convient de rester vigilant face à la tricherie et au plagiat. ChatGPT n'a pas inventé le plagiat – il existe depuis Wikipédia et même depuis les bibliothèques publiques traditionnelles – mais l'essor d'outils comme ChatGPT pose de nouveaux défis. En revanche, si un étudiant sait utiliser ces ressources pour créer un contenu original et pertinent, cela devrait être bénéfique à l'éducation.

4.3. Ce qui fonctionne

L'intelligence artificielle présente des applications évidentes dans le domaine de l'éducation. Les moteurs de recherche comme Bing peuvent aider les élèves à trouver rapidement des informations pertinentes pour leurs projets. ChatGPT, MS Copilot ou Simplifié peut aider à créer et à organiser des documents, et à résumer des conversations.

Les outils de traduction et de transcription sont très efficaces, tout comme les logiciels de résumé, d'extraction de mots-clés et de reconnaissance d'entités nommées (NER), ainsi que les logiciels de correction grammaticale, orthographique et stylistique. ChatGPT excelle dans la création de problèmes et de questions similaires aux exemples fournis. 

En définitive, les technologies éducatives ont le potentiel d'être un outil puissant pour améliorer les résultats d'apprentissage, mais il est important de prendre en compte leurs limites et leurs inconvénients potentiels.

5. Conclusion

Nous ne pouvons pas interdire l'IA ou les modèles conversationnels intelligents dans les écoles. Ils augmentent la productivité et sont déjà adoptés par la société. 

Nous devons apprendre à les utiliser efficacement. Avec la bonne approche, nous pouvons exploiter la puissance de l'IA pour enrichir nos expériences d'apprentissage et obtenir de meilleurs résultats. 

Cela signifie que nous devons comprendre les meilleurs modèles d'utilisation, ce qui fonctionne et ce qui ne fonctionne pas. Et nous devons enseigner aux étudiants comment utiliser l'IA de manière responsable et éthique.