La popularit\u00e9 croissante des d\u00e9tecteurs d’IA dans l’\u00e9ducation, malgr\u00e9 les avertissements des soci\u00e9t\u00e9s de logiciels concernant la pr\u00e9cision, est un ph\u00e9nom\u00e8ne \u00e0 multiples facettes… et inqui\u00e9tant.<\/p>\n\n\n\n
Pour moi, le principal moteur est le souhait de continuer \u00e0 \u00ab\u00a0faire comme si de rien n’\u00e9tait\u00a0\u00bb et de limiter\/\u00e9viter une autre transformation de l’exp\u00e9rience d’apprentissage (qui arrive tellement vite apr\u00e8s la p\u00e9riode de Covid-19). S’il est possible de prouver l’utilisation de l’IA g\u00e9n\u00e9rative par les \u00e9l\u00e8ves ou les \u00e9tudiants, il sera alors possible d’en interdire purement et simplement l’utilisation. C’est pour moi l’une des plus grandes erreurs qu’un \u00e9tablissement d’enseignement puisse commettre, car cette technologie fa\u00e7onne d\u00e9j\u00e0 le travail de millions de personnes et notre lien \u00e0 l’information !<\/p>\n\n\n\n
En outre, les progr\u00e8s constants de l’IA et des technologies d’apprentissage automatique renforcent la perception d’une am\u00e9lioration possible de la pr\u00e9cision et de la fiabilit\u00e9 de ces syst\u00e8mes, malgr\u00e9 les limites existantes. Personnellement je ne crois pas vraiment \u00e0 l’av\u00e8nement un jour d’un d\u00e9tecteur absolument fiable pour fournir une preuve (et non juste une pr\u00e9somption) d’utilisation d’IA.<\/p>\n\n\n\n
Cette vision positive au sujet des d\u00e9tecteurs d’IA est encore favoris\u00e9e par une ambiance de concurrence entre les institutions pour rester \u00e0 la pointe de la technologie, en pr\u00e9sentant une fa\u00e7ade modernis\u00e9e et innovante. L’accent mis sur la prise de d\u00e9cision fond\u00e9e sur les donn\u00e9es alimente encore cette tendance, en fournissant des mesures quantifiables qui sont tr\u00e8s appr\u00e9ci\u00e9es dans les politiques et les \u00e9valuations de l’\u00e9ducation. Cette tendance est d’autant plus forte que le plagiat et d’autres formes de malhonn\u00eatet\u00e9 acad\u00e9mique sont des pr\u00e9occupations majeures dans le domaine de l’\u00e9ducation (voir mon article sur : Vers la fin des devoirs \u00e0 la rentr\u00e9e \u00e0 cause de l’IA<\/a>). Les d\u00e9tecteurs d’IA pourraient constituer un moyen de lutter contre ce probl\u00e8me, bien qu’avec des niveaux de r\u00e9ussite variables… comme le r\u00eave d’une notation automatique de l’authenticit\u00e9 d’une \u0153uvre.<\/p>\n\n\n\n Les algorithmes des d\u00e9tecteurs d’IA \u00e9valuent la \u00ab\u00a0perplexit\u00e9\u00a0\u00bb d’un texte, qui mesure le degr\u00e9 de surprise des mots choisis. Les mots anglais courants font baisser le score de perplexit\u00e9, ce qui fait qu’un texte est susceptible d’\u00eatre signal\u00e9 comme \u00e9tant g\u00e9n\u00e9r\u00e9 par une IA. \u00c0 l’inverse, les mots complexes ou plus fantaisistes donnent lieu \u00e0 un score de perplexit\u00e9 plus \u00e9lev\u00e9, ce qui permet de classer un texte comme \u00e9tant \u00e9crit par un humain.<\/p>\n\n\n\n Les personnes dont l’anglais n’est pas la langue maternelle, qui utilisent souvent des mots simples, peuvent voir leur travail signal\u00e9 \u00e0 tort comme \u00e9tant cr\u00e9\u00e9 par l’IA en raison de ce m\u00e9canisme.<\/p>\n\n\n\n La structure particuli\u00e8re de leurs phrases, les irr\u00e9gularit\u00e9s grammaticales ou syntaxiques potentielles et la phras\u00e9ologie peu courante peuvent s’\u00e9carter des mod\u00e8les typiques des locuteurs natifs, ce qui pourrait d\u00e9clencher des syst\u00e8mes de d\u00e9tection de l’IA. En outre, une forte d\u00e9pendance \u00e0 l’\u00e9gard des outils linguistiques num\u00e9riques pour les corrections pourrait entra\u00eener une normalisation excessive du texte qui refl\u00e8te la rigidit\u00e9 du contenu g\u00e9n\u00e9r\u00e9 par l’IA. L’utilisation d’outils de traduction ou de dictionnaires peut conduire \u00e0 des choix de vocabulaire inhabituels ou trop formels, contribuant ainsi \u00e0 une fausse d\u00e9tection.<\/p>\n\n\n\n Enfin, le biais inh\u00e9rent \u00e0 la formation de l’IA, qui privil\u00e9gie souvent les textes r\u00e9dig\u00e9s par des locuteurs natifs, exacerbe ce probl\u00e8me. Ces constats en anglais existeront dans toute version localis\u00e9e de ces outils, sans correction forte de ce point, les d\u00e9tecteurs d’IA posent un r\u00e9el probl\u00e8me d’\u00e9quit\u00e9.<\/p>\n\n\n\n Les faux positifs des d\u00e9tecteurs d’IA peuvent avoir un impact n\u00e9gatif sur la sant\u00e9 mentale des \u00e9l\u00e8ves en provoquant un stress excessif, de l’anxi\u00e9t\u00e9 et de la d\u00e9motivation. Ils peuvent se sentir injustement jug\u00e9s ou se m\u00e9fier, ce qui peut \u00e9roder leur confiance en eux et leur engagement dans le processus \u00e9ducatif.<\/p>\n\n\n\n L’utilisation accrue de ces d\u00e9tecteurs peut amplifier ces effets, en favorisant un environnement \u00e9ducatif hostile et m\u00e9fiant.<\/p>\n\n\n\n Au fil du temps, cela peut s’av\u00e9rer contre-productif et potentiellement conduire \u00e0 un d\u00e9clin du bien-\u00eatre mental, \u00e0 une exacerbation du stress et \u00e0 une diminution des r\u00e9sultats scolaires.<\/p>\n\n\n\n Naviguer dans l’utilisation croissante de l’IA dans l’\u00e9ducation tout en \u00e9vitant les inconv\u00e9nients des d\u00e9tecteurs d’IA n\u00e9cessite une strat\u00e9gie \u00e0 multiples facettes. Les \u00e9tablissements doivent adapter les outils d’IA \u00e0 leur contexte \u00e9ducatif particulier.<\/p>\n\n\n\n A NEOMA, notre approche \u00ab\u00a0test & learn\u00a0\u00bb (qui a \u00e9t\u00e9 initi\u00e9e 6 ans avant la publication de ChatGPT par OpenAI), a conduit \u00e0 une exploration approfondie de cette technologie dans l’\u00e9ducation \u00e0 la fin de l’ann\u00e9e 2022. D\u00e9but 2023, un groupe de travail \u00e0 360\u00b0 a \u00e9t\u00e9 form\u00e9 pour aligner la vision strat\u00e9gique de l’\u00e9cole sur les capacit\u00e9s d’IA g\u00e9n\u00e9rative et pour aborder les changements op\u00e9rationnels. Ce groupe, compos\u00e9 de diff\u00e9rentes directions, visait \u00e0 \u00e9quilibrer la technologie et l’intelligence humaine, en permettant aux \u00e9tudiants d’utiliser des outils d’IA pour leurs devoirs, sauf interdiction explicite des professeurs. Cette initiative a \u00e9galement impliqu\u00e9 une \u00e9valuation compl\u00e8te du \u00ab\u00a0potentiel de GPT-isation\u00a0\u00bb des \u00e9valuations au sein de l’\u00e9cole, garantissant une approche \u00e9ducative bien \u00e9quilibr\u00e9e et une refonte des \u00e9valuations lorsque cela s’av\u00e8re n\u00e9cessaire.<\/p>\n\n\n\n Enfin, nous avons \u00e9galement form\u00e9 nos concepteurs p\u00e9dagogiques et nos enseignants en organisant plusieurs conf\u00e9rences, ateliers et une session de formation obligatoire sur l’aide \u00e0 l’apprentissage. Les \u00e9tudiants sont \u00e9galement concern\u00e9s puisque l’ensemble de notre communaut\u00e9 de 10 000 \u00e9tudiants a acc\u00e8s \u00e0 un cours en ligne d\u00e9di\u00e9 et badg\u00e9 sur l’IA g\u00e9n\u00e9rative et l’art de l’ing\u00e9nierie du prompt.<\/p>\n\n\n\nPourtant les d\u00e9tecteurs IA p\u00e9nalisent certains profils<\/h2>\n\n\n\n
Un biais contre les non natifs anglais<\/h3>\n\n\n\n
Des cons\u00e9quences possiblement d\u00e9sastreuses sur les \u00e9tudiants<\/h3>\n\n\n\n
Quelle position adopter face aux IA g\u00e9n\u00e9ratives ?<\/h2>\n\n\n\n