{"id":141,"date":"2024-02-13T06:35:00","date_gmt":"2024-02-13T05:35:00","guid":{"rendered":"https:\/\/alain.goudey.eu\/side\/?p=141"},"modified":"2024-03-09T12:04:57","modified_gmt":"2024-03-09T11:04:57","slug":"lai-act-en-pratique-et-dans-lenseignement","status":"publish","type":"post","link":"https:\/\/alain.goudey.eu\/side\/2024\/02\/13\/lai-act-en-pratique-et-dans-lenseignement\/","title":{"rendered":"L’AI Act en pratique… et dans l’enseignement"},"content":{"rendered":"\n

Le 22 janvier 2024, le texte pr\u00e9-final de l’Acte sur l’Intelligence Artificielle de l’Union Europ\u00e9enne (EU AI Act) a \u00e9t\u00e9 divulgu\u00e9 sur Internet, marquant une \u00e9tape cruciale vers la r\u00e9gulation des syst\u00e8mes d’intelligence artificielle (IA) \u00e0 travers l’UE. Ce cadre juridique horizontal, le premier du genre au monde, vise \u00e0 \u00e9quilibrer les avantages de l’IA avec les risques potentiels pour les droits fondamentaux et la s\u00e9curit\u00e9. L’adoption de cet acte par les 27 \u00c9tats membres de l’UE le 2 f\u00e9vrier 2024 souligne un engagement commun envers une approche bas\u00e9e sur le risque dans le d\u00e9veloppement et l’utilisation de l’IA… cet engagement est particuli\u00e8rement structurant pour tous les acteurs \u00e9conomiques, y compris ceux de l’enseignement.<\/p>\n\n\n\n

D\u00e9finition et port\u00e9e d’application de l’AI Act<\/h4>\n\n\n\n

L’EU AI Act d\u00e9finit les syst\u00e8mes d’IA comme des syst\u00e8mes bas\u00e9s sur la machine, con\u00e7us pour op\u00e9rer avec divers niveaux d’autonomie et pouvant s’adapter apr\u00e8s d\u00e9ploiement. Cette d\u00e9finition, align\u00e9e sur celle de l’OCDE, \u00e9tablit le cadre dans lequel les syst\u00e8mes d’IA seront \u00e9valu\u00e9s et r\u00e9gul\u00e9s au sein de l’UE, excluant les syst\u00e8mes utilis\u00e9s \u00e0 des fins militaires ou strictement pour la recherche et le d\u00e9veloppement scientifique.<\/p>\n\n\n\n

L’AI Act vise \u00e0 assurer que les syst\u00e8mes d’IA soient s\u00fbrs, transparents et gouvern\u00e9s par des principes \u00e9thiques. Il cherche \u00e9galement \u00e0 prot\u00e9ger les droits fondamentaux des individus, y compris la vie priv\u00e9e et la non-discrimination.<\/p>\n\n\n\n

Les syst\u00e8mes d’IA sont classifi\u00e9s en diff\u00e9rentes cat\u00e9gories selon leur potentiel de risque. Les applications \u00e0 haut risque, comme celles pouvant influencer l’avenir professionnel des \u00e9tudiants, seront soumises \u00e0 des exigences r\u00e9glementaires strictes, tandis que les syst\u00e8mes \u00e0 faible risque b\u00e9n\u00e9ficieront d’une approche plus souple.<\/p>\n\n\n\n

Les risques des syst\u00e8mes d’intelligence artificielle selon l’AI Act<\/h4>\n\n\n\n

Les syst\u00e8mes d’IA consid\u00e9r\u00e9s comme pr\u00e9sentant un risque inacceptable, tels que l’identification biom\u00e9trique en temps r\u00e9el dans des espaces publics, sont strictement interdits. Par ailleurs, une classification pr\u00e9cise des syst\u00e8mes d’IA \u00e0 haut risque n\u00e9cessite une conformit\u00e9 approfondie, incluant des obligations rigoureuses en mati\u00e8re de documentation, de supervision humaine et de gouvernance des donn\u00e9es.<\/p>\n\n\n\n

L’excellent guide de mise en conformit\u00e9 de l’AI Act de France Digitale \/ Wavestone<\/a> r\u00e9sume bien les cat\u00e9gories : <\/p>\n\n\n\n

\"D\u00e9finition<\/figure>\n\n\n\n

Applications dans l’enseignement <\/h4>\n\n\n\n

Les institutions d’enseignement doivent \u00e9valuer comment l’AI Act affecte l’utilisation des syst\u00e8mes d’IA dans leurs op\u00e9rations, depuis l’admission des \u00e9tudiants jusqu’\u00e0 la personnalisation des parcours d’apprentissage. Notamment les LLMs les IA g\u00e9n\u00e9ratives comportent de nombreux risques <\/a>\u00e0 \u00e9tudier de pr\u00e8s. <\/p>\n\n\n\n

Cela inclut l’obligation de r\u00e9aliser des \u00e9valuations d’impact, de garantir la supervision humaine et d’offrir des m\u00e9canismes de recours en cas de d\u00e9cision automatis\u00e9e d\u00e9favorable. Les institutions doivent \u00e9galement sensibiliser et former leur personnel aux principes \u00e9thiques et juridiques r\u00e9gissant l’usage de l’IA, tout en explorant les avantages p\u00e9dagogiques et administratifs de ces technologies dans un cadre r\u00e9glement\u00e9.<\/p>\n\n\n\n

Syst\u00e8mes Prohib\u00e9s<\/strong> : L’utilisation de syst\u00e8mes d’IA qui exploitent les vuln\u00e9rabilit\u00e9s des \u00e9tudiants ou qui manipulent leur comportement serait interdite. Cela inclut, par exemple, des applications qui pourraient induire des \u00e9tudiants en erreur concernant leurs capacit\u00e9s ou leurs besoins \u00e9ducatifs.<\/p>\n\n\n\n

Syst\u00e8mes \u00e0 Haut Risque<\/strong> : Dans l’enseignement, les syst\u00e8mes d’IA utilis\u00e9s pour l’admission des \u00e9tudiants ou le recrutement du personnel devraient \u00eatre conformes aux obligations strictes de l’EU AI Act. Cela signifie que les institutions devront s’assurer que ces syst\u00e8mes sont transparents, \u00e9quitables et ne discriminent pas, en plus de fournir une documentation d\u00e9taill\u00e9e et d’assurer une supervision humaine appropri\u00e9e. Les syst\u00e8mes impliqu\u00e9s dans l’\u00e9valuation des comp\u00e9tences et des performances des \u00e9tudiants, n\u00e9cessiteront probablement une conformit\u00e9 stricte aux normes de transparence, d’exactitude et de s\u00e9curit\u00e9 des donn\u00e9es.<\/p>\n\n\n\n

Je vous propose ici un tableau sur les risques estim\u00e9s en fonction du type d’usage de l’IA dans l’enseignement… cela n’enl\u00e8ve en rien l’obligation de faire analyser chaque processus \/ outil IA de votre organisation, mais donne a priori un aper\u00e7u de ce que cela pourrait donner : <\/p>\n\n\n\n

Usage de l’IA dans l’enseignement<\/th>Niveau de risque<\/th><\/tr><\/thead>
1. Syst\u00e8mes de recommandation de cours<\/td>Minimal<\/td><\/tr>
2. Programmes de tutorat personnalis\u00e9<\/td>Minimal<\/td><\/tr>
3. Chatbots pour le support administratif et acad\u00e9mique<\/td>Minimal<\/td><\/tr>
4. Outils de d\u00e9tection de plagiat<\/td>Minimal<\/td><\/tr>
5. Filtres anti-spam pour les communications \u00e9lectroniques<\/td>Minimal<\/td><\/tr>
6. Analyse de sentiments dans les feedbacks \u00e9tudiants<\/td>Minimal<\/td><\/tr>
7. Plateformes d’apprentissage adaptatif<\/td>Minimal<\/td><\/tr>
8. Simulations et environnements d’apprentissage virtuels<\/td>Minimal<\/td><\/tr>
9. Analyse pr\u00e9dictive pour l’orientation professionnelle<\/td>\u00c9lev\u00e9<\/td><\/tr>
10. Syst\u00e8mes d’admission bas\u00e9s sur l’IA<\/td>\u00c9lev\u00e9<\/td><\/tr>
11. Outils d’\u00e9valuation automatique<\/td>\u00c9lev\u00e9<\/td><\/tr>
12. Syst\u00e8mes de surveillance des examens<\/td>\u00c9lev\u00e9<\/td><\/tr>
13. IA pour le recrutement du personnel acad\u00e9mique<\/td>\u00c9lev\u00e9<\/td><\/tr>
14. Analyse de donn\u00e9es pour l’am\u00e9lioration des programmes d’\u00e9tudes<\/td>\u00c9lev\u00e9<\/td><\/tr>
15. G\u00e9n\u00e9ration de contenu p\u00e9dagogique personnalis\u00e9<\/td>\u00c9lev\u00e9<\/td><\/tr>
16. Syst\u00e8mes de reconnaissance faciale pour l’assiduit\u00e9 en classe<\/td>\u00c9lev\u00e9<\/td><\/tr>
17. Outils de pr\u00e9vision de la r\u00e9ussite et de l’\u00e9chec scolaire<\/td>\u00c9lev\u00e9<\/td><\/tr>
18. Syst\u00e8mes de notation automatis\u00e9s bas\u00e9s sur des crit\u00e8res complexes<\/td>\u00c9lev\u00e9<\/td><\/tr>
19. IA pour la cr\u00e9ation de profils \u00e9tudiants d\u00e9taill\u00e9s<\/td>Inacceptable<\/td><\/tr>
20. Syst\u00e8mes de scoring social pour \u00e9valuer le comportement des \u00e9tudiants<\/td>Inacceptable<\/td><\/tr><\/tbody><\/table>
Tableau de risques IA au sens de l’AI Act selon les usages possibles de l’intelligence artificielle dans l’enseignement (par Alain Goudey)<\/figcaption><\/figure>\n\n\n\n

Mod\u00e8les d’IA \u00e0 usage g\u00e9n\u00e9ral et mise en conformit\u00e9 selon l’AI Act<\/h4>\n\n\n\n

Les mod\u00e8les d’IA \u00e0 usage g\u00e9n\u00e9ral (GPAI) sont \u00e9galement r\u00e9glement\u00e9s, n\u00e9cessitant une documentation technique d\u00e9taill\u00e9e et une \u00e9valuation des risques syst\u00e9miques. Les \u00e9tablissements d’enseignement sup\u00e9rieur utilisant ces mod\u00e8les pour une vari\u00e9t\u00e9 de t\u00e2ches, telles que la personnalisation de l’apprentissage ou l’analyse des donn\u00e9es \u00e9tudiantes, devront suivre ces obligations pour garantir la s\u00e9curit\u00e9 et le respect des droits fondamentaux.<\/p>\n\n\n\n

Tout acteur \u00e9conomique (fournisseur, distributeur, d\u00e9ployeur d’IA et personnes morales dans l’UE (y compris entreprises, fondations, associations, labos de recherche, Coll\u00e8ges, Lyc\u00e9es, Universit\u00e9s et Grandes Ecoles, etc.). La mise en conformit\u00e9 avec l’AI Act pour les institutions d’enseignement sup\u00e9rieur implique une d\u00e9marche structur\u00e9e pour \u00e9valuer et classer les syst\u00e8mes d’IA en fonction de leur niveau de risque. Cette d\u00e9marche commence par l’identification de tous les syst\u00e8mes d’IA utilis\u00e9s, suivie d’une \u00e9valuation rigoureuse pour d\u00e9terminer si ces syst\u00e8mes sont consid\u00e9r\u00e9s comme \u00e0 haut risque selon les crit\u00e8res de l’AI Act. Pour les syst\u00e8mes \u00e0 haut risque, les institutions doivent se conformer \u00e0 des exigences sp\u00e9cifiques, telles que la transparence, la s\u00e9curit\u00e9 des donn\u00e9es, et la surveillance humaine. La mise en conformit\u00e9 n\u00e9cessite \u00e9galement une documentation d\u00e9taill\u00e9e et la mise en place de m\u00e9canismes de recours pour les d\u00e9cisions automatis\u00e9es. Les institutions d’enseignement sup\u00e9rieur doivent adopter une approche proactive pour int\u00e9grer ces exigences dans leur planification strat\u00e9gique et op\u00e9rationnelle.<\/p>\n\n\n\n

A noter que la mise en conformit\u00e9 concerne chaque syst\u00e8me ou mod\u00e8le d’IA et non l’entreprise en g\u00e9n\u00e9ral. Il faut donc d\u00e9marrer par une cartographie des syst\u00e8me d’IA dans l’organisation ! <\/p>\n\n\n\n

Transparence de l’usage de l’IA et deep fakes<\/h4>\n\n\n\n

L’EU AI Act impose des obligations de transparence accrues, en particulier en ce qui concerne les deep fakes. Dans le contexte de l’enseignement sup\u00e9rieur, cela signifie que tout contenu g\u00e9n\u00e9r\u00e9 par l’IA qui est utilis\u00e9 \u00e0 des fins \u00e9ducatives ou informatives doit \u00eatre clairement \u00e9tiquet\u00e9 comme tel, afin de ne pas tromper les \u00e9tudiants ou le personnel.<\/p>\n\n\n\n

Ainsi, si vous envisagez de d\u00e9velopper un module de formation sur la physique quantique, avec pour particularit\u00e9 l’utilisation d’une repr\u00e9sentation d’Einstein g\u00e9n\u00e9r\u00e9e par intelligence artificielle pour animer le cours. Il est essentiel d’indiquer l’usage de cette technologie dans la cr\u00e9ation de contenu.<\/p>\n\n\n\n

Il faut int\u00e9grer une note ou un message explicatif dans le module de formation pour signaler que la repr\u00e9sentation d’Einstein est le produit d’une intelligence artificielle. Cette mesure vise \u00e0 clarifier pour les apprenants que l’image a \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9e par un algorithme, garantissant ainsi une transparence sans compromettre la qualit\u00e9 ou l’int\u00e9grit\u00e9 du contenu p\u00e9dagogique.<\/p>\n\n\n\n

C’est cette r\u00e8gle de clart\u00e9 et de transparence que nous avons d’ailleurs mis en place \u00e0 NEOMA pour l’usage de l’IA g\u00e9n\u00e9rative par nos \u00e9tudiants : ils peuvent l’utiliser, mais doivent l’indiquer explicitement et clairement. <\/p>\n\n\n\n

Sanctions et calendrier de d\u00e9ploiement de l’AI Act<\/h4>\n\n\n\n

Les sanctions pour non-conformit\u00e9 sont significatives, avec des amendes pouvant atteindre 35 millions d’euros ou 7% du chiffre d’affaires annuel mondial. Les \u00e9tablissements d’enseignement sup\u00e9rieur, comme tous les autres acteurs, doivent \u00eatre conscients de ces sanctions et s’assurer que leurs utilisations de l’IA sont conformes \u00e0 la loi. Dans le d\u00e9tail : <\/p>\n\n\n\n

Une soci\u00e9t\u00e9 vendant un syst\u00e8me ou mod\u00e8le d’IA jug\u00e9 d’un risque inacceptable pourrait se voir infliger des p\u00e9nalit\u00e9s atteignant jusqu’\u00e0 7 % du produit int\u00e9rieur brut (PIB) mondial ou 35 millions d’euros. Des p\u00e9nalit\u00e9s peuvent \u00eatre impos\u00e9es aux entreprises qui \u00e9chouent \u00e0 se conformer aux exigences r\u00e9glementaires pour les IA consid\u00e9r\u00e9es comme \u00e0 haut risque, avec des sanctions pouvant aller jusqu’\u00e0 3 % du PIB mondial ou 15 millions d’euros. La fourniture d’informations fausses, partielles ou trompeuses pourrait \u00e9galement donner lieu \u00e0 des sanctions : 1% du CA mondial ou 7.5 millions d’euros.<\/p>\n\n\n\n

L’EU AI Act entrera en vigueur 20 jours apr\u00e8s sa publication au Journal officiel de l’UE et sera pleinement applicable apr\u00e8s 36 mois, donnant aux \u00e9tablissements d’enseignement sup\u00e9rieur et \u00e0 d’autres organisations le temps de se pr\u00e9parer et de s’adapter \u00e0 ces nouvelles exigences r\u00e9glementaires. La publication devrait intervenir en mai 2024, l’interdiction de commercialisation des IA \u00e0 risque inacceptable sera \u00e0 +6 mois (donc a priori novembre 2024), les mod\u00e8les fondation (LLM) devront \u00eatre conformes \u00e0 +12 mois (c’est \u00e0 dire en mai 2025), les IA \u00e0 risque faible, minime et haut, \u00e0 +24 mois (donc mai 2026)… tout doit \u00eatre fini \u00e0 +36 mois (incluant les syst\u00e8mes d’IA \u00e0 haut risque d\u00e9j\u00e0 r\u00e9gul\u00e9s par d’autres textes europ\u00e9ens).<\/p>\n\n\n\n

Conclusion : la checklist en 10 points de l’AI Act<\/h2>\n\n\n\n

L’AI Act repr\u00e9sente un jalon important dans la r\u00e9gulation de l’intelligence artificielle en Europe, \u00e9tablissant un cadre clair et normatif pour son utilisation responsable et \u00e9thique. Dans l’enseignement sup\u00e9rieur, cet acte incite \u00e0 une r\u00e9flexion approfondie sur la mani\u00e8re dont l’IA est employ\u00e9e, en soulignant la n\u00e9cessit\u00e9 d’une transparence accrue, d’une \u00e9quit\u00e9 et d’une responsabilit\u00e9 dans l’application de ces technologies puissantes. <\/p>\n\n\n\n

Alors que l’UE s’avance vers une \u00e8re de r\u00e9gulation de l’IA, les institutions \u00e9ducatives doivent naviguer dans ce paysage r\u00e9glementaire avec prudence et engagement envers les principes \u00e9thiques qui sous-tendent l’AI Act.<\/p>\n\n\n\n

Excellente check list fournie par France Digitale et Wavestone<\/a> : <\/p>\n\n\n\n

\"Liste<\/figure>\n","protected":false},"excerpt":{"rendered":"

Le 22 janvier 2024, le texte pr\u00e9-final de l’Acte sur l’Intelligence Artificielle de l’Union Europ\u00e9enne (EU AI Act) a \u00e9t\u00e9 divulgu\u00e9 sur Internet, marquant une \u00e9tape cruciale vers la r\u00e9gulation des syst\u00e8mes d’intelligence artificielle (IA) \u00e0 travers l’UE. Ce cadre juridique horizontal, le premier du genre au monde, vise \u00e0 \u00e9quilibrer les avantages de l’IA avec les risques potentiels pour les droits fondamentaux et la s\u00e9curit\u00e9. L’adoption de cet acte par les 27 \u00c9tats membres de l’UE le 2 f\u00e9vrier 2024 souligne un engagement commun envers une approche bas\u00e9e sur le risque dans le d\u00e9veloppement et l’utilisation de l’IA… cet engagement est particuli\u00e8rement structurant pour tous les acteurs \u00e9conomiques, y compris ceux de l’enseignement.<\/p>\n","protected":false},"author":1,"featured_media":146,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[3,45],"tags":[68,69,70,49],"class_list":["post-141","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ia-ai","category-actualites-de-lia","tag-ai-act","tag-enseignement","tag-europe","tag-ia"],"_links":{"self":[{"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/posts\/141","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/comments?post=141"}],"version-history":[{"count":6,"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/posts\/141\/revisions"}],"predecessor-version":[{"id":187,"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/posts\/141\/revisions\/187"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/media\/146"}],"wp:attachment":[{"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/media?parent=141"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/categories?post=141"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/tags?post=141"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}