Dans une exploration r\u00e9volutionnaire du son et de l’\u00e9motion, l’album phare de Pink Floyd \u00ab\u00a0Dark Side of the Moon\u00a0\u00bb a emmen\u00e9 les auditeurs dans un voyage \u00e0 travers le kal\u00e9idoscope de l’exp\u00e9rience humaine, mettant en lumi\u00e8re les ombres qui fa\u00e7onnent notre existence. Tout comme cet album classique plonge dans les recoins obscurs de la psych\u00e9, cet article vous emm\u00e8ne en voyage dans les aspects les moins document\u00e9s et les plus sombres des mod\u00e8les GPT, les soi-disant chefs-d’\u0153uvre de l’IA qui ont r\u00e9volutionn\u00e9 le monde du traitement du langage naturel. En nous aventurant dans les profondeurs de ces mod\u00e8les \u00e9nigmatiques, nous d\u00e9couvrons leurs biais, leurs impacts sociaux, leurs questions de s\u00e9curit\u00e9 et leurs implications environnementales, et nous nous confrontons aux co\u00fbts cach\u00e9s de ces merveilles technologiques qui font \u00e9cho aux refrains obs\u00e9dants du chef-d’\u0153uvre intemporel de Pink Floyd.<\/p>\n\n\n\n
Le langage est un syst\u00e8me de communication utilis\u00e9 par les humains, compos\u00e9 de symboles, de sons et de r\u00e8gles qui nous permettent d’exprimer nos pens\u00e9es, nos \u00e9motions et nos id\u00e9es. C’est un outil qui permet de repr\u00e9senter et de communiquer aux autres la complexit\u00e9 de nos pens\u00e9es et de nos exp\u00e9riences. Le langage peut prendre diff\u00e9rentes formes, telles que les mots parl\u00e9s, les textes \u00e9crits, le langage des signes ou m\u00eame le langage corporel.<\/p>\n\n\n\n
L’intelligence, quant \u00e0 elle, d\u00e9signe les capacit\u00e9s cognitives d’un individu \u00e0 apprendre, raisonner, r\u00e9soudre des probl\u00e8mes, planifier, comprendre des id\u00e9es complexes et s’adapter \u00e0 de nouvelles situations. C’est la capacit\u00e9 mentale de traiter des informations, de tirer des conclusions et d’appliquer des connaissances dans divers contextes.<\/p>\n\n\n\n
\nGPT, c’est comme la \u00ab\u00a0pensine\u00a0\u00bb dans Harry Potter, dans laquelle n’importe quel sorcier peut mettre ou prendre quelque chose et l’utiliser pour sa propre pens\u00e9e…<\/p>\n<\/blockquote>\n\n\n\n
Prenons l’exemple d’un perroquet capable d’imiter la parole humaine. Le perroquet est capable de reproduire les sons et m\u00eame les phrases du langage humain. Cependant, cette capacit\u00e9 n’implique pas n\u00e9cessairement que le perroquet poss\u00e8de une intelligence, du moins pas dans la m\u00eame mesure que les humains. Il se peut que le perroquet ne comprenne pas le sens des mots ou qu’il ne soit pas capable de raisonner de mani\u00e8re complexe ou de r\u00e9soudre des probl\u00e8mes. Ainsi, bien que le perroquet fasse preuve d’une ma\u00eetrise impressionnante du langage, son intelligence peut \u00eatre limit\u00e9e.<\/p>\n\n\n\n
Noam Chomsky, c\u00e9l\u00e8bre linguiste et critique de ChatGPT, affirme que ChatGPT n’est pas une v\u00e9ritable intelligence, mais un simple outil statistique qui imite le langage humain sans aucune compr\u00e9hension ni cr\u00e9ativit\u00e9 (notre perroquet). Ce qui est s\u00fbr, c’est que le GPT ne comprend pas ce qu’il \u00e9crit et ne ressent aucune \u00e9motion \u00e0 ce sujet… pour autant sur la dimension verbale du test de QI, les r\u00e9sultats sont tr\u00e8s nettement sup\u00e9rieurs \u00e0 la moyenne de la population.<\/p>\n\n\n\n
Il est donc pr\u00e9f\u00e9rable d’\u00e9viter de confondre intelligence et langage. En effet, il existe diff\u00e9rents types d’intelligence, tels que l’intelligence g\u00e9n\u00e9rale, l’intelligence linguistique, l’intelligence \u00e9motionnelle ou l’intelligence sociale. GPT-4 peut faire preuve d’une grande intelligence linguistique, puisqu’il peut produire des textes fluides et coh\u00e9rents \u00e0 partir de grandes quantit\u00e9s de donn\u00e9es, mais il peut manquer d’intelligence g\u00e9n\u00e9rale, puisqu’il ne peut pas comprendre ou raisonner sur le sens ou les implications de ses textes (en tout cas les raisonnements restent assez basiques). GPT-4 peut \u00e9galement manquer d’intelligence \u00e9motionnelle ou sociale, car il ne peut pas interagir avec les humains de mani\u00e8re naturelle ou empathique.<\/p>\n\n\n\n
D’apr\u00e8s les chiffres que j’ai vus sur le sujet, GPT-3 se situe aux alentours de 83 et GPT-4 aux alentours de 95 aux tests de QI. Une personne moyenne dans la population se situe \u00e0 100… c’est au global, mais si nous abordons la partie linguistique du mod\u00e8le, les r\u00e9sultats du GPT-4 sont bien plus \u00e9lev\u00e9s que 100 (on serait autour de 165) !<\/p>\n\n\n\n
Ainsi, il est clair que pour moi, les mod\u00e8les LLM (et donc GPT) sont plut\u00f4t des outils, comme un miroir de la pens\u00e9e, qui permet aux humains de penser mieux, plus vite et de mani\u00e8re plus cr\u00e9ative, plut\u00f4t que de remplacer la pens\u00e9e des humains (ou m\u00eame de la r\u00e9pliquer). C’est comme la \u00ab\u00a0pensine\u00a0\u00bb dans Harry Potter, dans laquelle n’importe quel sorcier peut mettre ou prendre quelque chose et l’utiliser pour sa propre pens\u00e9e, comme s’il cr\u00e9ait une certaine distance avec la pens\u00e9e. Cela \u00e9vite aussi le syndrome de la page blanche.<\/p>\n\n\n\n
Un examen plus approfondi des biais, des pr\u00e9jug\u00e9s et de la PI dans les mod\u00e8les GPT<\/h2>\n\n\n\n
Les mod\u00e8les GPT peuvent pr\u00e9senter des biais ou des pr\u00e9jug\u00e9s qui refl\u00e8tent les donn\u00e9es sur lesquelles ils ont \u00e9t\u00e9 form\u00e9s. Ils peuvent g\u00e9n\u00e9rer des propos offensants, haineux ou discriminatoires. L’intelligence artificielle (IA) et l’apprentissage machine (ML) ont fait des progr\u00e8s consid\u00e9rables ces derni\u00e8res ann\u00e9es, ce qui a conduit au d\u00e9veloppement de mod\u00e8les linguistiques avanc\u00e9s tels que GPT-3 et GPT-4. Ces mod\u00e8les ont d\u00e9montr\u00e9 des capacit\u00e9s remarquables \u00e0 g\u00e9n\u00e9rer des textes semblables \u00e0 ceux des humains, \u00e0 r\u00e9pondre \u00e0 des questions et \u00e0 effectuer diverses t\u00e2ches li\u00e9es au langage. Toutefois, ces mod\u00e8les d’IA ne sont pas exempts de d\u00e9fauts. L’une des pr\u00e9occupations les plus pressantes est la pr\u00e9sence de biais et de pr\u00e9jug\u00e9s dans leurs donn\u00e9es, qui peuvent conduire \u00e0 des r\u00e9sultats ind\u00e9sirables et perp\u00e9tuer les in\u00e9galit\u00e9s sociales existantes. Dans cet article de blog, nous allons explorer les diff\u00e9rents types de biais que l’on trouve dans les mod\u00e8les TPG et discuter des moyens potentiels de les r\u00e9soudre.<\/p>\n\n\n\n
Biais dans les donn\u00e9es<\/h3>\n\n\n\n
Il y a biais de donn\u00e9es lorsque les donn\u00e9es d’entra\u00eenement utilis\u00e9es pour construire un mod\u00e8le contiennent des \u00e9chantillons d\u00e9s\u00e9quilibr\u00e9s ou non repr\u00e9sentatifs de la population r\u00e9elle. \u00c9tant donn\u00e9 que les mod\u00e8les GPT sont entra\u00een\u00e9s sur de grandes quantit\u00e9s de donn\u00e9es textuelles provenant d’Internet, ils peuvent h\u00e9riter des biais pr\u00e9sents dans le contenu sur lequel ils sont entra\u00een\u00e9s. Il s’agit notamment de la sous-repr\u00e9sentation de certains groupes d\u00e9mographiques, de la surrepr\u00e9sentation d’autres groupes et de la perp\u00e9tuation de st\u00e9r\u00e9otypes.<\/p>\n\n\n\n
Biais de confirmation<\/h3>\n\n\n\n
Les mod\u00e8les GPT ont tendance \u00e0 g\u00e9n\u00e9rer des r\u00e9sultats qui confirment les biais pr\u00e9sents dans leurs donn\u00e9es d’apprentissage. Cela signifie que si un mod\u00e8le a \u00e9t\u00e9 expos\u00e9 \u00e0 des donn\u00e9es biais\u00e9es, il est plus susceptible de produire un texte qui s’aligne sur ces biais. Par exemple, si les donn\u00e9es d’apprentissage contiennent des st\u00e9r\u00e9otypes de genre, le mod\u00e8le peut g\u00e9n\u00e9rer un texte qui renforce ces st\u00e9r\u00e9otypes, m\u00eame s’ils ne sont pas exacts ou justes.<\/p>\n\n\n\n
Biais d’amplification<\/h3>\n\n\n\n
Le biais d’amplification se produit lorsqu’un mod\u00e8le non seulement perp\u00e9tue les biais existants dans ses donn\u00e9es d’apprentissage, mais les amplifie \u00e9galement. Cela peut se produire lorsqu’un mod\u00e8le apprend \u00e0 associer certains attributs ou st\u00e9r\u00e9otypes \u00e0 des groupes sp\u00e9cifiques, et que ces associations sont renforc\u00e9es au fil du temps, \u00e0 mesure que le mod\u00e8le affine sa compr\u00e9hension du langage.<\/p>\n\n\n\n
Biais temporel<\/h3>\n\n\n\n
Les mod\u00e8les GPT sont form\u00e9s sur des donn\u00e9es historiques, ce qui signifie qu’ils peuvent refl\u00e9ter les valeurs, les croyances et les pr\u00e9jug\u00e9s du pass\u00e9 plut\u00f4t que du pr\u00e9sent. Ce biais temporel peut conduire \u00e0 la g\u00e9n\u00e9ration de textes obsol\u00e8tes ou inappropri\u00e9s dans le contexte actuel.<\/p>\n\n\n\n
Biais algorithmique<\/h3>\n\n\n\n
Le biais algorithmique peut provenir de la conception du mod\u00e8le d’IA lui-m\u00eame. Il peut s’agir du choix des algorithmes, des techniques d’optimisation ou m\u00eame des d\u00e9cisions architecturales sp\u00e9cifiques prises au cours du d\u00e9veloppement du mod\u00e8le. Ces facteurs peuvent contribuer \u00e0 l’\u00e9mergence de biais dans les r\u00e9sultats du mod\u00e8le.<\/p>\n\n\n\n
L’\u00e9limination des biais dans les mod\u00e8les d’IA est un d\u00e9fi permanent qui n\u00e9cessite des efforts concert\u00e9s de la part des chercheurs, des d\u00e9veloppeurs et de l’ensemble de la communaut\u00e9 de l’IA. Parmi les approches possibles pour att\u00e9nuer les biais dans les mod\u00e8les GPT, on peut citer : la diversification des donn\u00e9es de formation, les outils de d\u00e9tection des biais, les algorithmes de d\u00e9biaisage, la supervision et l’\u00e9valuation humaines. <\/p>\n\n\n\n
En contrepartie de tous les biais expos\u00e9s, les mod\u00e8les GPT peuvent \u00eatre utilis\u00e9s \u00e0 des fins malveillantes, telles que la diffusion de fausses informations, la propagande ou le spam. Ils peuvent \u00e9galement constituer une menace pour la vie priv\u00e9e et la s\u00e9curit\u00e9 en usurpant l’identit\u00e9 des utilisateurs ou en les manipulant.<\/p>\n\n\n\n
Droits d’auteurs et propri\u00e9t\u00e9 intellectuelle<\/h3>\n\n\n\n
Une autre question est celle des droits d’auteur et de la propri\u00e9t\u00e9 intellectuelle. Les mod\u00e8les GPT, comme d’autres mod\u00e8les de langage, peuvent pr\u00e9senter des risques li\u00e9s aux droits d’auteur et \u00e0 la propri\u00e9t\u00e9 intellectuelle (PI) en raison de leur capacit\u00e9 \u00e0 g\u00e9n\u00e9rer des textes semblables \u00e0 ceux des humains sur la base des donn\u00e9es sur lesquelles ils ont \u00e9t\u00e9 form\u00e9s. \u00c9tant donn\u00e9 que les mod\u00e8les GPT sont entra\u00een\u00e9s sur de grandes quantit\u00e9s de textes provenant de diverses sources, y compris des documents prot\u00e9g\u00e9s par le droit d’auteur, il est possible qu’ils g\u00e9n\u00e8rent des contenus qui ressemblent \u00e9troitement \u00e0 des \u0153uvres prot\u00e9g\u00e9es, voire qui les reproduisent. Cela soul\u00e8ve la question de savoir si le contenu g\u00e9n\u00e9r\u00e9 constitue une violation des droits d’auteur et comment y faire face.<\/p>\n\n\n\n
Les mod\u00e8les GPT peuvent involontairement faciliter le plagiat en g\u00e9n\u00e9rant du contenu qui ressemble \u00e9troitement \u00e0 des \u0153uvres existantes sans attribution appropri\u00e9e. Cela peut entra\u00eener des probl\u00e8mes \u00e9thiques et juridiques, en particulier dans les contextes universitaires, journalistiques ou cr\u00e9atifs. Il peut \u00e9galement \u00eatre difficile de savoir qui d\u00e9tient les droits de propri\u00e9t\u00e9 intellectuelle sur le contenu g\u00e9n\u00e9r\u00e9 par un mod\u00e8le GPT. Alors que l’utilisateur du mod\u00e8le fournit des donn\u00e9es et peut orienter la sortie, le mod\u00e8le lui-m\u00eame g\u00e9n\u00e8re le contenu sur la base de sa formation. Il peut en r\u00e9sulter une ambigu\u00eft\u00e9 quant \u00e0 la question de savoir si les droits de propri\u00e9t\u00e9 intellectuelle appartiennent \u00e0 l’utilisateur, aux cr\u00e9ateurs du mod\u00e8le ou \u00e0 une combinaison des deux.<\/p>\n\n\n\n
Enfin, dans certains cas, les mod\u00e8les GPT peuvent \u00eatre entra\u00een\u00e9s sur des donn\u00e9es propri\u00e9taires ou confidentielles, ce qui peut entra\u00eener l’utilisation ou la divulgation non autoris\u00e9e d’informations sensibles. Il peut en r\u00e9sulter des probl\u00e8mes juridiques et \u00e9thiques pour les cr\u00e9ateurs et les utilisateurs du mod\u00e8le. C’est pourquoi il est fondamental de ne pas copier d’informations confidentielles dans vos discussions avec l’IA. <\/p>\n\n\n\n
Impacts sur la s\u00e9curit\u00e9 et la confidentialit\u00e9<\/h2>\n\n\n\n
La confidentialit\u00e9 des donn\u00e9es fournies par les utilisateurs \u00e0 ChatGPT est une autre question importante. Selon les r\u00e9sultats d’une recherche sur le web, l’utilisation de ChatGPT \u00e0 des fins professionnelles pour analyser des informations confidentielles pourrait constituer une violation de donn\u00e9es prot\u00e9g\u00e9es par la loi ou par un contrat, telles que des secrets d’affaires ou des secrets m\u00e9dicaux ou bancaires. Environ 3 % des utilisateurs ont d\u00e9j\u00e0 utilis\u00e9 ChatGPT avec des donn\u00e9es confidentielles ( !). Microsoft avertit clairement ses employ\u00e9s de ne pas copier de donn\u00e9es sensibles dans ses outils bas\u00e9s sur l’IA. <\/p>\n\n\n\n
ChatGPT met \u00e9galement en garde les utilisateurs contre les dangers de lui fournir des donn\u00e9es sensibles ou confidentielles, car il peut les stocker ou les partager avec des tiers. En outre, ChatGPT peut pr\u00e9senter un risque de s\u00e9curit\u00e9 pour les donn\u00e9es professionnelles, car elles peuvent \u00eatre vuln\u00e9rables au piratage ou \u00e0 la manipulation par des acteurs malveillants. Ceci est particuli\u00e8rement vrai lors de l’utilisation de la g\u00e9n\u00e9ration de code qui peut contenir des failles de s\u00e9curit\u00e9 en vue d’une exploitation future par des pirates.<\/p>\n\n\n\n
Les probl\u00e8mes de confidentialit\u00e9 des mod\u00e8les GPT d\u00e9coulent du fait que ces mod\u00e8les de langage sont form\u00e9s sur de grandes quantit\u00e9s de donn\u00e9es textuelles accessibles au public sur l’internet, qui peuvent par inadvertance contenir des informations sensibles ou priv\u00e9es. Lorsque les mod\u00e8les GPT g\u00e9n\u00e8rent des r\u00e9ponses ou s’engagent dans des conversations, il existe un risque qu’ils divulguent par inadvertance (en raison du flow de la conversation) des informations confidentielles ou exposent des d\u00e9tails priv\u00e9s. Ce probl\u00e8me peut \u00eatre d\u00e9compos\u00e9 en plusieurs sous-questions :<\/p>\n\n\n\n
\n
- Inclusion de donn\u00e9es sensibles dans le corpus de formation<\/li>\n<\/ol>\n\n\n\n
Au cours de la phase de collecte des donn\u00e9es pour la formation des mod\u00e8les GPT, il est possible que des informations sensibles ou priv\u00e9es soient incluses dans le corpus de formation. Il peut s’agir de donn\u00e9es provenant de forums priv\u00e9s, de documents ayant fait l’objet d’une fuite, de communications confidentielles ou m\u00eame de documents prot\u00e9g\u00e9s par des droits d’auteur. L’inclusion de telles donn\u00e9es dans le processus de formation soul\u00e8ve des pr\u00e9occupations concernant la confidentialit\u00e9 des donn\u00e9es et les droits de propri\u00e9t\u00e9 intellectuelle.<\/p>\n\n\n\n
2. Divulgation involontaire d’informations personnelles<\/p>\n\n\n\n
Les mod\u00e8les GPT peuvent divulguer par inadvertance des informations personnelles lors de la g\u00e9n\u00e9ration de texte. Par exemple, ils peuvent g\u00e9n\u00e9rer une adresse \u00e9lectronique, un num\u00e9ro de t\u00e9l\u00e9phone ou un nom d’apparence r\u00e9aliste mais totalement fictifs qui, par co\u00efncidence, correspondent aux coordonn\u00e9es d’une personne r\u00e9elle. Bien que le mod\u00e8le n’ait pas l’intention de divulguer des informations sur des personnes sp\u00e9cifiques, il existe un risque de correspondances accidentelles avec des donn\u00e9es du monde r\u00e9el.<\/p>\n\n\n\n
3. M\u00e9morisation des donn\u00e9es d’entra\u00eenement<\/p>\n\n\n\n
Bien que les mod\u00e8les GPT soient con\u00e7us pour g\u00e9n\u00e9raliser \u00e0 partir des mod\u00e8les qu’ils apprennent au cours de la formation, ils peuvent \u00e9galement m\u00e9moriser certains points de donn\u00e9es sp\u00e9cifiques. Cela peut conduire \u00e0 la divulgation involontaire d’informations sensibles pr\u00e9sentes dans les donn\u00e9es d’apprentissage. Par exemple, si un mod\u00e8le m\u00e9morise les informations m\u00e9dicales ou financi\u00e8res priv\u00e9es d’une personne, il pourrait g\u00e9n\u00e9rer un texte contenant ces informations, ce qui entra\u00eenerait une violation de la confidentialit\u00e9.<\/p>\n\n\n\n
4. Mauvais usage potentiel du contenu g\u00e9n\u00e9r\u00e9<\/p>\n\n\n\n
Les mod\u00e8les GPT devenant de plus en plus sophistiqu\u00e9s, le contenu qu’ils g\u00e9n\u00e8rent peut \u00eatre tr\u00e8s convaincant et difficile \u00e0 distinguer d’un texte \u00e9crit par un \u00eatre humain. Cela soul\u00e8ve des inqui\u00e9tudes quant \u00e0 l’utilisation abusive potentielle du contenu g\u00e9n\u00e9r\u00e9, comme la diffusion de d\u00e9sinformation, la cr\u00e9ation de faux textes ou l’usurpation d’identit\u00e9. Des probl\u00e8mes de confidentialit\u00e9 se posent lorsque ce type de contenu est utilis\u00e9 pour manipuler ou tromper des personnes, en particulier dans des contextes sensibles.<\/p>\n\n\n\n
La r\u00e9solution des probl\u00e8mes de confidentialit\u00e9 dans les mod\u00e8les GPT est une t\u00e2che complexe qui n\u00e9cessite la collaboration des chercheurs, des d\u00e9veloppeurs et des d\u00e9cideurs politiques. Parmi les approches possibles pour att\u00e9nuer les risques de confidentialit\u00e9, citons : le filtrage et l’anonymisation des donn\u00e9es, l’application de techniques de confidentialit\u00e9 diff\u00e9rentielle, le contr\u00f4le et le filtrage des r\u00e9sultats et, bien s\u00fbr, l’encouragement d’une utilisation \u00e9thique.<\/p>\n\n\n\n
Les impacts sociaux des mod\u00e8les GPT<\/h2>\n\n\n\n
L’essor des mod\u00e8les linguistiques avanc\u00e9s tels que GPT-3 et GPT-4 a \u00e9t\u00e9 tout simplement r\u00e9volutionnaire, car ces syst\u00e8mes d’IA ont d\u00e9montr\u00e9 des capacit\u00e9s remarquables \u00e0 g\u00e9n\u00e9rer des textes semblables \u00e0 ceux des humains et \u00e0 effectuer diverses t\u00e2ches li\u00e9es au langage. Malgr\u00e9 leurs avantages potentiels, les mod\u00e8les GPT pr\u00e9sentent \u00e9galement des d\u00e9fis \u00e9thiques et sociaux qui m\u00e9ritent d’\u00eatre examin\u00e9s attentivement. Nous nous pencherons ici sur l’impact des mod\u00e8les GPT sur la communication, la cr\u00e9ativit\u00e9 et l’action humaines.<\/p>\n\n\n\n
Les mod\u00e8les de GPT ont le potentiel de remodeler la communication humaine de plusieurs fa\u00e7ons :<\/p>\n\n\n\n
a. Modification de la dynamique interpersonnelle<\/strong> : Les syst\u00e8mes d’IA \u00e9tant de plus en plus aptes \u00e0 g\u00e9n\u00e9rer des textes semblables \u00e0 ceux des humains, il existe un risque de brouiller les fronti\u00e8res entre les contenus g\u00e9n\u00e9r\u00e9s par les humains et ceux g\u00e9n\u00e9r\u00e9s par les machines. Cela pourrait entra\u00eener des changements dans la dynamique interpersonnelle, car les gens pourraient avoir du mal \u00e0 discerner s’ils interagissent avec un humain ou une machine, ce qui pourrait \u00e9roder la confiance dans la communication num\u00e9rique.<\/p>\n\n\n\n
b. Chambres d’\u00e9cho et polarisation <\/strong>: Les mod\u00e8les GPT peuvent involontairement contribuer \u00e0 la cr\u00e9ation de chambres d’\u00e9cho en produisant un contenu qui s’aligne sur les croyances et les pr\u00e9jug\u00e9s pr\u00e9existants des utilisateurs. Ce renforcement peut exacerber la polarisation et entraver un dialogue constructif.<\/p>\n\n\n\n
c. D\u00e9sinformation <\/strong>: La nature convaincante du contenu g\u00e9n\u00e9r\u00e9 par les mod\u00e8les GPT soul\u00e8ve des inqui\u00e9tudes quant \u00e0 la propagation de la d\u00e9sinformation, car les syst\u00e8mes d’IA pourraient \u00eatre arm\u00e9s pour produire des fausses nouvelles, des faux textes ou d’autres formes de contenu malveillant.<\/p>\n\n\n\n
Les mod\u00e8les GPT peuvent \u00e0 la fois am\u00e9liorer et d\u00e9fier la cr\u00e9ativit\u00e9 humaine. Les syst\u00e8mes d’IA tels que les mod\u00e8les GPT peuvent agir comme des partenaires cr\u00e9atifs, aidant les utilisateurs \u00e0 trouver des id\u00e9es, \u00e0 r\u00e9diger des contenus ou \u00e0 r\u00e9soudre des probl\u00e8mes complexes. Cette collaboration peut conduire \u00e0 l’\u00e9mergence de nouvelles id\u00e9es et de solutions innovantes… mais sur la base d’un arrangement statistique de contenus ant\u00e9rieurs, ce qui pose la question d’un \u00e9ventuel plagiat ?<\/p>\n\n\n\n
Par ailleurs, l’originalit\u00e9 est-elle menac\u00e9e ? L’utilisation g\u00e9n\u00e9ralis\u00e9e des mod\u00e8les GPT pourrait potentiellement diminuer la valeur de la cr\u00e9ativit\u00e9 humaine, car le contenu g\u00e9n\u00e9r\u00e9 par l’IA pourrait \u00eatre per\u00e7u comme moins original ou moins pr\u00e9cieux que le contenu cr\u00e9\u00e9 uniquement par des humains. Elle peut \u00e9galement polariser la culture manipul\u00e9e par le biais de l’ensemble de donn\u00e9es utilis\u00e9, refl\u00e9tant en soi une certaine vision du monde.<\/p>\n\n\n\n
Au-del\u00e0 de l’impact sur la cr\u00e9ativit\u00e9, il me semble que les mod\u00e8les GPT peuvent \u00e9galement affecter l’agence humaine, c’est-\u00e0-dire la capacit\u00e9 des individus \u00e0 faire des choix et \u00e0 prendre des mesures. Ils peuvent diminuer la capacit\u00e9 de prise de d\u00e9cision et l’autonomie : \u00c0 mesure que les syst\u00e8mes d’IA deviennent plus sophistiqu\u00e9s, il existe un risque de d\u00e9pendance excessive \u00e0 l’\u00e9gard de leurs recommandations ou de leurs r\u00e9sultats, ce qui conduit \u00e0 l’\u00e9rosion de l’action humaine dans les processus de prise de d\u00e9cision.<\/p>\n\n\n\n
Alors qu’au contraire, l’outil exprimera sa plus grande valeur lorsqu’il est mis \u00e0 l’\u00e9preuve par un cerveau humain. Toutes les \u00e9tudes (dans le domaine m\u00e9dical notamment) montrent que les solutions con\u00e7ues par un humain augment\u00e9 par l’IA sont meilleures que les solutions con\u00e7ues uniquement par l’IA. L’IA doit \u00eatre utilis\u00e9e comme un outil d’aide \u00e0 la r\u00e9flexion et non comme un outil d’aide \u00e0 la solution.<\/p>\n\n\n\n
Les impacts de l’IA sur l’environnement <\/h2>\n\n\n\n
Les mod\u00e8les GPT, comme d’autres mod\u00e8les d’intelligence artificielle (IA) \u00e0 grande \u00e9chelle, peuvent avoir des impacts environnementaux significatifs. Ces impacts proviennent principalement des immenses ressources informatiques et de l’\u00e9nergie n\u00e9cessaires \u00e0 l’entra\u00eenement de ces mod\u00e8les. En termes de consommation d’\u00e9nergie, l’entra\u00eenement d’un mod\u00e8le GPT implique le traitement de quantit\u00e9s massives de donn\u00e9es sur des syst\u00e8mes informatiques puissants, souvent \u00e0 l’aide d’unit\u00e9s de traitement graphique (GPU) ou d’unit\u00e9s de traitement tensoriel (TPU). Ce processus n\u00e9cessite une quantit\u00e9 consid\u00e9rable d’\u00e9lectricit\u00e9, qui peut contribuer aux \u00e9missions de gaz \u00e0 effet de serre, en fonction de la source d’\u00e9nergie. L’un des aspects environnementaux de l’utilisation des mod\u00e8les GPT est l’empreinte carbone \u00e9lev\u00e9e de leur formation et de leur stockage. Selon un article co-\u00e9crit par Timnit Gebru et Emily M. Bender en 2021, les grands mod\u00e8les linguistiques, tels que le GPT-3, ont un impact environnemental significatif en raison des quantit\u00e9s massives de donn\u00e9es et de la puissance de calcul qu’ils requi\u00e8rent. Le mod\u00e8le GPT-3, par exemple, a \u00e9t\u00e9 entra\u00een\u00e9 sur 175 milliards de param\u00e8tres, soit environ 10 fois la taille des mod\u00e8les pr\u00e9c\u00e9dents. Cette situation soul\u00e8ve des inqui\u00e9tudes quant \u00e0 la durabilit\u00e9 et \u00e0 l’efficacit\u00e9 des mod\u00e8les GPT. Selon les fondateurs de \u00ab\u00a0Carbontracker\u00a0\u00bb, une seule session d’entra\u00eenement pour ce mod\u00e8le g\u00e9n\u00e8re l’\u00e9quivalent d’une ann\u00e9e de consommation d’\u00e9nergie de 126 m\u00e9nages danois et \u00e9met la m\u00eame quantit\u00e9 de CO2 qu’un voyage de 700 000 kilom\u00e8tres d’un v\u00e9hicule \u00e0 essence.<\/p>\n\n\n\n
Les \u00e9missions de carbone associ\u00e9es \u00e0 la formation des mod\u00e8les GPT d\u00e9pendent largement du mix \u00e9nerg\u00e9tique des centres de donn\u00e9es o\u00f9 la formation a lieu. Si l’\u00e9lectricit\u00e9 est produite \u00e0 partir de combustibles fossiles, l’empreinte carbone peut \u00eatre importante. En revanche, l’utilisation de sources d’\u00e9nergie renouvelables pour alimenter les centres de donn\u00e9es peut contribuer \u00e0 att\u00e9nuer l’impact sur l’environnement. Mais le rythme rapide de la recherche et du d\u00e9veloppement en mati\u00e8re d’IA entra\u00eene des am\u00e9liorations constantes du mat\u00e9riel, rendant souvent les anciens syst\u00e8mes obsol\u00e8tes. Cela peut contribuer \u00e0 la production de d\u00e9chets \u00e9lectroniques, car les anciens GPU et TPU sont mis au rebut.<\/p>\n\n\n\n
N’oublions pas non plus la question de l’extraction des ressources, car la fabrication du mat\u00e9riel utilis\u00e9 dans les syst\u00e8mes d’IA n\u00e9cessite l’extraction et le traitement de diverses ressources naturelles, notamment des \u00e9l\u00e9ments et des m\u00e9taux de la terre rare. Si elles ne sont pas g\u00e9r\u00e9es de mani\u00e8re responsable, ces activit\u00e9s peuvent entra\u00eener une d\u00e9gradation de l’environnement et une pollution.<\/p>\n\n\n\n
De la m\u00eame mani\u00e8re que \u00ab\u00a0Dark Side of the Moon\u00a0\u00bb de Pink Floyd laisse \u00e0 l’auditeur une profonde r\u00e9flexion sur la complexit\u00e9 de l’exp\u00e9rience humaine, notre exploration des mod\u00e8les GPT nous a conduits \u00e0 travers le labyrinthe des biais, des cons\u00e9quences sociales, des probl\u00e8mes de s\u00e9curit\u00e9 et des pr\u00e9occupations environnementales associ\u00e9s \u00e0 ces puissances de l’IA. Alors que nous nous effor\u00e7ons d’exploiter le potentiel des mod\u00e8les GPT, il est essentiel de reconna\u00eetre et d’aborder ces aspects plus sombres, tout comme l’opus magnum de Pink Floyd nous implore d’affronter nos propres ombres int\u00e9rieures… pour tenter de les d\u00e9passer.<\/p>\n","protected":false},"excerpt":{"rendered":"
Dans une exploration r\u00e9volutionnaire du son et de l’\u00e9motion, l’album phare de Pink Floyd \u00ab\u00a0Dark Side of the Moon\u00a0\u00bb a emmen\u00e9 les auditeurs dans un voyage \u00e0 travers le kal\u00e9idoscope de l’exp\u00e9rience humaine, mettant en lumi\u00e8re les ombres qui fa\u00e7onnent notre existence. Tout comme cet album classique plonge dans les recoins obscurs de la psych\u00e9, cet article vous emm\u00e8ne en voyage dans les aspects les moins document\u00e9s et les plus sombres des mod\u00e8les GPT, les soi-disant chefs-d’\u0153uvre de l’IA qui ont r\u00e9volutionn\u00e9 le monde du traitement du langage naturel. En nous aventurant dans les profondeurs de ces mod\u00e8les \u00e9nigmatiques, nous d\u00e9couvrons leurs biais, leurs impacts sociaux, leurs questions de s\u00e9curit\u00e9 et leurs implications environnementales, et nous nous confrontons aux co\u00fbts cach\u00e9s de ces merveilles technologiques qui font \u00e9cho aux refrains obs\u00e9dants du chef-d’\u0153uvre intemporel de Pink Floyd.<\/p>\n","protected":false},"author":1,"featured_media":43,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[25],"tags":[28,26,7,27],"class_list":["post-42","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ethique","tag-enjeux","tag-ethique","tag-ia-generative","tag-vie-privee"],"_links":{"self":[{"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/posts\/42","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/comments?post=42"}],"version-history":[{"count":1,"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/posts\/42\/revisions"}],"predecessor-version":[{"id":44,"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/posts\/42\/revisions\/44"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/media\/43"}],"wp:attachment":[{"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/media?parent=42"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/categories?post=42"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/alain.goudey.eu\/side\/wp-json\/wp\/v2\/tags?post=42"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}