Démystifier l’IA générative : le vrai, le faux et l’incertain

L’IA générative, une IA à part – VRAI

Dans le roy­aume de l’intelligence arti­fi­cielle, il existe de nom­breuses var­iétés. Par­mi celles-ci, l’IA généra­tive, comme son nom l’indique, se dis­tingue par sa capac­ité à génér­er du con­tenu : texte, image, vidéo… Quelques-uns des sys­tèmes actuels les plus con­nus sont Chat­G­PT, Bard, Mid­jour­ney ou encore DALL‑E.

Leur principe repose sur des prob­a­bil­ités : ils prédis­ent le mot suiv­ant ou le pix­el voisin, en fonc­tion de ce qui leur sem­ble le plus vraisem­blable. Pour cela, l’IA généra­tive s’appuie sur un grand mod­èle de langue, c’est-à-dire un réseau pro­fond de neu­rones arti­fi­ciels qui a été entraîné sur une vaste quan­tité de don­nées. Ain­si, le logi­ciel iden­ti­fie les cor­re­spon­dances les plus prob­a­bles selon le contexte.

L’IA générative est intelligente – FAUX

Ce fonc­tion­nement per­met aux IA généra­tives de réalis­er des per­for­mances remar­quables. Celles-ci parvi­en­nent à établir des liens entre de mul­ti­ples élé­ments, à par­tir d’un énorme vol­ume de don­nées. Un proces­sus com­plexe, qui implique un grand nom­bre d’opérations math­é­ma­tiques, exé­cutées très rapidement.

Néan­moins, peut-on par­ler d’ « intel­li­gence » ? Si les résul­tats four­nis peu­vent être bluffants, le mode opéra­toire pour y par­venir n’a rien à voir avec l’intelligence humaine. Il ne s’agit pas non plus d’une « IA générale », qui serait capa­ble d’apprendre n’importe quelle tâche réal­isée par un être humain. Aujourd’hui, l’IA généra­tive s’apparente plutôt à une mul­ti­pli­ca­tion d’IA étroites, réu­nies au sein d’un même modèle.

L’IA générative peut tout faire – INCERTAIN

L’IA généra­tive est actuelle­ment employée dans de nom­breux domaines : cer­tains s’en ser­vent pour créer de la musique, d’autres des paysages de jeux vidéo… Quant aux mod­èles de langue ini­tiale­ment util­isés pour cap­tur­er la séman­tique des mots, ils peu­vent aujourd’hui génér­er du texte, répon­dre à des ques­tions, traduire du con­tenu, ou encore génér­er du code. Mais ces out­ils pos­sè­dent tout de même leurs lim­ites, liées notam­ment aux jeux de don­nées util­isés durant leur appren­tis­sage. Les cor­réla­tions iden­ti­fiées à cette étape peu­vent, en effet, con­duire à des erreurs au moment de la généra­tion. De plus, les éventuels biais ren­con­trés lors de la phase d’entraînement transparais­sent dans les résul­tats. Par exem­ple, un sys­tème de tra­duc­tion aura ten­dance à traduire « the nurse » par « l’infirmière », en rai­son des stéréo­types asso­ciés au métier.

Par ailleurs, les IA généra­tives n’affichent pas tou­jours une grande sta­bil­ité. Faites le test avec Chat­G­PT : posez une même ques­tion en vari­ant la for­mu­la­tion, et vous obtien­drez par­fois des répons­es dif­férentes ! Les sys­tèmes reposent sur des opéra­tions math­é­ma­tiques qui trans­for­ment l’information en vecteurs de grande dimen­sion, ce qui rend com­plexe l’explicabilité de ces sys­tèmes. Des recherch­es sont d’ailleurs en cours sur ce sujet.

Une IA générative peut se tromper – VRAI

Il faut bien garder à l’esprit qu’une IA généra­tive ne vise pas à livr­er la vérité, mais à max­imiser une vraisem­blance, à par­tir de ses don­nées d’entraînement. Elle fait quelque­fois émerg­er de fauss­es cor­réla­tions entre les mots. De plus, si les don­nées d’entraînement con­ti­en­nent des erreurs ou des biais, le sys­tème les repro­duira sans aucun doute. Il ne cherche, de toute façon, pas à savoir si l’information fournie est exacte ou sour­cée ! Ce fonc­tion­nement con­duit à l’apparition fréquente et imprévis­i­ble d’ « hal­lu­ci­na­tions », c’est-à-dire de répons­es erronées ou d’images incohérentes.

Par exem­ple, d’après une étude de l’université de Hong Kong¹, Chat­G­PT (ver­sion GPT‑3.5) afficherait un taux de per­ti­nence de 64 %. Croiriez-vous sur parole quelqu’un qui a plus d’une chance sur trois de se tromper ?

Les IA génératives vont se rebeller et prendre le pouvoir – FAUX

Dès que l’intelligence arti­fi­cielle sem­ble franchir une nou­velle étape, les fan­tasmes de soulève­ment des machines ressur­gis­sent, influ­encés par la sci­ence-fic­tion. Il ne faut pas ten­dre vers l’anthropomorphisme à out­rance : les IA généra­tives ne font que prédire des prob­a­bil­ités – de façon certes com­plexe. Elles ne ressen­tent pas d’émotions et n’ont pas davan­tage de con­science. Elles ne peu­vent donc pas avoir une « volon­té » de se rebeller.

En 2015, le chercheur améri­cain Andrew Ng², spé­cial­iste de l’IA, déclarait que crain­dre une éventuelle révolte de l’IA reve­nait à « s’inquiéter de la sur­pop­u­la­tion sur Mars », alors que « nous n’avons encore jamais mis les pieds sur la planète. » Même si la tech­nolo­gie a sen­si­ble­ment évolué ces dernières années, la com­para­i­son paraît tou­jours d’actualité !

L’IA générative pose des problèmes de sécurité et de confidentialité – INCERTAIN

Aujourd’hui, il faut avoir con­science que la plu­part des mod­èles d’IA généra­tive sont hébergés sur des serveurs améri­cains. Or, en ver­tu du Patri­ot Act et du Cloud Act, les don­nées envoyées peu­vent être récupérées par les autorités améri­caines. De plus, il est cer­tain que les don­nées fournies à ces IA généra­tives sont réu­til­isées pour amélior­er les mod­èles, don­nant la pos­si­bil­ité de retrou­ver ces don­nées lors de futures inter­ro­ga­tions. Cela peut donc représen­ter un risque, en par­ti­c­uli­er pour les entre­pris­es, qui voient la sécu­rité et la con­fi­den­tial­ité de leurs don­nées men­acées. Il existe toute­fois des solu­tions d’hébergement avec des espaces dédiés et fer­més, ou encore des alter­na­tives d’IA généra­tives open source pou­vant être instal­lées sur des serveurs locaux.

Cepen­dant, comme sou­vent, la régle­men­ta­tion finit par s’adapter au nou­veau con­texte tech­nologique. Ain­si, fin 2023, le Con­seil de l’Union européenne et le Par­lement européen sont par­venus à un accord quant à une lég­is­la­tion sur l’intelligence arti­fi­cielle (AI Act)³. Un texte qui sera sans doute affiné, mais qui prévoit de mieux encadr­er le recours à l’IA, en con­for­mité avec le droit européen (dont le RGPD).

L’IA générative peut remplacer l’être humain sur certaines tâches – VRAI

Les fac­ultés de l’IA généra­tive la ren­dent très utile dans la sphère pro­fes­sion­nelle. Elle peut rédi­ger des con­tenus, écrire des lignes de code, établir le plan d’une for­ma­tion… Mais ce qu’elle pro­duit néces­site générale­ment l’œil humain pour en véri­fi­er l’exactitude, per­son­nalis­er le mes­sage, y apporter une touche plus sen­si­ble… Il s’agit ain­si d’un out­il per­me­t­tant de gag­n­er en pro­duc­tiv­ité et donc de libér­er du temps pour tra­vailler différemment.

Cer­tains métiers pour­raient toute­fois dis­paraître, faute de valeur ajoutée suff­isante. Mais n’est-ce pas tou­jours le cas avec le pro­grès tech­nique ? Les allumeurs de réver­bères, par exem­ple, n’ont-ils pas dis­paru avec l’arrivée de l’éclairage électrique ?

L’IA générative va mettre des millions de personnes au chômage – FAUX

Restons cepen­dant mesurés quant aux con­séquences pro­fes­sion­nelles de l’IA généra­tive. Il ne s’agit finale­ment que d’un nou­v­el out­il – très utile – au ser­vice de l’être humain. Et les évo­lu­tions du marché du tra­vail dépen­dent de nom­breux paramètres… Les caiss­es automa­tiques ont-elles fait dis­paraître les caissiers et cais­sières ? La for­ma­tion en ligne a‑t-elle rem­placé les écoles et les enseignants ?

De plus, l’essor de l’IA généra­tive devrait s’accompagner de nou­veaux métiers, à l’image du prompt engi­neer­ing, dis­ci­pline visant à opti­miser les requêtes for­mulées à l’IA, de sorte à obtenir les meilleurs résul­tats pos­si­bles. Ain­si, selon l’Organisation inter­na­tionale du Tra­vail (OIT)⁴, « l’IA généra­tive est plus sus­cep­ti­ble d’augmenter que de détru­ire les emplois en automa­ti­sant cer­taines tâch­es plutôt qu’en rem­plaçant entière­ment un rôle. »

Jusqu’où ira l’IA générative ? – INCERTAIN

Qu’en sera-t-il à long terme ? Com­ment l’IA généra­tive va-t-elle évoluer ? Prévoir son avenir est déli­cat : qui aurait réus­si à prédire la sit­u­a­tion actuelle, il y a quelques années ? Néan­moins, cer­taines ten­dances se dessi­nent, comme l’hybridation des sys­tèmes. Par exem­ple, le RAG (retrieval-aug­ment­ed gen­er­a­tion, « généra­tion aug­men­tée de récupéra­tion ») con­siste à com­bin­er une IA généra­tive avec un moteur de recherche, pour amélior­er la per­ti­nence des résul­tats et lim­iter les hallucinations.

Enfin, l’IA généra­tive ne pour­ra se dévelop­per sans une remise en ques­tion de son empreinte écologique. Ses mod­èles exi­gent, en effet, énor­mé­ment de don­nées et de puis­sance de cal­cul. Une nou­velle voie est ain­si déjà explorée, afin d’optimiser les ressources néces­saires : l’IA frugale.

Propos recueillis par Bastien Contreras