Intelligence artificielle générale : comment va-t-on la réguler ?

L’In­tel­li­gence Arti­fi­cielle (IA) est actuel­le­ment en pleine expan­sion et trans­forme de nom­breux aspects de notre quo­ti­dien. Elle opti­mise le fonc­tion­ne­ment des moteurs de recherche et per­met de mieux ana­ly­ser les requêtes pour pro­po­ser les résul­tats les plus per­ti­nents¹. Elle amé­liore les sys­tèmes de sur­veillance qui l’utilisent désor­mais pour détec­ter des com­por­te­ments sus­pects². Elle offre une aide pré­cieuse dans le domaine de la san­té pour ana­ly­ser des images médi­cales, déve­lop­per de nou­veaux médi­ca­ments et per­son­na­li­ser les trai­te­ments³.

Pour autant, il existe une dis­tinc­tion fon­da­men­tale entre l’IA que nous connais­sons aujourd’­hui, sou­vent qua­li­fiée de « clas­sique », et un concept plus ambi­tieux : l’In­tel­li­gence Arti­fi­cielle Géné­rale (IAG).

L’IA clas­sique est conçue pour excel­ler dans des tâches spé­ci­fiques et peut dépas­ser les meilleurs experts ou algo­rithmes spé­cia­li­sés. L’IAG, quant à elle, aspire à une intel­li­gence com­pa­rable à celle d’un être humain. Elle vise­rait à com­prendre le monde dans toute sa com­plexi­té, à apprendre de manière auto­nome et à s’a­dap­ter à des situa­tions nou­velles. En d’autres termes, l’IAG serait capable de résoudre une grande varié­té de pro­blèmes, de rai­son­ner, de créer et d’a­voir une conscience de soi⁴.

Décou­vrez notre numé­ro spé­cial sur l’IA. Télé­char­gez-le ici

Les aver­tis­se­ments concer­nant l’es­sor de l’IA géné­ra­liste se mul­ti­plient, dres­sant un ave­nir sombre pour notre civi­li­sa­tion. Plu­sieurs per­son­na­li­tés émi­nentes du monde de la tech­no­lo­gie ont aler­té sur les effets néfastes de cette tech­no­lo­gie. Ste­phen Haw­king a for­mu­lé des craintes sur la pos­si­bi­li­té que l’IA sup­plante l’homme, entraî­nant une nou­velle ère où les machines pour­raient domi­ner⁵.

D’éminents pro­fes­seurs amé­ri­cains, tels Stuart Rus­sell pro­fes­seur à l’Université de Ber­ke­ley, ont par ailleurs sou­li­gné la bas­cule vers un uni­vers où l’intelligence arti­fi­cielle joue­ra un rôle incon­nu à ce stade, avec de nou­veaux risques à prendre en compte et anti­ci­per⁶.

Par ailleurs, Jerome Glenn du Mil­len­nium Pro­ject a décla­ré⁷ que « gou­ver­ner l’IAG pour­rait être le pro­blème de ges­tion le plus com­plexe que l’hu­ma­ni­té ait jamais ren­con­tré » et que « la moindre erreur pour­rait nous effa­cer de la sur­face de la Terre ». Ces asser­tions sug­gèrent une pers­pec­tive extrê­me­ment pes­si­miste, voire catas­tro­phiste, sur le déve­lop­pe­ment de l’IAG.

Une cri­tique fon­da­men­tale de l’im­mi­nence de l’IAG repose sur le « pro­blème de la com­plexi­té des valeurs » qui est un concept clef abor­dé notam­ment par Nick Bos­trom dans Super­in­tel­li­gence : che­mins, dan­gers, stra­té­gies⁸. Le pro­ces­sus d’évolution de la vie humaine ain­si que de la civi­li­sa­tion cor­res­pond à des mil­liards d’an­nées avec le déve­lop­pe­ment de nom­breux sys­tèmes com­plexes de sen­ti­ments, mais éga­le­ment de contrôles et de valeurs grâce aux inter­ac­tions nom­breuses et variées avec un envi­ron­ne­ment qui est à la fois phy­sique, bio­lo­gique, mais éga­le­ment social. En par­tant de cette pers­pec­tive, il est pos­tu­lé qu’une IAG auto­nome avec un niveau éle­vé de sophis­ti­ca­tion ne sau­rait être atteinte en quelques décennies. 

L’Australien Rod­ney Brooks, un des sym­boles et des pion­niers de la robo­tique ain­si que des théo­ries dites de la « cog­ni­tion incar­née », sou­tient, quant-à-lui, que ce qui va déter­mi­ner qu’une intel­li­gence est véri­ta­ble­ment auto­nome et sophis­ti­quée, c’est son inté­gra­tion au sein d’un corps et les inter­ac­tions conti­nues avec un envi­ron­ne­ment com­plexe sur une période suf­fi­sam­ment longue⁹. Ces élé­ments ren­forcent la thèse qui per­met d’envisager que l’IAG telle que décrite dans les scé­na­rios alar­mistes, est encore loin de deve­nir une réalité.

On a pu consta­ter ces der­nières années la mon­tée en puis­sance des grands modèles de lan­gage (LLM pour Large Lan­guage Model) comme ChatGPT, Gemi­ni, Copi­lot, etc. Ceux-ci ont démon­tré une impres­sion­nante capa­ci­té à assi­mi­ler de nom­breuses valeurs humaines impli­cites en s’appuyant sur une ana­lyse mas­sive de docu­ments écrits. Par son archi­tec­ture et son fonc­tion­ne­ment, ChatGPT pré­sente de nom­breuses limites¹⁰. Il ne per­met pas le rai­son­ne­ment logique, ses réponses sont par­fois peu fiables, sa base de connais­sances n’est pas adap­tée en temps réel et il est sen­sible aux attaques de type par injec­tion de conte­nu (« prompt injec­tion »).

Si ces modèles pos­sèdent des sys­tèmes de valeurs sophis­ti­qués, ils n’apparaissent pour­tant pas comme auto­nomes. Ils ne semblent pas, en effet, viser l’au­to­no­mie ou l’au­to-pré­ser­va­tion au sein d’un envi­ron­ne­ment à la fois com­plexe et variable. À ce titre, il est impor­tant de rap­pe­ler qu’une part très impor­tante de la com­mu­ni­ca­tion est liée à l’intonation et au lan­gage cor­po­rel¹¹, élé­ments qui ne sont pas du tout appré­hen­dés dans les inter­ac­tions avec les IA génératives.

Rap­pe­ler sim­ple­ment cette dis­tinc­tion (pro­fonde) appa­raît cru­ciale afin de mieux com­prendre dans quelles mesures l’inquiétude face à une super­in­tel­li­gence mal­veillante est infon­dée et exces­sive. Aujourd’hui les LLM ne peuvent être consi­dé­rés que comme des per­ro­quets appor­tant des réponses pro­ba­bi­listes (« sto­chas­tic par­rots » selon Emi­ly Ben­der¹²). Bien sûr, ils consti­tuent une rup­ture et il paraît néces­saire de régu­ler leur uti­li­sa­tion dès maintenant.

L’in­tel­li­gence future ne sau­rait, nous semble-t-il, être « arti­fi­cielle » au sens strict, c’est-à-dire conçue de toutes pièces. Mais elle serait émi­nem­ment col­lec­tive, émer­geant des connais­sances (voire de la sagesse) accu­mu­lées par l’humanité.

Il est réa­liste de consi­dé­rer que les IA actuelles, en tant que telles sont lar­ge­ment des outils et les incar­na­tions des sché­mas de pen­sées col­lec­tives, tendent vers la bien­veillance plu­tôt que le contrôle ou la domi­na­tion. Cette intel­li­gence col­lec­tive n’est rien de moins, ici, qu’une pro­fonde mémoire qui se nour­rit des valeurs civi­li­sées qui prônent notam­ment l’aide aux per­sonnes dans le besoin, le res­pect de l’en­vi­ron­ne­ment et le res­pect des autres.

Nous devons donc pro­té­ger ce patri­moine imma­té­riel et nous assu­rer qu’il vise à appor­ter un sou­tien et une aide aux humains plu­tôt qu’à leur trans­mettre des infor­ma­tions erro­nées ou les inci­ter à com­mettre des actions répré­hen­sibles. Au risque de faire preuve de mani­chéisme, sou­li­gnons que les LLM peuvent être uti­li­sés pour faire le bien¹³, mais éga­le­ment le mal¹⁴. 

Dans une démarche logique, les scé­na­rios alar­mistes dans les­quels des acteurs mal­veillants seraient ame­nés, à court terme, à pro­gram­mer des objec­tifs mani­fes­te­ment néfastes au cœur des IA appa­raissent a prio­ri comme exa­gé­rés. L’ar­gu­ment de la com­plexi­té des valeurs sug­gère que ces valeurs néga­tives se trou­ve­raient mal inté­grées au sein de la masse des valeurs posi­tives apprises. Par ailleurs, il semble pro­bable que les pro­gram­meurs bien inten­tion­nés (white hats) créent des IA qui pour­ront contrer les stra­té­gies des­truc­trices des IA mal­veillantes (black hats). Ce qui pour­rait ame­ner, assez natu­rel­le­ment, à une « course aux arme­ments » classique.

Un autre contre-argu­ment à une prise de contrôle mal­veillante des IA est leur poten­tiel éco­no­mique. En effet, actuel­le­ment, les IA grand public sont por­tées par des acteurs impor­tants du sec­teur éco­no­mique (Ope­nAI, Google, Micro­soft…) avec pour cer­tains d’entre eux au moins, une logique de ren­ta­bi­li­té. Celle-ci requiert la confiance de l’utilisateur dans l’usage de l’IA mise à dis­po­si­tion, mais éga­le­ment la pré­ser­va­tion des don­nées et des algo­rithmes consti­tuant l’IA en tant qu’actif imma­té­riel au cœur de l’activité éco­no­mique. Ain­si, les moyens de pro­tec­tion et de cyber­dé­fense enga­gés seront très importants.

Des ini­tia­tives ont déjà été prises afin de régu­ler l’IA spé­cia­li­sée. Pour autant, la régu­la­tion de l’In­tel­li­gence arti­fi­cielle géné­rale va néces­si­ter des mesures spé­ci­fiques. Au sein de ces ini­tia­tives, nous pou­vons citer l’AI Act en cours de consti­tu­tion au sein de l’Union Euro­péenne¹⁵. Les auteurs apportent par ailleurs les pro­po­si­tions sup­plé­men­taires suivantes :

• La mise en place d’un sys­tème de licences natio­nales qui per­met­tra de garan­tir que toute nou­velle IAG res­pecte les normes de sécu­ri­té nécessaires,
• Des sys­tèmes de véri­fi­ca­tion de la sécu­ri­té des IA dans des envi­ron­ne­ments contrô­lés avant leur auto­ri­sa­tion et leurs déploiements, 
• Le déve­lop­pe­ment d’une coopé­ra­tion inter­na­tio­nale plus avan­cée qui pour­rait don­ner lieu à des réso­lu­tions de l’Assemblée Géné­rale de l’ONU et à la mise en place de conven­tions sur l’IA.

Pour une régu­la­tion ration­nelle de l’IAG il faut une ana­lyse éclai­rée des enjeux et un équi­libre entre pré­ven­tion des risques et pro­mo­tion des béné­fices. Les ins­ti­tu­tions inter­na­tio­nales et les experts tech­niques vont jouer un rôle impor­tant pour la coor­di­na­tion des efforts néces­saires au déve­lop­pe­ment sûr et éthique de l’IAG. Une bonne gou­ver­nance et une régu­la­tion effi­cace de l’IAG néces­si­te­ront une approche dépassionnée.