Le design addictif des réseaux sociaux dans le viseur des régulateurs

Le 6 février 2026, la Com­mis­sion euro­péenne émet un avis pré­li­mi­naire sur la vio­la­tion du Digi­tal Ser­vices Actpar le réseau social chi­nois Tik­Tok¹. La Com­mis­sion estime que l’en­tre­prise Byte­Dance der­rière Tik­Tok a échoué à « prendre des mesures rai­son­nables, pro­por­tion­nées et effec­tives pour atté­nuer les risques émer­geant du desi­gn addic­tif » de son pro­duit. Elle vise par là des fonc­tion­na­li­tés comme le scroll infi­ni, la lec­ture auto­ma­tique et les noti­fi­ca­tions, mais aus­si son IA de recom­man­da­tion, c’est-à-dire l’al­go­rithme qui répond à chaque clic, swipe ou scroll d’un uti­li­sa­teur en quête d’un nou­veau conte­nu. C’est la pre­mière fois qu’une ins­ti­tu­tion démo­cra­tique s’at­taque à un algo­rithme au cœur du contrôle des flux de l’in­for­ma­tion du monde moderne.

Mais cette attaque juri­dique n’est pas iso­lée. Fin jan­vier 2026, dans la ver­sion pro­vi­soire du pro­jet de loi visant à pro­té­ger les mineurs des risques aux­quels les expose l’utilisation des réseaux sociaux, est intro­duit un Article 1er bis, qui lui aus­si, cible spé­ci­fi­que­ment les IA de recom­man­da­tion². « Pour les infor­ma­tions ain­si mises en avant, la res­pon­sa­bi­li­té du four­nis­seur peut être enga­gée en qua­li­té d’éditeur », affirme l’a­li­néa 6–8‑1-II. Et dans le même temps, en Cali­for­nie, le 9 février 2026, un pro­cès accuse Meta et You­Tube d’a­voir « fabri­qué l’ad­dic­tion »³, notam­ment via les IA de recom­man­da­tion, en allant ain­si bien au-delà du simple héber­ge­ment de conte­nus, enca­dré par la Sec­tion 230 très peu exi­geante pour les héber­geurs⁴. En deux semaines, les IA de recom­man­da­tion ont été davan­tage ciblées juri­di­que­ment qu’au cours de leurs deux décen­nies d’exis­tence antérieures.

Pour­tant, cela fait au moins une décen­nie que des scien­ti­fiques, des jour­na­listes et des défen­seurs des droits humains alarment sur le risque civi­li­sa­tion­nel de ces IA de recom­man­da­tion, par­fois appe­lés sys­tèmes de cura­tion, ou par­fois juste « l’al­go­rithme », notam­ment par les créa­teurs et les consom­ma­teurs de conte­nus sur les réseaux sociaux. Les accu­sa­tions vont de l’ex­ploi­ta­tion des vul­né­ra­bi­li­tés psy­cho­lo­giques des uti­li­sa­teurs à l’in­ci­ta­tion au sui­cide, en pas­sant par une dégra­da­tion des facul­tés cog­ni­tives, une com­pli­ci­té au cybe­rhar­cè­le­ment de meute, une ampli­fi­ca­tion de la dés­in­for­ma­tion de masse, des désta­bi­li­sa­tions d’é­lec­tions démo­cra­tiques et des contri­bu­tions à des géno­cides, avec connais­sance de cause. Dans cet article, nous allons com­pi­ler quelques-uns des argu­ments scien­ti­fiques les plus com­pro­met­tants pour ces IA.

Le 27 novembre 2025, paraît dans Science une publi­ca­tion sur l’im­pact monu­men­tal de la recom­man­da­tion de conte­nus sur les uti­li­sa­teurs⁵. L’é­tude invite un ensemble d’u­ti­li­sa­teurs de X/Twitter à ins­tal­ler une exten­sion navi­ga­teur. Cette exten­sion va ensuite assi­gner les uti­li­sa­teurs à dif­fé­rents groupes. Pour cer­tains, aucune inter­ven­tion n’au­ra lieu. Pour d’autres, l’ex­ten­sion va réor­don­ner les mes­sages pro­po­sés par l’IA de recom­man­da­tion de X/Twitter, en met­tant en pre­mier les plus éner­vés ou les plus hai­neux vis-à-vis du groupe oppo­sé. Pour d’autres l’ex­ten­sion va au contraire prio­ri­ser les conte­nus les plus calmes ou poli­ti­que­ment bien­veillants. Seule­ment, après une semaine d’in­ter­ven­tion, de manière frap­pante, cette inter­ven­tion minime affecte déjà la pola­ri­sa­tion affec­tive des uti­li­sa­teurs, c’est-à-dire leur degré d’an­ti­pa­thie émo­tion­nelle vis-à-vis du clan oppo­sé, avec une ampleur que les auteurs estiment « com­pa­rable à 3 ans de chan­ge­ment d’at­ti­tudes aux États-Unis ». 

De manière très insi­dieuse, quand bien même les uti­li­sa­teurs savaient qu’ils par­ti­ci­paient à une expé­rience, ils étaient inca­pables devi­ner la nature de l’in­ter­ven­tion dont ils étaient la cible. Le réor­don­nan­ce­ment des mes­sages publiés était, en un sens, sub­li­mi­nal, ou du moins, sous leur seuil de conscience. Voi­là qui fait écho à l’a­li­néa 5.1.a de l’AI Act⁶, entré en vigueur dans l’U­nion euro­péenne, qui inter­dit les sys­tèmes d’IA qui ont « recours à des tech­niques sub­li­mi­nales […] avec pour objec­tif ou effet d’al­té­rer sub­stan­tiel­le­ment le com­por­te­ment d’une per­sonne ». Bien enten­du, d’autres condi­tions sont évo­quées dans cet ali­néa, et l’é­tude dans Science ne suf­fit cer­tai­ne­ment pas à conclure à l’in­ter­dic­tion des IA de recom­man­da­tion. Néan­moins, elle sou­lève des ques­tions ver­ti­gi­neuses sur les inves­ti­ga­tions qu’il serait judi­cieux de prio­ri­ser pour pro­té­ger leurs 3 mil­liards d’u­ti­li­sa­teurs, et sur l’ap­pli­ca­tion des régle­men­ta­tions déjà en vigueur.

D’au­tant que l’é­tude de Science n’est pas iso­lée. Onze ans plus tôt, le 2 juin 2014, parais­sait déjà dans PNA­Sune étude qui mon­trait cet impact monu­men­tal des IA⁷. L’in­ter­ven­tion y était éga­le­ment minime. Il s’a­gis­sait de reti­rer du flux de recom­man­da­tion les conte­nus émo­tion­nels posi­tifs ou néga­tifs, avec une pro­ba­bi­li­té entre 10% et 90%. Après une semaine, de manière stu­pé­fiante, le simple retrait d’une frac­tion des conte­nus émo­tion­nels d’un type modi­fiait le com­por­te­ment des uti­li­sa­teurs confor­mé­ment à ce retrait. Autre­ment dit, moins les uti­li­sa­teurs voyaient de conte­nus néga­tifs, moins les conte­nus qu’ils publiaient étaient néga­tifs. De manière tout aus­si frap­pante, réduire les conte­nus émo­tion­nels, posi­tifs ou néga­tifs, rédui­sait d’en­vi­ron 5 écarts-types l’ac­ti­vi­té des utilisateurs.

Nul doute que ce der­nier résul­tat est l’ob­jet d’ob­ser­va­tions récur­rentes de tous les réseaux sociaux, sachant que l’en­ga­ge­ment des uti­li­sa­teurs est direc­te­ment lié à la capa­ci­té des pla­te­formes à leur mon­trer des publi­ci­tés ultra-ciblées. Or, on parle ici d’un mar­ché de cen­taines de mil­liards de dol­lars par an, dix fois plus que celui des chat­bots aujourd’­hui. Mal­gré des finan­ce­ments cir­cu­laires dou­teux, Ope­nAI déclare en effet « seule­ment » 20 mil­liards de dol­lars de chiffres d’affaires en 2025. Une goutte d’eau en com­pa­rai­son des 201 mil­liards de Meta. Vu les mon­tants en jeu, il n’est alors pas éton­nant de voir les IA de recom­man­da­tion être exces­si­ve­ment opti­mi­sées pour cap­ter les uti­li­sa­teurs. Et ce fai­sant, il faut s’at­tendre à ce qu’elles recom­mandent mas­si­ve­ment des conte­nus extrê­me­ment char­gés émo­tion­nel­le­ment, aus­si bien posi­ti­ve­ment que néga­ti­ve­ment, de sorte à rendre le réseau social aus­si addic­tif que possible.

Si le desi­gn addic­tif des IA de recom­man­da­tion est aujourd’­hui l’ob­jet de leurs pour­suites judi­ciaires, par la Com­mis­sion euro­péenne et en Cali­for­nie, les élé­ments à charge com­pro­met­tants s’ac­cu­mulent vis-à-vis de leur rôle catas­tro­phique sur le bien-être des uti­li­sa­teurs, la sécu­ri­té de popu­la­tions eth­niques et l’in­té­gri­té des démo­cra­ties. Citons par exemple un son­dage bri­tan­nique révé­lant que près de la moi­tié des jeunes déclarent qu’ils auraient pré­fé­ré gran­dir sans Inter­net⁸, l’ac­cu­sa­tion par l’O­NU et Amnes­ty Inter­na­tio­nal que Face­book a sciem­ment contri­bué au géno­cide des Rohin­gyas en ampli­fiant mas­si­ve­ment les appels aux meurtres⁹, et l’an­nu­la­tion des élec­tions pré­si­den­tielles en Rou­ma­nie en 2024 suite à des ingé­rences infor­ma­tion­nelles sur Tik­Tok¹⁰.

Les élé­ments à charge com­pro­met­tants s’ac­cu­mulent vis-à-vis de leur rôle catas­tro­phique sur le bien-être des uti­li­sa­teurs, la sécu­ri­té de popu­la­tions eth­niques et l’in­té­gri­té des démocraties. 

Au-delà d’une cor­ré­la­tion frap­pante entre l’a­dop­tion mas­sive des réseaux sociaux autour de 2012 et l’é­vo­lu­tion inquié­tante des indi­ca­teurs, comme le taux d’anxiété et de dépres­sion chez les jeunes¹¹, le nombre de morts dans des guerres¹² et l’in­dice de démo­cra­tie libé­rale¹³, on peut iden­ti­fier de nom­breuses caté­go­ries argu­men­taires pré­oc­cu­pantes sur les dif­fé­rents impacts néga­tifs des réseaux sociaux, comme la parole des vic­times et des témoins, les études épi­dé­mio­lo­giques¹⁴, les essais cli­niques ran­do­mi­sés¹⁵, les expé­riences natu­relles¹⁶ et les fuites de docu­ments internes. 

En par­ti­cu­lier, à l’ins­tar de cas anté­rieurs de mar­chands du doute sur le tabac, le pétrole, le sucre, les pes­ti­cides, les PFAS, etc., ces docu­ments internes révèlent que les indus­triels ont conclu que leurs pro­duits étaient nocifs, par­fois plu­sieurs décen­nies avant que les cher­cheurs en viennent par eux-mêmes à cette conclu­sion. Les Face­book Files en par­ti­cu­lier, révé­lés par la lan­ceuse d’a­lerte Frances Hau­gen en 2021, sont extrê­me­ment com­pro­met­tants vis-à-vis des impli­ca­tions catas­tro­phiques des IA de recom­man­da­tion pour la san­té men­tale des jeunes filles, pour la qua­li­té du jour­na­lisme et pour le dis­cours des poli­tiques, pous­sant notam­ment ces der­niers à adop­ter sys­té­ma­ti­que­ment des tons clivants. 

Or, contrai­re­ment aux autres indus­tries, les géants du numé­rique ont l’a­van­tage de dis­po­ser d’une influence monu­men­tale sur la recherche aca­dé­mique¹⁷ et d’un mono­pole des don­nées com­pro­met­tantes, qu’ils cherchent acti­ve­ment à pro­té­ger même dans un cadre juri­dique. Dans ce contexte, tout scien­ti­fique qui affirme « on n’a pas prou­vé que » sans pré­ci­ser que l’ab­sence de preuve est ali­men­tée par l’o­pa­ci­té volon­taire des accu­sés me semble pro­po­ser une inter­pré­ta­tion pro­blé­ma­tique, et peut-être même irres­pon­sable, de l’é­tat des connais­sances sur les rela­tions com­plexes entre la science et les industriels.

Au contraire, vu la mon­tagne d’élé­ments à charge com­pro­met­tants vis-à-vis des géants du numé­rique et de leurs IA de recom­man­da­tion, et sachant de sur­croît leur inquié­tante proxi­mi­té avec l’au­to­ri­ta­risme chi­nois¹⁸ ou avec un pou­voir états-unien qua­li­fié de néo­co­lo­nial par le Pré­sident Macron, il semble être deve­nu judi­cieux d’in­ves­tir mas­si­ve­ment dans la concep­tion d’al­ter­na­tives sou­ve­raines et conformes aux normes démo­cra­tiques, comme le pro­posent des pro­jets comme EU OS, Fra­ma­Soft, Mas­to­don, EuroS­ky ou Tour­ne­sol, un pro­jet non lucra­tif spé­cia­li­sé dans la concep­tion d’IA de recom­man­da­tion au ser­vice de l’in­té­rêt géné­ral. Ain­si que d’a­dop­ter un ton radi­ca­le­ment plus accu­sa­teur, comme l’a fait la Com­mis­sion euro­péenne pour TikTok.