Les algorithmes de recommandation sont-ils source de polarisation ?

Le nombre de per­sonnes ayant des opi­nions extrêmes, que ce soit sur des sujets tels que la poli­tique, la reli­gion ou le chan­ge­ment cli­ma­tique – pour ne citer que trois exemples – a aug­men­té ces der­nières années¹²³. Cette « pola­ri­sa­tion », comme on l’ap­pelle, est dan­ge­reuse, car elle pour­rait poten­tiel­le­ment affai­blir la démo­cra­tie elle-même si on la lais­sait se répandre sans entrave. Les pla­te­formes en ligne telles que les médias sociaux jouent un rôle impor­tant dans ce contexte, mais les méca­nismes par les­quels elles favo­risent la pola­ri­sa­tion ne sont pas encore tota­le­ment compris.

« Les algo­rithmes de recom­man­da­tion façonnent pro­fon­dé­ment notre expé­rience numé­rique aujourd’­hui, en déter­mi­nant les films que nous regar­dons ou les chan­sons que nous écou­tons », explique Gior­da­no De Mar­zo. Ces algo­rithmes sont lar­ge­ment uti­li­sés par la plu­part des sites web que nous visi­tons chaque jour, les exemples les plus connus étant les mes­sages « sug­gé­rés pour vous » sur Face­book, les « articles recom­man­dés » sur Ama­zon ou le sys­tème Page­Rank de Google. Ils sont conçus pour nous per­mettre d’ac­cé­der faci­le­ment au conte­nu le plus sus­cep­tible de nous inté­res­ser, pour maxi­mi­ser notre enga­ge­ment sur la plateforme.

Il s’a­git d’une avan­cée signi­fi­ca­tive dans la créa­tion d’un éco­sys­tème d’in­for­ma­tions en ligne plus équi­li­bré et plus inclusif 

Une équipe de cher­cheurs diri­gée par Gior­da­no De Mar­zo, du dépar­te­ment de phy­sique de l’u­ni­ver­si­té « Sapien­za » de Rome, en Ita­lie, a étu­dié l’impact d’un algo­rithme de fil­trage col­la­bo­ra­tif d’utilisateur à uti­li­sa­teur sur le com­por­te­ment d’un groupe de per­sonnes expo­sé répé­ti­ti­ve­ment. Ce type d’al­go­rithme de recom­man­da­tion est cou­ram­ment uti­li­sé par des géants du com­merce en ligne tels qu’A­ma­zon pour iden­ti­fier les nou­veaux conte­nus – sur la base de l’activité pas­sée – qui inté­res­se­ront le plus les uti­li­sa­teurs. À l’aide de tech­niques ana­ly­tiques et numé­riques, les cher­cheurs ont pu simu­ler l’é­vo­lu­tion des pré­fé­rences des uti­li­sa­teurs selon les recom­man­da­tions algo­rith­miques. Leurs ana­lyses ont révé­lé trois régimes ou « phases » dis­tincts dans les états de la base d’u­ti­li­sa­teurs qui piègent les gens dans ce que l’on appelle des « bulles de filtre ».

Ces états dépendent de fac­teurs clés tels que « la force » avec laquelle l’al­go­rithme recom­mande des articles appré­ciés par des uti­li­sa­teurs simi­laires, ou bien qui sont popu­laires dans l’en­semble. L’é­tude a éga­le­ment iden­ti­fié des stra­té­gies per­met­tant à un algo­rithme de four­nir des recom­man­da­tions per­son­na­li­sées, sans créer de bulles de filtres. Cela contri­bue­rait à l’é­la­bo­ra­tion d’al­go­rithmes moins pola­ri­sants à l’avenir.

Le fil­trage col­la­bo­ra­tif⁴⁵ est l’un des algo­rithmes de recom­man­da­tion les plus connus et les plus uti­li­sés. Il repose sur l’idée que le com­por­te­ment pas­sé des uti­li­sa­teurs peut être exploi­té pour iden­ti­fier les nou­veaux conte­nus qu’ils appré­cie­ront le plus. L’in­con­vé­nient, c’est que ces algo­rithmes peuvent conduire à une boucle de rétro­ac­tion. Cette boucle tend natu­rel­le­ment à biai­ser les choix futurs, rédui­sant ain­si la diver­si­té du conte­nu dis­po­nible. C’est une boucle de cet aca­bit qui conduit à des effets de bulles de filtre, où les uti­li­sa­teurs ne sont pas expo­sés à des pers­pec­tives nou­velles ou dif­fé­rentes, mais sim­ple­ment à des infor­ma­tions et des conte­nus ali­gnés sur leurs croyances exis­tantes. En clair, ces boucles par­ti­cipent à la « pola­ri­sa­tion ». Elles sont simi­laires aux « chambres d’écho », qui ont été plus lar­ge­ment étu­diées⁶⁷⁸. Tou­te­fois, les bulles sont pro­duites par des recom­man­da­tions algo­rith­miques biai­sées dans les pla­te­formes en ligne, plu­tôt que par l’interaction entre des uti­li­sa­teurs par­ta­geant les mêmes opinions.

Dans cette nou­velle étude, publiée dans Phy­si­cal Review E, Gior­da­no De Mar­zo et ses col­lègues ont décou­vert qu’en fonc­tion de deux para­mètres, la force du biais de simi­la­ri­té (a) et la force du biais de popu­la­ri­té (b), un sys­tème de fil­trage col­la­bo­ra­tif peut exis­ter dans trois phases dif­fé­rentes. Il s’a­git du désordre, du consen­sus et de la pola­ri­sa­tion. En outre, lorsque les deux biais sont suf­fi­sam­ment impor­tants, le sys­tème forme des groupes pola­ri­sés, ce qui conduit à l’ef­fet de « bulle de filtre ». Heu­reu­se­ment, cet incon­vé­nient peut être évi­té à la fron­tière entre le désordre et la pola­ri­sa­tion. L’al­go­rithme situé à cette limite peut four­nir des recom­man­da­tions signi­fi­ca­tives sans induire de pola­ri­sa­tion de l’o­pi­nion ou de « bulles de filtres ».

« Notre recherche four­nit une approche sys­té­ma­tique pour quan­ti­fier et ana­ly­ser l’im­pact du fil­trage col­la­bo­ra­tif uti­li­sa­teur-uti­li­sa­teur », explique Gior­da­no De Mar­zo. « En uti­li­sant une approche de phy­sique sta­tis­tique, nous avons pu simu­ler et ana­ly­ser la manière dont les pré­fé­rences de conte­nu des uti­li­sa­teurs changent en réponse aux recom­man­da­tions algo­rith­miques. »

La nou­velle méthode s’ap­puie sur un mélange de modé­li­sa­tions mathé­ma­tiques et de simu­la­tions infor­ma­tiques. « Nous avons notam­ment exploi­té des tech­niques telles que la théo­rie des pro­ces­sus sto­chas­tiques, la théo­rie des pro­ba­bi­li­tés et les modèles d’urnes polya (une famille de modèles d’urnes per­met­tant d’in­ter­pré­ter de nom­breux modèles sta­tis­tiques cou­rants). Sur le plan infor­ma­tique, nous avons uti­li­sé des simu­la­tions de Monte Car­lo », explique Gior­da­no De Marzo.

Ces ana­lyses pour­raient contri­buer au déve­lop­pe­ment de nou­velles métho­do­lo­gies pour la concep­tion d’al­go­rithmes de recom­man­da­tion effi­caces, ajoute-t-il. « En com­pre­nant les méca­nismes qui conduisent aux « bulles de filtres », nous pou­vons déve­lop­per des sys­tèmes qui favo­risent un large éven­tail de conte­nus, atté­nuant ain­si les risques de pola­ri­sa­tion tout en ren­for­çant l’en­ga­ge­ment des uti­li­sa­teurs et la diver­si­té des conte­nus. Il s’a­git d’une avan­cée signi­fi­ca­tive dans la créa­tion d’un éco­sys­tème d’in­for­ma­tions en ligne plus équi­li­bré et plus inclu­sif ».

Les cher­cheurs vont main­te­nant étu­dier l’im­pact des inter­ac­tions entre les uti­li­sa­teurs (comme on l’ob­serve cou­ram­ment dans les réseaux sociaux) sur les algo­rithmes de recom­man­da­tion. « L’a­jout de ce para­mètre pour­rait consi­dé­ra­ble­ment enri­chir notre com­pré­hen­sion de l’in­te­rac­tion entre la dyna­mique sociale et la dis­tri­bu­tion de conte­nu par algo­rithme. Cela offri­ra une vision plus holis­tique des envi­ron­ne­ments numé­riques », explique Gior­da­no De Marzo.

Ils étu­die­ront éga­le­ment le rôle des algo­rithmes de recom­man­da­tion de liens, c’est-à-dire ceux qui sug­gèrent des amis vers les­quels nous éta­bli­rons des liens. Enfin, ils exploitent actuel­le­ment de grands modèles de lan­gage (LLM) pour ali­men­ter des simu­la­tions plus réa­listes. « Ces simu­la­tions consti­tue­ront le point de départ idéal pour une com­pré­hen­sion plus détaillée de la dyna­mique en ligne et des algo­rithmes de recom­man­da­tion », explique Gior­da­no De Marzo.

Isabelle Dumé