Quand l’IA simule l’avenir de nos choix technologiques

Une cel­lule vir­tuelle n’est pas une cel­lule décrite avec davan­tage de détails. Elle per­met d’in​ter​ve​nir sur un sys­tème bio­lo­gique numé­rique : inhi­ber un gène, intro­duire une molé­cule, modi­fier un envi­ron­ne­ment, puis com­pa­rer les tra­jec­toires pro­duites. À l’autre extré­mi­té de l’é​chelle, les jumeaux numé­riques du sys­tème ter­restre ne cherchent plus seule­ment à repré­sen­ter le cli­mat. Ils per­mettent d’ex​plo​rer des scé­na­rios, de relier les résul­tats à l’eau, à l’éner​gie ou aux évé­ne­ments extrêmes et d’é​prou​ver des poli­tiques avant leur mise en œuvre. Dans les deux cas, le modèle cesse d’être une image que l’on regarde. Il devient un espace dans lequel on agit avant d’a​gir sur le réel.

Les modèles de monde pro­longent cette muta­tion. Un agent arti­fi­ciel ne pro­duit plus seule­ment une réponse : il main­tient une repré­sen­ta­tion opé­ra­toire de son envi­ron­ne­ment, anti­cipe les effets d’une action et explore plu­sieurs tra­jec­toires. DreamerV3 apprend ain­si en « ima­gi­nant » des futurs ; Genie pro­duit des envi­ron­ne­ments inter­ac­tifs à par­tir de vidéos ; GAIA‑1 génère plu­sieurs évo­lu­tions pos­sibles d’une scène de conduite. L’i​ni​tia​tive publiée en juillet 2026 par le Stan­ford Ins­ti­tute for Human-Cen­te­red Arti­fi­cial Intel­li­gence donne à ce mou­ve­ment une por­tée poli­tique : dès lors qu’un modèle de monde contri­bue à une déci­sion cri­tique, sa mesure et sa gou­ver­nance deviennent un pro­blème public.

Mais le dépla­ce­ment essen­tiel n’est ni la puis­sance de cal­cul ni le réa­lisme visuel. Une scène spec­ta­cu­laire peut être scien­ti­fi­que­ment pauvre si les causes n’y pro­duisent pas les mêmes effets, si les actions n’y laissent aucune trace ou si l’in​cer​ti​tude reste invi­sible. À l’in​verse, un envi­ron­ne­ment aus­tère peut deve­nir un labo­ra­toire puis­sant lors​qu’il conserve des états, impose des contraintes et accepte d’être contre­dit. Un monde simu­lé n’est pas d’a​bord un décor, c’est une hypo­thèse ren­due exécutable.

Nous avons long­temps deman­dé à la simu­la­tion si une tech­no­lo­gie fonc­tion­ne­rait. Cette ques­tion est deve­nue insuf­fi­sante. Une orga­ni­sa­tion n’a​dopte jamais un sys­tème dans le monde par­fai­te­ment contrô­lé qui a ser­vi à le tes­ter. Elle l’in​tro​duit dans un milieu incom­plet, peu­plé d’ac​teurs qui apprennent, contournent les règles, réor­ga­nisent leurs pra­tiques et trans­forment les don­nées. Il faut donc dépla­cer l’ob​jet de l’é​va​lua​tion : ne plus tes­ter seule­ment la tech­no­lo­gie, mais la déci­sion de l’a​dop​ter.

Nous appe­lons « sta­bi­li­té déci­sion­nelle » la capa­ci­té d’un choix à res­ter com­pré­hen­sible, révi­sable et défen­dable lorsque son envi­ron­ne­ment varie. Une déci­sion stable n’est pas immo­bile, elle peut chan­ger, mais les rai­sons de ce chan­ge­ment sont connues : les res­pon­sables savent quelles hypo­thèses sou­tiennent leur choix, quelles variables doivent être sur­veillées et quels seuils imposent une révi­sion. La simu­la­tion ne cherche plus prin­ci­pa­le­ment le futur le plus pro­bable. Elle recherche les futurs dans les­quels la déci­sion cesse d’at​teindre son objectif.

La simu­la­tion ne cherche plus prin­ci­pa­le­ment le futur le plus pro­bable. Elle recherche les futurs dans les­quels la déci­sion cesse d’at​teindre son objectif.

Le résul­tat utile n’est donc pas un score unique. C’est une carte des vul­né­ra­bi­li­tés de la déci­sion : les variables capables d’in​ver​ser le choix, les com­bi­nai­sons qui pro­voquent une rup­ture, les signaux à obser­ver après le déploie­ment. Cette approche dis­tingue ce qui doit être ren­du robuste, ce qui doit res­ter adap­table et ce qui exige une solu­tion de repli. Elle trans­forme aus­si le modèle en ins­tru­ment de sui­vi : la simu­la­tion n’est pas aban­don­née une fois la déci­sion prise ; elle est réac­tua­li­sée lorsque le milieu change.

La ten­ta­tion indus­trielle consiste à fabri­quer un double tou­jours plus vaste, sup­po­sé absor­ber pro­gres­si­ve­ment toutes les dimen­sions du réel. Elle mécon­naît la puis­sance propre des modèles : cha­cun sélec­tionne des variables, des échelles et des cau­sa­li­tés. La bonne infra­struc­ture n’est donc pas un monde défi­ni­tif, mais une plu­ra­li­té contrô­lée de mondes par­tiels. Pour une même déci­sion, plu­sieurs envi­ron­ne­ments doivent dif­fé­rer par leurs don­nées, leurs com­por­te­ments d’ac​teurs, leurs hypo­thèses cau­sales et leurs cri­tères de réussite.

Le pre­mier monde est celui que la tech­no­lo­gie exige. Toute inno­va­tion contracte une dette de milieu : l’en​semble des res­sources, infra­struc­tures et com­pé­tences néces­saires à son fonc­tion­ne­ment, mais absentes de la mesure brute de sa per­for­mance. Don­nées anno­tées, puis­sance de cal­cul, four­nis­seur, main­te­nance, opé­ra­teurs entraî­nés, connec­ti­vi­té ou capa­ci­tés de secours lui sont sou­vent four­nis gra­tui­te­ment pen­dant l’ex​pé​ri​men​ta​tion. Simu­ler ce monde consiste à dégra­der métho­di­que­ment ces condi­tions. On ne mesure plus seule­ment le coût d’ac​qui​si​tion, mais le coût de main­tien du monde requis.

Le deuxième monde est celui que la tech­no­lo­gie pro­duit. Aucun dis­po­si­tif ne s’in​sère dans un envi­ron­ne­ment pas­sif. Les uti­li­sa­teurs modi­fient leurs pra­tiques, les orga­ni­sa­tions déplacent leurs res­sources vers ce que le sys­tème mesure, les concur­rents s’a​daptent et les adver­saires cherchent les failles. Une pré­dic­tion exacte peut deve­nir fausse lorsque tous les acteurs suivent le même signal. Ce monde réflexif exige des simu­la­tions mul­ti-agents, des jeux de déci­sion, du red tea­ming et des expé­riences asso­ciant opé­ra­teurs humains et sys­tèmes automatisés.

Le troi­sième monde est celui qui sub­siste après la défaillance. Les don­nées res­tent-elles acces­sibles ? Les com­pé­tences humaines ont-elles été conser­vées ? Une pro­cé­dure dégra­dée existe-t-elle ? Les infra­struc­tures sont-elles recon­ver­tibles ? La déci­sion pro­duite par le sys­tème demeure-t-elle expli­cable et contes­table ? La réver­si­bi­li­té ne signi­fie pas reve­nir gra­tui­te­ment à la situa­tion anté­rieure. Elle consiste à pré­ser­ver une capa­ci­té d’ac​tion lorsque le dis­po­si­tif prin­ci­pal échoue, devient indé­si­rable ou doit être abandonné.

Com­pa­rer plu­sieurs mondes fait appa­raître trois objets déci­sifs. L’in​va​riant déci­sion­nel désigne un choix qui demeure pré­fé­rable mal­gré des varia­tions signi­fi­ca­tives du contexte. La frac­ture déci­sion­nelle appa­raît lors​qu’une modi­fi­ca­tion limi­tée d’une hypo­thèse suf­fit à inver­ser le clas­se­ment des options. Elle révèle sou­vent davan­tage qu’une pré­vi­sion cen­trale, puis​qu’elle indique la variable dont dépend réel­le­ment le choix. L’angle mort com­mun sur­vient enfin lorsque plu­sieurs simu­la­tions convergent parce qu’elles par­tagent les mêmes don­nées, les mêmes com­por­te­ments ou la même omission.

C’est pour­quoi l’au​dit doit être com­plé­té par une contre-simu­la­tion. L’au​dit tra­di­tion­nel véri­fie qu’un sys­tème fonc­tionne confor­mé­ment à sa concep­tion. La contre-simu­la­tion construit un autre monde, déplace les fron­tières du pro­blème et recherche les hypo­thèses capables de ren­ver­ser la conclu­sion. Chaque envi­ron­ne­ment doit décla­rer son péri­mètre et ses absences, subir des per­tur­ba­tions hors de ses condi­tions nomi­nales, puis être confron­té à une autre simu­la­tion, à une expé­ri­men­ta­tion phy­sique ou à des obser­va­tions réelles.

La contre-simu­la­tion construit un autre monde, déplace les fron­tières du pro­blème et recherche les hypo­thèses capables de ren­ver­ser la conclusion.

Pre­nons l’au​to​ma​ti​sa​tion d’une fonc­tion logis­tique. Un pre­mier monde sup­pose une éner­gie abon­dante et une connec­ti­vi­té stable. Un deuxième intro­duit des rup­tures de réseau et une main­te­nance espa­cée. Un troi­sième repré­sente des opé­ra­teurs qui réor­ga­nisent leurs pra­tiques autour du sys­tème. Un qua­trième ajoute un adver­saire cher­chant à le trom­per. Aucun n’est « le vrai ». Leur com­pa­rai­son indique dans quelles condi­tions l’au​to​ma​ti​sa​tion conserve son avan­tage, à par­tir de quel seuil elle crée une dépen­dance exces­sive et quelles capa­ci­tés humaines ou tech­niques doivent être préservées.

Une tech­no­lo­gie consti­tue un pro­grès gou­ver­nable lors​qu’elle apporte une capa­ci­té réelle, conserve sa valeur dans plu­sieurs confi­gu­ra­tions plau­sibles, expose l’in​cer​ti​tude de ses résul­tats et laisse sub­sis­ter des options après sa défaillance. Cette exi­gence n’op​pose pas la pru­dence à la puis­sance. Les tech­no­lo­gies les plus puis­santes exigent, au contraire, des simu­la­tions plus larges, pré­ci­sé­ment parce qu’elles trans­forment davan­tage le monde dans lequel elles agissent.

Avant tout déploie­ment impor­tant, quatre ques­tions devraient donc être posées : quel monde faut-il entre­te­nir pour que la tech­no­lo­gie fonc­tionne ? Quels com­por­te­ments son adop­tion va-t-elle modi­fier ? À par­tir de quel seuil la déci­sion doit-elle être révi­sée ? Qu’est​-ce qui pos­sible lorsque le sys­tème ne répond plus ? Ces ques­tions ne pro­mettent pas une déci­sion par­faite. Elles rendent visibles les enga­ge­ments d’un deploie­ment avant qu’ils ne deviennent des infra­struc­tures, des habi­tudes et des dépendances.

Nous avons long­temps simu­lé ce qui pour­rait arri­ver dans un monde don­né. L’en​jeu est désor­mais de simu­ler plu­sieurs mondes pour déter­mi­ner quelle déci­sion mérite d’être por­tée dans le seul monde où nous devrons réel­le­ment en assu­mer les conséquences.