sienceEtDefiance_asRationalAsWeThink
π Science et technologies π Société
Que signifie « avoir confiance en la science » ?

Peut-on apprendre à être plus rationnel ?

El Mahdi El Mhamdi, professeur adjoint à l'École polytechnique et chercheur chez Google
Le 23 juin 2021 |
6 mins de lecture
El Mahdi El Mhamdi
El Mahdi El Mhamdi
professeur adjoint à l'École polytechnique et chercheur chez Google
En bref
  • On distingue deux types de raisonnements logiques : la déduction et l’induction. La déduction a ses limites, ce qui pousse les chercheurs à développer notre capacité à employer le raisonnement par induction.
  • Par le passé, la déduction a joué un rôle essentiel pour la société, comme dans la formation de la démocratie, qui repose sur la capacité des citoyens à prendre des décisions informées et réfléchies.
  • Aujourd’hui, la puissance de l’automatisation de la déduction dans nos vies quotidiennes constitue une menace pour cette capacité, par la dissémination des « fake news », par exemple.
  • Le développement récent de l’automatisation de l’induction pourrait représenter un danger pour la méthode scientifique et l’autonomie de notre raisonnement. Éduquer les générations futures à la logique est donc devenu un impératif.

Plus d’un an après le début de la pandémie, le manque de ressources en matière de com­mu­ni­ca­tion sci­en­tifique, l’abus de mau­vaise épisté­molo­gie et une gou­ver­nance mon­di­ale dis­cutable – comme le mon­tre la dis­tri­b­u­tion des vac­cins – entraî­nent encore chaque jour des mil­liers de décès évita­bles. Même dans les démoc­ra­ties occi­den­tales, les politi­ciens ont tou­jours du mal à com­pren­dre le rôle de la trans­mis­sion par aérosols et, par con­séquent, à pren­dre des mesures vitales visant à mieux ven­til­er les lieux clos. Pen­dant ce temps, le scep­ti­cisme à l’é­gard des vac­cins – même s’il se résorbe – reste un dom­mage col­latéral de longue date causé par le désor­dre du paysage médi­a­tique, et l’« infodémie ».

Les lim­ites de la rationalité

De toutes les car­ac­téris­tiques humaines, la ratio­nal­ité est sans doute celle que nous chéris­sons le plus, car nous la con­sid­érons comme une dis­tinc­tion essen­tielle entre nous et les autres ani­maux. Cepen­dant, elle s’ac­com­pa­gne sou­vent d’un excès de con­fi­ance en nous, notre intu­ition, notre instinct et le bon sens… Autant d’élé­ments qui vont à l’en­con­tre de la ratio­nal­ité. En out­re, per­son­ne ne naît en étant par­faite­ment rationnel. C’est donc la société, par l’ac­cu­mu­la­tion de con­nais­sances, qui dote les indi­vidus de la fac­ulté de penser objec­tive­ment. Ain­si, l’avenir de notre capac­ité à résoudre col­lec­tive­ment des prob­lèmes passera inévitable­ment par l’augmentation du nom­bre de citoyens aptes à utilis­er des straté­gies de réflex­ion externe comme la logique et la méth­ode scientifique.

Une pre­mière étape pos­si­ble pour­rait con­sis­ter à cor­riger l’im­pres­sion selon laque­lle notre ère tech­nologique est trop avancée pour que des pro­fanes par­ticipent aux débats.  Après tout, l’ère infor­ma­tique n’a pas été ini­tiée par des ingénieurs essayant d’inventer un gad­get, mais plutôt par un groupe de philosophes qui réfléchis­saient lit­térale­ment à la pen­sée. C’est la crise fon­da­men­tale de la logique à la fin du XIXe siè­cle qui a con­duit des philosophes et des math­é­mati­ciens à ques­tion­ner le « traite­ment de l’in­for­ma­tion ». Ce faisant, ils ont trou­vé des failles utiles dans la logique, et posé les bonnes ques­tions aux­quelles Kurt Gödel, Alan Tur­ing, Alon­zo Church et d’autres allaient répon­dre, posant ain­si les bases de l’or­di­na­teur portable et du smart­phone1.

Déduc­tion ou induction

Une autre étape utile pour­rait être de con­sid­ér­er la logique et la méth­ode sci­en­tifique à tra­vers deux de leurs com­posantes les plus impor­tantes : la déduc­tion et l’in­duc­tion. En d’autres ter­mes, la déduc­tion est la logique « descen­dante », c’est-à-dire la déduc­tion de la con­clu­sion à par­tir d’un principe général ou d’une loi. C’est cette logique qui est à l’œuvre lorsqu’on lance une fusée, que l’on guérit une mal­adie bien con­nue ou qu’un juge fait appli­quer la loi. 

Au con­traire, l’in­duc­tion est une logique « ascen­dante », c’est-à-dire que la déduc­tion des lois se fait à par­tir d’ob­ser­va­tions que l’on tente d’expliquer. Il peut s’a­gir de décrire la grav­ité, de décou­vrir le remède à une nou­velle mal­adie ou de définir un nou­veau principe juridique à laque­lle la société devra se con­former. Toutes ces activ­ités requièrent un état d’e­sprit inductif.

La pre­mière à être apparue his­torique­ment est la logique déduc­tive, établie par le biais d’al­go­rithmes. Si, aujour­d’hui, ce terme est prin­ci­pale­ment asso­cié à la tech­nolo­gie, il con­vient de rap­pel­er qu’il est à l’o­rig­ine dérivé du nom du penseur Al Khwaraz­i­mi. Ce dernier cher­chait surtout à aider les juristes en rédi­geant, étape par étape, des règles qu’ils pou­vaient appli­quer pour obtenir des résul­tats sim­i­laires2. Loin d’être un instru­ment des­tiné à ren­dre le proces­sus déci­sion­naire obscur, les algo­rithmes étaient donc à l’origine un out­il de trans­parence. Nous nous sen­tirons évidem­ment plus en sécu­rité si nous savons que nous serons jugés selon une loi bien définie plutôt que selon l’humeur fluc­tu­ante d’un autocrate.

Les proces­sus induc­tifs sont plus com­plex­es que les démarch­es déduc­tives. Même si des penseurs médié­vaux tels que Ibn Al Haytham (Alhazen), Jabir Ibn Hayan (Geber) et, bien sûr, Galilée ont pré­co­ce­ment con­tribué à for­malis­er la méth­ode sci­en­tifique que nous util­isons aujour­d’hui, nous ne dis­posons tou­jours pas d’al­go­rithmes induc­tifs large­ment util­isés, comme c’est le cas pour la déduc­tion. Bayes et Laplace3 ont cepen­dant réal­isé d’importantes ten­ta­tives pour met­tre au point des algo­rithmes induc­tifs. Ce dernier a même pro­duit un impor­tant mais très mécon­nu Essai philosophique sur les prob­a­bil­ités, des décen­nies après avoir for­mal­isé les lois des prob­a­bil­ités (sous la forme de cours don­nés à l’É­cole nor­male et à l’É­cole poly­tech­nique alors nais­santes). En lisant l’es­sai de Laplace aujour­d’hui, on décou­vre des idées pio­nnières sur ce qui peut mal tourn­er avec l’in­duc­tion – ce que les psy­cho­logues cog­ni­tifs mod­ernes appel­lent les « biais cognitifs ».

Le prob­lème de la déduction

Si l’on regarde de plus près, de nom­breux biais cog­ni­tifs sont en fait dus à l’utilisation d’une logique déduc­tive dans des sit­u­a­tions où la méth­ode induc­tive serait plus appro­priée. Le plus courant est le « biais de con­fir­ma­tion » : notre cerveau préfère rechercher des faits qui con­fir­ment l’hy­pothèse qu’il a déjà for­mulée plutôt que de déploy­er un effort men­tal pour la réfuter. Il existe égale­ment l’autre extrême (moins courant), le « rel­a­tivisme exces­sif », qui con­siste à refuser toute inter­pré­ta­tion causale, même lorsque les don­nées four­nissent une expli­ca­tion plus appro­priée que ses alternatives.

Pour com­penser les faib­less­es de l’e­sprit humain et mieux utilis­er l’in­duc­tion, les sci­en­tifiques ont donc conçu des heuris­tiques : expéri­ences con­trôlées, essais ran­domisés, sta­tis­tiques mod­ernes.… Bayes et Laplace sont même allés encore plus loin, et nous ont don­né un algo­rithme induc­tif : l’équa­tion de Bayes. Cette équa­tion peut être util­isée pour mon­tr­er que la logique du pre­mier ordre – dans laque­lle les déc­la­ra­tions sont soit vraies, soit fauss­es – est un cas par­ti­c­uli­er des lois de la prob­a­bil­ité, qui lais­sent une grande place à l’in­cer­ti­tude. Alors que le lan­gage de la déduc­tion con­siste prin­ci­pale­ment à répon­dre par un « parce que » prédéfi­ni aux ques­tions com­mençant par « pourquoi », l’in­duc­tion rigoureuse exige une analyse plus prob­a­biliste qui ajoute un « com­bi­en » pour pondér­er chaque cause possible.

Le philosophe Daniel Den­nett4 décrit ain­si cer­taines de nos plus grandes révo­lu­tions sci­en­tifiques et philosophiques comme d”« étranges inver­sions du raison­nement ». Dar­win a inver­sé la logique selon laque­lle des êtres com­plex­es (c’est-à-dire les humains) n’avaient pas néces­saire­ment besoin d’un ancêtre plus com­plexe pour se dévelop­per. Tur­ing a mon­tré que le traite­ment com­plexe de l’in­for­ma­tion ne néces­si­tait pas que l’a­gent (c’est-à-dire l’or­di­na­teur) qui l’ef­fectue soit con­scient de quelque chose, et qu’il lui suff­i­sait de dis­pos­er de sim­ples instruc­tions logiques. J’aimerais faire val­oir que ce que Den­nett appelle « d’é­tranges inver­sions du raison­nement », sont des pas­sages his­toriques d’un cadre déduc­tif (et quelque peu créa­tion­niste) à un cadre induc­tif. Plus le prob­lème est com­plexe, moins le « pourquoi » est utile et plus le « com­bi­en » est nécessaire.

L’in­duc­tion comme out­il sociétal 

Alors que les sci­en­tifiques étaient occupés à con­cevoir la logique et la méth­ode sci­en­tifique au cours des derniers mil­lé­naires, la majeure par­tie de la société a réal­isé les lim­ites de l’e­sprit déduc­tif qui accom­pa­gne soit l’au­to­cratie, dans laque­lle un monar­que établit la règle, soit la théocratie, dans laque­lle Dieu – sou­vent un boucli­er com­mode pour le monar­que –, établit la règle. Cela a mené au développe­ment pro­gres­sif de la démoc­ra­tie, qui per­met l’a­gré­ga­tion des opin­ions, donc une meilleure induc­tion col­lec­tive et, en principe, l’établissement de règles plus effi­caces. Cepen­dant, la démoc­ra­tie repose sur l’e­spoir qu’une frac­tion sig­ni­fica­tive de la société est bien infor­mée et agit dans son pro­pre intérêt.

Aujour­d’hui, ce pos­tu­lat est plus men­acé que jamais. Pour la pre­mière fois dans l’his­toire de l’hu­man­ité, nous pro­duisons des out­ils de dif­fu­sion de l’in­for­ma­tion qui ont à la fois la puis­sance de dif­fu­sion de la machine de pro­pa­gande la plus dystopique et les car­ac­téris­tiques de per­son­nal­i­sa­tion fine du porte-à-porte – pour le meilleur et pour le pire. Les out­ils numériques dont nous béné­fi­cions aujour­d’hui sont pour la plu­part le résul­tat de l’au­toma­ti­sa­tion de la déduc­tion (par la pro­gram­ma­tion), qui s’est surtout pro­duite au cours du siè­cle dernier. Alors que nous entrons dans une nou­velle phase d’au­toma­ti­sa­tion, qui est cette fois-ci axée sur les don­nées, il est impor­tant de soulign­er que, au-delà des gad­gets et de la tech­nolo­gie, nous essayons d’au­toma­tis­er l’in­duc­tion et, ce faisant, de mieux la com­pren­dre et mieux la pra­ti­quer. Garder cela à l’e­sprit quand nous con­cevons nos cours de data sci­ence ou que nous com­mu­niquons au grand pub­lic les avancées de l’in­tel­li­gence arti­fi­cielle nous per­me­t­trait peut-être de con­tribuer à pro­duire une nou­velle généra­tion de citoyens, qui ne seraient pas seule­ment capa­bles de con­stru­ire ou d’u­tilis­er ces out­ils, mais qui pour­raient aus­si pren­dre part au débat sur l’avenir du raison­nement. Un débat ren­forçant l’in­duc­tion, la déduc­tion, le rap­port de notre société à l’information et la prise de déci­sion col­lec­tive. Un débat ne se lais­sant pas cor­rompre par les out­ils numériques, et ne lais­sant pas ce que nous chéris­sons le plus, notre capac­ité à penser, être automatisée.

1Il est recom­mandé de regarder la les­son de Moshe Var­di « D’Aristote à l’iPhone » (don­née à l’Israel Insti­tute for Advanced Stud­ies en 2016, et dont plusieurs ver­sions sont disponibles en ligne).
2Il faut égale­ment soulign­er que le livre d’Alkhwariz­mi est écrit en arabe, où le cal­cul et le juge­ment sont par­fois désignés par le même terme : Hissab. (Le Jour du Juge­ment, Yawm Al Hissab, dans la tra­di­tion coranique, sig­ni­fie lit­térale­ment « le jour du cal­cul »).Day of Judg­ment, Yawm Al Hissab, in the Quran­ic tra­di­tion, lit­er­al­ly means “the day of com­pu­ta­tion”).
3The Equa­tion of Knowl­edge: From Bayes” Rule to a Uni­fied Phi­los­o­phy of Sci­ence, Lê Nguyên Hoang. Chap­man and Hall, CRC, 2020.
4Den­nett a emprun­té à Robert MacKen­zie Bev­er­ley sa cri­tique de « On the ori­gin of species » de Dar­win, trans­for­mant la cri­tique en une véri­ta­ble déc­la­ra­tion de sou­tien

Auteurs

El Mahdi El Mhamdi

El Mahdi El Mhamdi

professeur adjoint à l'École polytechnique et chercheur chez Google

Les recherches d’El Mahdi El Mhamdi sont motivées par la compréhension du traitement robuste de l'information dans la nature, les machines et la société, avec un axe de recherche sur les mathématiques du traitement collectif de l'information et de l'apprentissage distribué. Il est le co-auteur du livre à paraître "The Fabulous Endeavor : Robustly Beneficial Information" sur les défis scientifiques et sociaux du traitement de l'information à grande échelle, déjà disponible en français sous le titre "Le Fabuleux Chantier" (EDP Sciences, novembre 2019).