Peut-on apprendre à être plus rationnel ?

Cet article fait par­tie de notre maga­zine Le 3,14 dédié au cer­veau. Décou­vrez-le ici

Plus d’un an après le début de la pan­dé­mie, le manque de res­sources en matière de com­mu­ni­ca­tion scien­ti­fique, l’a­bus de mau­vaise épis­té­mo­lo­gie et une gou­ver­nance mon­diale dis­cu­table – comme le montre la dis­tri­bu­tion des vac­cins – entraînent encore chaque jour des mil­liers de décès évi­tables. Même dans les démo­cra­ties occi­den­tales, les poli­ti­ciens ont tou­jours du mal à com­prendre le rôle de la trans­mis­sion par aéro­sols et, par consé­quent, à prendre des mesures vitales visant à mieux ven­ti­ler les lieux clos. Pen­dant ce temps, le scep­ti­cisme à l’é­gard des vac­cins – même s’il se résorbe – reste un dom­mage col­la­té­ral de longue date cau­sé par le désordre du pay­sage média­tique, et l’« infodémie ».

De toutes les carac­té­ris­tiques humaines, la ratio­na­li­té est sans doute celle que nous ché­ris­sons le plus, car nous la consi­dé­rons comme une dis­tinc­tion essen­tielle entre nous et les autres ani­maux. Cepen­dant, elle s’ac­com­pagne sou­vent d’un excès de confiance en nous, notre intui­tion, notre ins­tinct et le bon sens… Autant d’élé­ments qui vont à l’en­contre de la ratio­na­li­té. En outre, per­sonne ne naît en étant par­fai­te­ment ration­nel. C’est donc la socié­té, par l’ac­cu­mu­la­tion de connais­sances, qui dote les indi­vi­dus de la facul­té de pen­ser objec­ti­ve­ment. Ain­si, l’a­ve­nir de notre capa­ci­té à résoudre col­lec­ti­ve­ment des pro­blèmes pas­se­ra inévi­ta­ble­ment par l’augmentation du nombre de citoyens aptes à uti­li­ser des stra­té­gies de réflexion externe comme la logique et la méthode scientifique.

De toutes les carac­té­ris­tiques humaines, la ratio­na­li­té est sans doute celle que nous ché­ris­sons le plus.

Une pre­mière étape pos­sible pour­rait consis­ter à cor­ri­ger l’im­pres­sion selon laquelle notre ère tech­no­lo­gique est trop avan­cée pour que des pro­fanes par­ti­cipent aux débats.  Après tout, l’ère infor­ma­tique n’a pas été ini­tiée par des ingé­nieurs essayant d’inventer un gad­get, mais plu­tôt par un groupe de phi­lo­sophes qui réflé­chis­saient lit­té­ra­le­ment à la pen­sée. C’est la crise fon­da­men­tale de la logique à la fin du XIXe siècle qui a conduit des phi­lo­sophes et des mathé­ma­ti­ciens à ques­tion­ner le « trai­te­ment de l’in­for­ma­tion ». Ce fai­sant, ils ont trou­vé des failles utiles dans la logique, et posé les bonnes ques­tions aux­quelles Kurt Gödel, Alan Turing, Alon­zo Church et d’autres allaient répondre, posant ain­si les bases de l’or­di­na­teur por­table et du smart­phone¹.

Une autre étape utile pour­rait être de consi­dé­rer la logique et la méthode scien­ti­fique à tra­vers deux de leurs com­po­santes les plus impor­tantes : la déduc­tion et l’in­duc­tion. En d’autres termes, la déduc­tion est la logique « des­cen­dante », c’est-à-dire la déduc­tion de la conclu­sion à par­tir d’un prin­cipe géné­ral ou d’une loi. C’est cette logique qui est à l’œuvre lorsqu’on lance une fusée, que l’on gué­rit une mala­die bien connue ou qu’un juge fait appli­quer la loi. 

Au contraire, l’in­duc­tion est une logique « ascen­dante », c’est-à-dire que la déduc­tion des lois se fait à par­tir d’ob­ser­va­tions que l’on tente d’expliquer. Il peut s’a­gir de décrire la gra­vi­té, de décou­vrir le remède à une nou­velle mala­die ou de défi­nir un nou­veau prin­cipe juri­dique à laquelle la socié­té devra se confor­mer. Toutes ces acti­vi­tés requièrent un état d’es­prit inductif.

La pre­mière à être appa­rue his­to­ri­que­ment est la logique déduc­tive, éta­blie par le biais d’al­go­rithmes. Si, aujourd’­hui, ce terme est prin­ci­pa­le­ment asso­cié à la tech­no­lo­gie, il convient de rap­pe­ler qu’il est à l’o­ri­gine déri­vé du nom du pen­seur Al Khwa­ra­zi­mi. Ce der­nier cher­chait sur­tout à aider les juristes en rédi­geant, étape par étape, des règles qu’ils pou­vaient appli­quer pour obte­nir des résul­tats simi­laires². Loin d’être un ins­tru­ment des­ti­né à rendre le pro­ces­sus déci­sion­naire obs­cur, les algo­rithmes étaient donc à l’origine un outil de trans­pa­rence. Nous nous sen­ti­rons évi­dem­ment plus en sécu­ri­té si nous savons que nous serons jugés selon une loi bien défi­nie plu­tôt que selon l’hu­meur fluc­tuante d’un autocrate.

Les pro­ces­sus induc­tifs sont plus com­plexes que les démarches déduc­tives. Même si des pen­seurs médié­vaux tels que Ibn Al Hay­tham (Alha­zen), Jabir Ibn Hayan (Geber) et, bien sûr, Gali­lée ont pré­co­ce­ment contri­bué à for­ma­li­ser la méthode scien­ti­fique que nous uti­li­sons aujourd’­hui, nous ne dis­po­sons tou­jours pas d’al­go­rithmes induc­tifs lar­ge­ment uti­li­sés, comme c’est le cas pour la déduc­tion. Bayes et Laplace³ ont cepen­dant réa­li­sé d’importantes ten­ta­tives pour mettre au point des algo­rithmes induc­tifs. Ce der­nier a même pro­duit un impor­tant mais très mécon­nu Essai phi­lo­so­phique sur les pro­ba­bi­li­tés, des décen­nies après avoir for­ma­li­sé les lois des pro­ba­bi­li­tés (sous la forme de cours don­nés à l’É­cole nor­male et à l’É­cole poly­tech­nique alors nais­santes). En lisant l’es­sai de Laplace aujourd’­hui, on découvre des idées pion­nières sur ce qui peut mal tour­ner avec l’in­duc­tion – ce que les psy­cho­logues cog­ni­tifs modernes appellent les « biais cognitifs ».

Si l’on regarde de plus près, de nom­breux biais cog­ni­tifs sont en fait dus à l’utilisation d’une logique déduc­tive dans des situa­tions où la méthode induc­tive serait plus appro­priée. Le plus cou­rant est le « biais de confir­ma­tion » : notre cer­veau pré­fère recher­cher des faits qui confirment l’hy­po­thèse qu’il a déjà for­mu­lée plu­tôt que de déployer un effort men­tal pour la réfu­ter. Il existe éga­le­ment l’autre extrême (moins cou­rant), le « rela­ti­visme exces­sif », qui consiste à refu­ser toute inter­pré­ta­tion cau­sale, même lorsque les don­nées four­nissent une expli­ca­tion plus appro­priée que ses alternatives.

Pour com­pen­ser les fai­blesses de l’es­prit humain et mieux uti­li­ser l’in­duc­tion, les scien­ti­fiques ont donc conçu des heu­ris­tiques : expé­riences contrô­lées, essais ran­do­mi­sés, sta­tis­tiques modernes.… Bayes et Laplace sont même allés encore plus loin, et nous ont don­né un algo­rithme induc­tif : l’é­qua­tion de Bayes. Cette équa­tion peut être uti­li­sée pour mon­trer que la logique du pre­mier ordre – dans laquelle les décla­ra­tions sont soit vraies, soit fausses – est un cas par­ti­cu­lier des lois de la pro­ba­bi­li­té, qui laissent une grande place à l’in­cer­ti­tude. Alors que le lan­gage de la déduc­tion consiste prin­ci­pa­le­ment à répondre par un « parce que » pré­dé­fi­ni aux ques­tions com­men­çant par « pour­quoi », l’in­duc­tion rigou­reuse exige une ana­lyse plus pro­ba­bi­liste qui ajoute un « com­bien » pour pon­dé­rer chaque cause possible.

Pour com­pen­ser les fai­blesses de l’es­prit humain et mieux uti­li­ser l’in­duc­tion, les scien­ti­fiques ont donc conçu des heuristiques.

Le phi­lo­sophe Daniel Den­nett⁴ décrit ain­si cer­taines de nos plus grandes révo­lu­tions scien­ti­fiques et phi­lo­so­phiques comme d”« étranges inver­sions du rai­son­ne­ment ». Dar­win a inver­sé la logique selon laquelle des êtres com­plexes (c’est-à-dire les humains) n’a­vaient pas néces­sai­re­ment besoin d’un ancêtre plus com­plexe pour se déve­lop­per. Turing a mon­tré que le trai­te­ment com­plexe de l’in­for­ma­tion ne néces­si­tait pas que l’agent (c’est-à-dire l’or­di­na­teur) qui l’ef­fec­tue soit conscient de quelque chose, et qu’il lui suf­fi­sait de dis­po­ser de simples ins­truc­tions logiques. J’ai­me­rais faire valoir que ce que Den­nett appelle « d’é­tranges inver­sions du rai­son­ne­ment », sont des pas­sages his­to­riques d’un cadre déduc­tif (et quelque peu créa­tion­niste) à un cadre induc­tif. Plus le pro­blème est com­plexe, moins le « pour­quoi » est utile et plus le « com­bien » est nécessaire.

Alors que les scien­ti­fiques étaient occu­pés à conce­voir la logique et la méthode scien­ti­fique au cours des der­niers mil­lé­naires, la majeure par­tie de la socié­té a réa­li­sé les limites de l’es­prit déduc­tif qui accom­pagne soit l’au­to­cra­tie, dans laquelle un monarque éta­blit la règle, soit la théo­cra­tie, dans laquelle Dieu – sou­vent un bou­clier com­mode pour le monarque –, éta­blit la règle. Cela a mené au déve­lop­pe­ment pro­gres­sif de la démo­cra­tie, qui per­met l’a­gré­ga­tion des opi­nions, donc une meilleure induc­tion col­lec­tive et, en prin­cipe, l’établissement de règles plus effi­caces. Cepen­dant, la démo­cra­tie repose sur l’es­poir qu’une frac­tion signi­fi­ca­tive de la socié­té est bien infor­mée et agit dans son propre intérêt.

Aujourd’­hui, ce pos­tu­lat est plus mena­cé que jamais. Pour la pre­mière fois dans l’his­toire de l’hu­ma­ni­té, nous pro­dui­sons des outils de dif­fu­sion de l’in­for­ma­tion qui ont à la fois la puis­sance de dif­fu­sion de la machine de pro­pa­gande la plus dys­to­pique et les carac­té­ris­tiques de per­son­na­li­sa­tion fine du porte-à-porte – pour le meilleur et pour le pire. Les outils numé­riques dont nous béné­fi­cions aujourd’­hui sont pour la plu­part le résul­tat de l’au­to­ma­ti­sa­tion de la déduc­tion (par la pro­gram­ma­tion), qui s’est sur­tout pro­duite au cours du siècle der­nier. Alors que nous entrons dans une nou­velle phase d’au­to­ma­ti­sa­tion, qui est cette fois-ci axée sur les don­nées, il est impor­tant de sou­li­gner que, au-delà des gad­gets et de la tech­no­lo­gie, nous essayons d’au­to­ma­ti­ser l’in­duc­tion et, ce fai­sant, de mieux la com­prendre et mieux la pratiquer. 

Gar­der cela à l’es­prit quand nous conce­vons nos cours de data science ou que nous com­mu­ni­quons au grand public les avan­cées de l’in­tel­li­gence arti­fi­cielle nous per­met­trait peut-être de contri­buer à pro­duire une nou­velle géné­ra­tion de citoyens, qui ne seraient pas seule­ment capables de construire ou d’u­ti­li­ser ces outils, mais qui pour­raient aus­si prendre part au débat sur l’a­ve­nir du rai­son­ne­ment. Un débat ren­for­çant l’in­duc­tion, la déduc­tion, le rap­port de notre socié­té à l’information et la prise de déci­sion col­lec­tive. Un débat ne se lais­sant pas cor­rompre par les outils numé­riques, et ne lais­sant pas ce que nous ché­ris­sons le plus, notre capa­ci­té à pen­ser, être automatisée.