Peut-on apprendre à être plus rationnel ?

Cet arti­cle fait par­tie du pre­mier numéro de notre mag­a­zine Le 3,14 dédié au cerveau. Décou­vrez-le ici

Plus d’un an après le début de la pandémie, le manque de ressources en matière de com­mu­ni­ca­tion sci­en­tifique, l’abus de mau­vaise épisté­molo­gie et une gou­ver­nance mon­di­ale dis­cutable – comme le mon­tre la dis­tri­b­u­tion des vac­cins – entraî­nent encore chaque jour des mil­liers de décès évita­bles. Même dans les démoc­ra­ties occi­den­tales, les politi­ciens ont tou­jours du mal à com­pren­dre le rôle de la trans­mis­sion par aérosols et, par con­séquent, à pren­dre des mesures vitales visant à mieux ven­til­er les lieux clos. Pen­dant ce temps, le scep­ti­cisme à l’é­gard des vac­cins – même s’il se résorbe – reste un dom­mage col­latéral de longue date causé par le désor­dre du paysage médi­a­tique, et l’« infodémie ».

De toutes les car­ac­téris­tiques humaines, la ratio­nal­ité est sans doute celle que nous chéris­sons le plus, car nous la con­sid­érons comme une dis­tinc­tion essen­tielle entre nous et les autres ani­maux. Cepen­dant, elle s’ac­com­pa­gne sou­vent d’un excès de con­fi­ance en nous, notre intu­ition, notre instinct et le bon sens… Autant d’élé­ments qui vont à l’en­con­tre de la ratio­nal­ité. En out­re, per­son­ne ne naît en étant par­faite­ment rationnel. C’est donc la société, par l’ac­cu­mu­la­tion de con­nais­sances, qui dote les indi­vidus de la fac­ulté de penser objec­tive­ment. Ain­si, l’avenir de notre capac­ité à résoudre col­lec­tive­ment des prob­lèmes passera inévitable­ment par l’augmentation du nom­bre de citoyens aptes à utilis­er des straté­gies de réflex­ion externe comme la logique et la méth­ode scientifique.

De toutes les car­ac­téris­tiques humaines, la ratio­nal­ité est sans doute celle que nous chéris­sons le plus.

Une pre­mière étape pos­si­ble pour­rait con­sis­ter à cor­riger l’im­pres­sion selon laque­lle notre ère tech­nologique est trop avancée pour que des pro­fanes par­ticipent aux débats.  Après tout, l’ère infor­ma­tique n’a pas été ini­tiée par des ingénieurs essayant d’inventer un gad­get, mais plutôt par un groupe de philosophes qui réfléchis­saient lit­térale­ment à la pen­sée. C’est la crise fon­da­men­tale de la logique à la fin du XIXe siè­cle qui a con­duit des philosophes et des math­é­mati­ciens à ques­tion­ner le « traite­ment de l’in­for­ma­tion ». Ce faisant, ils ont trou­vé des failles utiles dans la logique, et posé les bonnes ques­tions aux­quelles Kurt Gödel, Alan Tur­ing, Alon­zo Church et d’autres allaient répon­dre, posant ain­si les bases de l’or­di­na­teur portable et du smart­phone¹.

Une autre étape utile pour­rait être de con­sid­ér­er la logique et la méth­ode sci­en­tifique à tra­vers deux de leurs com­posantes les plus impor­tantes : la déduc­tion et l’in­duc­tion. En d’autres ter­mes, la déduc­tion est la logique « descen­dante », c’est-à-dire la déduc­tion de la con­clu­sion à par­tir d’un principe général ou d’une loi. C’est cette logique qui est à l’œuvre lorsqu’on lance une fusée, que l’on guérit une mal­adie bien con­nue ou qu’un juge fait appli­quer la loi. 

Au con­traire, l’in­duc­tion est une logique « ascen­dante », c’est-à-dire que la déduc­tion des lois se fait à par­tir d’ob­ser­va­tions que l’on tente d’expliquer. Il peut s’a­gir de décrire la grav­ité, de décou­vrir le remède à une nou­velle mal­adie ou de définir un nou­veau principe juridique à laque­lle la société devra se con­former. Toutes ces activ­ités requièrent un état d’e­sprit inductif.

La pre­mière à être apparue his­torique­ment est la logique déduc­tive, établie par le biais d’al­go­rithmes. Si, aujour­d’hui, ce terme est prin­ci­pale­ment asso­cié à la tech­nolo­gie, il con­vient de rap­pel­er qu’il est à l’o­rig­ine dérivé du nom du penseur Al Khwaraz­i­mi. Ce dernier cher­chait surtout à aider les juristes en rédi­geant, étape par étape, des règles qu’ils pou­vaient appli­quer pour obtenir des résul­tats sim­i­laires². Loin d’être un instru­ment des­tiné à ren­dre le proces­sus déci­sion­naire obscur, les algo­rithmes étaient donc à l’origine un out­il de trans­parence. Nous nous sen­tirons évidem­ment plus en sécu­rité si nous savons que nous serons jugés selon une loi bien définie plutôt que selon l’humeur fluc­tu­ante d’un autocrate.

Les proces­sus induc­tifs sont plus com­plex­es que les démarch­es déduc­tives. Même si des penseurs médié­vaux tels que Ibn Al Haytham (Alhazen), Jabir Ibn Hayan (Geber) et, bien sûr, Galilée ont pré­co­ce­ment con­tribué à for­malis­er la méth­ode sci­en­tifique que nous util­isons aujour­d’hui, nous ne dis­posons tou­jours pas d’al­go­rithmes induc­tifs large­ment util­isés, comme c’est le cas pour la déduc­tion. Bayes et Laplace³ ont cepen­dant réal­isé d’importantes ten­ta­tives pour met­tre au point des algo­rithmes induc­tifs. Ce dernier a même pro­duit un impor­tant mais très mécon­nu Essai philosophique sur les prob­a­bil­ités, des décen­nies après avoir for­mal­isé les lois des prob­a­bil­ités (sous la forme de cours don­nés à l’É­cole nor­male et à l’É­cole poly­tech­nique alors nais­santes). En lisant l’es­sai de Laplace aujour­d’hui, on décou­vre des idées pio­nnières sur ce qui peut mal tourn­er avec l’in­duc­tion – ce que les psy­cho­logues cog­ni­tifs mod­ernes appel­lent les « biais cognitifs ».

Si l’on regarde de plus près, de nom­breux biais cog­ni­tifs sont en fait dus à l’utilisation d’une logique déduc­tive dans des sit­u­a­tions où la méth­ode induc­tive serait plus appro­priée. Le plus courant est le « biais de con­fir­ma­tion » : notre cerveau préfère rechercher des faits qui con­fir­ment l’hy­pothèse qu’il a déjà for­mulée plutôt que de déploy­er un effort men­tal pour la réfuter. Il existe égale­ment l’autre extrême (moins courant), le « rel­a­tivisme exces­sif », qui con­siste à refuser toute inter­pré­ta­tion causale, même lorsque les don­nées four­nissent une expli­ca­tion plus appro­priée que ses alternatives.

Pour com­penser les faib­less­es de l’e­sprit humain et mieux utilis­er l’in­duc­tion, les sci­en­tifiques ont donc conçu des heuris­tiques : expéri­ences con­trôlées, essais ran­domisés, sta­tis­tiques mod­ernes.… Bayes et Laplace sont même allés encore plus loin, et nous ont don­né un algo­rithme induc­tif : l’équa­tion de Bayes. Cette équa­tion peut être util­isée pour mon­tr­er que la logique du pre­mier ordre – dans laque­lle les déc­la­ra­tions sont soit vraies, soit fauss­es – est un cas par­ti­c­uli­er des lois de la prob­a­bil­ité, qui lais­sent une grande place à l’in­cer­ti­tude. Alors que le lan­gage de la déduc­tion con­siste prin­ci­pale­ment à répon­dre par un « parce que » prédéfi­ni aux ques­tions com­mençant par « pourquoi », l’in­duc­tion rigoureuse exige une analyse plus prob­a­biliste qui ajoute un « com­bi­en » pour pondér­er chaque cause possible.

Pour com­penser les faib­less­es de l’e­sprit humain et mieux utilis­er l’in­duc­tion, les sci­en­tifiques ont donc conçu des heuristiques.

Le philosophe Daniel Den­nett⁴ décrit ain­si cer­taines de nos plus grandes révo­lu­tions sci­en­tifiques et philosophiques comme d’« étranges inver­sions du raison­nement ». Dar­win a inver­sé la logique selon laque­lle des êtres com­plex­es (c’est-à-dire les humains) n’avaient pas néces­saire­ment besoin d’un ancêtre plus com­plexe pour se dévelop­per. Tur­ing a mon­tré que le traite­ment com­plexe de l’in­for­ma­tion ne néces­si­tait pas que l’a­gent (c’est-à-dire l’or­di­na­teur) qui l’ef­fectue soit con­scient de quelque chose, et qu’il lui suff­i­sait de dis­pos­er de sim­ples instruc­tions logiques. J’aimerais faire val­oir que ce que Den­nett appelle « d’é­tranges inver­sions du raison­nement », sont des pas­sages his­toriques d’un cadre déduc­tif (et quelque peu créa­tion­niste) à un cadre induc­tif. Plus le prob­lème est com­plexe, moins le « pourquoi » est utile et plus le « com­bi­en » est nécessaire.

Alors que les sci­en­tifiques étaient occupés à con­cevoir la logique et la méth­ode sci­en­tifique au cours des derniers mil­lé­naires, la majeure par­tie de la société a réal­isé les lim­ites de l’e­sprit déduc­tif qui accom­pa­gne soit l’au­to­cratie, dans laque­lle un monar­que établit la règle, soit la théocratie, dans laque­lle Dieu – sou­vent un boucli­er com­mode pour le monar­que –, établit la règle. Cela a mené au développe­ment pro­gres­sif de la démoc­ra­tie, qui per­met l’a­gré­ga­tion des opin­ions, donc une meilleure induc­tion col­lec­tive et, en principe, l’établissement de règles plus effi­caces. Cepen­dant, la démoc­ra­tie repose sur l’e­spoir qu’une frac­tion sig­ni­fica­tive de la société est bien infor­mée et agit dans son pro­pre intérêt.

Aujour­d’hui, ce pos­tu­lat est plus men­acé que jamais. Pour la pre­mière fois dans l’his­toire de l’hu­man­ité, nous pro­duisons des out­ils de dif­fu­sion de l’in­for­ma­tion qui ont à la fois la puis­sance de dif­fu­sion de la machine de pro­pa­gande la plus dystopique et les car­ac­téris­tiques de per­son­nal­i­sa­tion fine du porte-à-porte – pour le meilleur et pour le pire. Les out­ils numériques dont nous béné­fi­cions aujour­d’hui sont pour la plu­part le résul­tat de l’au­toma­ti­sa­tion de la déduc­tion (par la pro­gram­ma­tion), qui s’est surtout pro­duite au cours du siè­cle dernier. Alors que nous entrons dans une nou­velle phase d’au­toma­ti­sa­tion, qui est cette fois-ci axée sur les don­nées, il est impor­tant de soulign­er que, au-delà des gad­gets et de la tech­nolo­gie, nous essayons d’au­toma­tis­er l’in­duc­tion et, ce faisant, de mieux la com­pren­dre et mieux la pratiquer. 

Garder cela à l’e­sprit quand nous con­cevons nos cours de data sci­ence ou que nous com­mu­niquons au grand pub­lic les avancées de l’in­tel­li­gence arti­fi­cielle nous per­me­t­trait peut-être de con­tribuer à pro­duire une nou­velle généra­tion de citoyens, qui ne seraient pas seule­ment capa­bles de con­stru­ire ou d’u­tilis­er ces out­ils, mais qui pour­raient aus­si pren­dre part au débat sur l’avenir du raison­nement. Un débat ren­forçant l’in­duc­tion, la déduc­tion, le rap­port de notre société à l’information et la prise de déci­sion col­lec­tive. Un débat ne se lais­sant pas cor­rompre par les out­ils numériques, et ne lais­sant pas ce que nous chéris­sons le plus, notre capac­ité à penser, être automatisée.