Intelligence artificielle générale : comment va-t-on la réguler ?

L’In­tel­li­gence Arti­fi­cielle (IA) est actuelle­ment en pleine expan­sion et trans­forme de nom­breux aspects de notre quo­ti­di­en. Elle opti­mise le fonc­tion­nement des moteurs de recherche et per­met de mieux analyser les requêtes pour pro­pos­er les résul­tats les plus per­ti­nents¹. Elle améliore les sys­tèmes de sur­veil­lance qui l’utilisent désor­mais pour détecter des com­porte­ments sus­pects². Elle offre une aide pré­cieuse dans le domaine de la san­té pour analyser des images médi­cales, dévelop­per de nou­veaux médica­ments et per­son­nalis­er les traite­ments³.

Pour autant, il existe une dis­tinc­tion fon­da­men­tale entre l’IA que nous con­nais­sons aujour­d’hui, sou­vent qual­i­fiée de « clas­sique », et un con­cept plus ambitieux : l’In­tel­li­gence Arti­fi­cielle Générale (IAG).

L’IA clas­sique est conçue pour exceller dans des tâch­es spé­ci­fiques et peut dépass­er les meilleurs experts ou algo­rithmes spé­cial­isés. L’IAG, quant à elle, aspire à une intel­li­gence com­pa­ra­ble à celle d’un être humain. Elle vis­erait à com­pren­dre le monde dans toute sa com­plex­ité, à appren­dre de manière autonome et à s’adapter à des sit­u­a­tions nou­velles. En d’autres ter­mes, l’I­AG serait capa­ble de résoudre une grande var­iété de prob­lèmes, de raison­ner, de créer et d’avoir une con­science de soi⁴.

Les aver­tisse­ments con­cer­nant l’es­sor de l’IA général­iste se mul­ti­plient, dres­sant un avenir som­bre pour notre civil­i­sa­tion. Plusieurs per­son­nal­ités émi­nentes du monde de la tech­nolo­gie ont alerté sur les effets néfastes de cette tech­nolo­gie. Stephen Hawk­ing a for­mulé des craintes sur la pos­si­bil­ité que l’IA sup­plante l’homme, entraî­nant une nou­velle ère où les machines pour­raient domin­er⁵.

D’éminents pro­fesseurs améri­cains, tels Stu­art Rus­sell pro­fesseur à l’Université de Berke­ley, ont par ailleurs souligné la bas­cule vers un univers où l’intelligence arti­fi­cielle jouera un rôle incon­nu à ce stade, avec de nou­veaux risques à pren­dre en compte et anticiper⁶.

Par ailleurs, Jerome Glenn du Mil­len­ni­um Project a déclaré⁷ que « gou­vern­er l’I­AG pour­rait être le prob­lème de ges­tion le plus com­plexe que l’hu­man­ité ait jamais ren­con­tré » et que « la moin­dre erreur pour­rait nous effac­er de la sur­face de la Terre ». Ces asser­tions sug­gèrent une per­spec­tive extrême­ment pes­simiste, voire cat­a­strophiste, sur le développe­ment de l’IAG.

Une cri­tique fon­da­men­tale de l’im­mi­nence de l’I­AG repose sur le « prob­lème de la com­plex­ité des valeurs » qui est un con­cept clef abor­dé notam­ment par Nick Bostrom dans Super­in­tel­li­gence : chemins, dan­gers, straté­gies⁸. Le proces­sus d’évolution de la vie humaine ain­si que de la civil­i­sa­tion cor­re­spond à des mil­liards d’an­nées avec le développe­ment de nom­breux sys­tèmes com­plex­es de sen­ti­ments, mais égale­ment de con­trôles et de valeurs grâce aux inter­ac­tions nom­breuses et var­iées avec un envi­ron­nement qui est à la fois physique, biologique, mais égale­ment social. En par­tant de cette per­spec­tive, il est pos­tulé qu’une IAG autonome avec un niveau élevé de sophis­ti­ca­tion ne saurait être atteinte en quelques décennies. 

L’Australien Rod­ney Brooks, un des sym­bol­es et des pio­nniers de la robo­t­ique ain­si que des théories dites de la « cog­ni­tion incar­née », sou­tient, quant-à-lui, que ce qui va déter­min­er qu’une intel­li­gence est véri­ta­ble­ment autonome et sophis­tiquée, c’est son inté­gra­tion au sein d’un corps et les inter­ac­tions con­tin­ues avec un envi­ron­nement com­plexe sur une péri­ode suff­isam­ment longue⁹. Ces élé­ments ren­for­cent la thèse qui per­met d’envisager que l’IAG telle que décrite dans les scé­nar­ios alarmistes, est encore loin de devenir une réalité.

On a pu con­stater ces dernières années la mon­tée en puis­sance des grands mod­èles de lan­gage (LLM pour Large Lan­guage Mod­el) comme Chat­G­PT, Gem­i­ni, Copi­lot, etc. Ceux-ci ont démon­tré une impres­sion­nante capac­ité à assim­i­l­er de nom­breuses valeurs humaines implicites en s’appuyant sur une analyse mas­sive de doc­u­ments écrits. Par son archi­tec­ture et son fonc­tion­nement, Chat­G­PT présente de nom­breuses lim­ites¹⁰. Il ne per­met pas le raison­nement logique, ses répons­es sont par­fois peu fiables, sa base de con­nais­sances n’est pas adap­tée en temps réel et il est sen­si­ble aux attaques de type par injec­tion de con­tenu (« prompt injec­tion »).

Si ces mod­èles pos­sè­dent des sys­tèmes de valeurs sophis­tiqués, ils n’apparaissent pour­tant pas comme autonomes. Ils ne sem­blent pas, en effet, vis­er l’au­tonomie ou l’au­to-préser­va­tion au sein d’un envi­ron­nement à la fois com­plexe et vari­able. À ce titre, il est impor­tant de rap­pel­er qu’une part très impor­tante de la com­mu­ni­ca­tion est liée à l’intonation et au lan­gage cor­porel¹¹, élé­ments qui ne sont pas du tout appréhendés dans les inter­ac­tions avec les IA génératives.

Rap­pel­er sim­ple­ment cette dis­tinc­tion (pro­fonde) appa­raît cru­ciale afin de mieux com­pren­dre dans quelles mesures l’inquiétude face à une super­in­tel­li­gence malveil­lante est infondée et exces­sive. Aujourd’hui les LLM ne peu­vent être con­sid­érés que comme des per­ro­quets appor­tant des répons­es prob­a­bilistes (« sto­chas­tic par­rots » selon Emi­ly Ben­der¹²). Bien sûr, ils con­stituent une rup­ture et il paraît néces­saire de réguler leur util­i­sa­tion dès maintenant.

L’in­tel­li­gence future ne saurait, nous sem­ble-t-il, être « arti­fi­cielle » au sens strict, c’est-à-dire conçue de toutes pièces. Mais elle serait éminem­ment col­lec­tive, émergeant des con­nais­sances (voire de la sagesse) accu­mulées par l’humanité.

Il est réal­iste de con­sid­ér­er que les IA actuelles, en tant que telles sont large­ment des out­ils et les incar­na­tions des sché­mas de pen­sées col­lec­tives, ten­dent vers la bien­veil­lance plutôt que le con­trôle ou la dom­i­na­tion. Cette intel­li­gence col­lec­tive n’est rien de moins, ici, qu’une pro­fonde mémoire qui se nour­rit des valeurs civil­isées qui prô­nent notam­ment l’aide aux per­son­nes dans le besoin, le respect de l’en­vi­ron­nement et le respect des autres.

Nous devons donc pro­téger ce pat­ri­moine immatériel et nous assur­er qu’il vise à apporter un sou­tien et une aide aux humains plutôt qu’à leur trans­met­tre des infor­ma­tions erronées ou les inciter à com­met­tre des actions répréhen­si­bles. Au risque de faire preuve de manichéisme, soulignons que les LLM peu­vent être util­isés pour faire le bien¹³, mais égale­ment le mal¹⁴. 

Dans une démarche logique, les scé­nar­ios alarmistes dans lesquels des acteurs malveil­lants seraient amenés, à court terme, à pro­gram­mer des objec­tifs man­i­feste­ment néfastes au cœur des IA appa­rais­sent a pri­ori comme exagérés. L’ar­gu­ment de la com­plex­ité des valeurs sug­gère que ces valeurs néga­tives se trou­veraient mal inté­grées au sein de la masse des valeurs pos­i­tives appris­es. Par ailleurs, il sem­ble prob­a­ble que les pro­gram­meurs bien inten­tion­nés (white hats) créent des IA qui pour­ront con­tr­er les straté­gies destruc­tri­ces des IA malveil­lantes (black hats). Ce qui pour­rait amen­er, assez naturelle­ment, à une « course aux arme­ments » classique.

Un autre con­tre-argu­ment à une prise de con­trôle malveil­lante des IA est leur poten­tiel économique. En effet, actuelle­ment, les IA grand pub­lic sont portées par des acteurs impor­tants du secteur économique (Ope­nAI, Google, Microsoft…) avec pour cer­tains d’entre eux au moins, une logique de rentabil­ité. Celle-ci requiert la con­fi­ance de l’utilisateur dans l’usage de l’IA mise à dis­po­si­tion, mais égale­ment la préser­va­tion des don­nées et des algo­rithmes con­sti­tu­ant l’IA en tant qu’actif immatériel au cœur de l’activité économique. Ain­si, les moyens de pro­tec­tion et de cyberdéfense engagés seront très importants.

Des ini­tia­tives ont déjà été pris­es afin de réguler l’IA spé­cial­isée. Pour autant, la régu­la­tion de l’In­tel­li­gence arti­fi­cielle générale va néces­siter des mesures spé­ci­fiques. Au sein de ces ini­tia­tives, nous pou­vons citer l’AI Act en cours de con­sti­tu­tion au sein de l’Union Européenne¹⁵. Les auteurs appor­tent par ailleurs les propo­si­tions sup­plé­men­taires suivantes :

• La mise en place d’un sys­tème de licences nationales qui per­me­t­tra de garan­tir que toute nou­velle IAG respecte les normes de sécu­rité nécessaires,
• Des sys­tèmes de véri­fi­ca­tion de la sécu­rité des IA dans des envi­ron­nements con­trôlés avant leur autori­sa­tion et leurs déploiements, 
• Le développe­ment d’une coopéra­tion inter­na­tionale plus avancée qui pour­rait don­ner lieu à des réso­lu­tions de l’Assemblée Générale de l’ONU et à la mise en place de con­ven­tions sur l’IA.

Pour une régu­la­tion rationnelle de l’I­AG il faut une analyse éclairée des enjeux et un équili­bre entre préven­tion des risques et pro­mo­tion des béné­fices. Les insti­tu­tions inter­na­tionales et les experts tech­niques vont jouer un rôle impor­tant pour la coor­di­na­tion des efforts néces­saires au développe­ment sûr et éthique de l’I­AG. Une bonne gou­ver­nance et une régu­la­tion effi­cace de l’IAG néces­siteront une approche dépassionnée.